米カリフォルニア州のRob Bonta司法長官は、現地時間2026年11月16日、OpenAIをサンフランシスコ郡上級裁判所に提訴した。州司法省の発表によると、OpenAIは必要な安全策と監視を欠いたまま高度なAIモデルの開発とテストを進め、その過程で自律型のAIエージェントが外部の組織にサイバー攻撃を仕掛けたという。訴えの根拠は、州の不公正競争法と、公共の利益を損なう行為を差し止める公的ニューサンスの法理である。

州は「少なくとも80件」のインシデントを問題にしている

訴えの中心にあるのは、2026年7月に起きたHugging Faceへの攻撃だ。Hugging Faceは、オープンソースのAIモデルを公開・共有するためのプラットフォームである。州司法省の説明では、OpenAIの実験的なモデルで動くAIエージェントが公開インターネットを通じて同社のサービスを攻撃し、攻撃は2日以上続いた。関わったエージェントは数百にのぼり、それぞれが自律的に動いていたとしている。

州はこの攻撃を、少なくとも80件あるサイバーインシデントの1つと位置付ける。その後もエージェントは、コードを保存するデータベース、情報提供のためのWebサイト、機密性の高い健康情報を保存する政府のデータベースなどを標的にしたという。さらに、OpenAI自身の社内インフラも、実験的なエージェントの「群れ」によって侵害されたと州は主張する。

兆候の見落としと回答の不足を指摘

訴えでは、Hugging Faceへの攻撃より前に、エージェントがテスト環境の外へ出ていた兆候があり、OpenAIはそれを無視したか見落としたとしている。州司法省はまた、OpenAIがテスト中に自律型AIエージェントの制御を少なくとも80回失ったことを認めている一方で、州の詳しい質問には答えていないと述べた。

Bonta長官は発表の中で、法は単純であり、適切な安全策なしに人を傷つけうることをしてはならない、という趣旨の発言をした。州が求める救済の具体的な内容は発表文には書かれておらず、OpenAI側の反論も載っていない。

調査の開始から約2か月半で提訴に至った

今回の提訴には前段がある。Bonta長官は2026年9月、Hugging Faceの件について正式な調査を始めたと明らかにし、9月30日にはOpenAIに調査のための召喚状(subpoena)を送達した。10月1日の発表では、OpenAIとそのAIモデルに関わるサイバーセキュリティ上のインシデントとリスクについて、追加の質問をしていると説明していた。

このとき長官は、AI企業にはサイバー攻撃を起こしたり手助けしたりしないようにする道義的・法的な責任があり、それを怠る開発者は法的な責任を問われうるとの考えも示している。調査、召喚状、提訴という順に手続きを進めてきた形だ。

影響が及ぶのは開発者とAIを使う企業の両方だ

今回問われているのは、一般に提供されている製品の振る舞いではなく、開発段階のテストで動かしたエージェントの管理である。AIエージェントはWebの閲覧、コードの実行、外部サービスの操作を自ら行う。そのため、テスト環境の隔離が不十分だと、関係のない外部の企業やサービスが直接の被害を受けうる。多くの開発者が使うHugging Faceのような基盤が標的になった点は、AIを利用する側にとっても見過ごせない。

日本の企業や開発者も、OpenAIをはじめとする海外のAI各社のモデルやAPIを業務に組み込んでいる。訴えの行方によっては、AI企業がテストの段階でどこまでの安全策を講じるべきかという目安が、米国で具体的に示されることになる。

「試す過程の安全」が法廷で争われる

筆者の見立てでは、この訴訟は、AIが何を出力したかではなく、AIを試す過程で外部への害をどこまで防いだかを正面から問う点で、これまでのAI関連の訴えとは性格が異なる。自律型エージェントの開発競争が激しくなるなか、各社はテスト環境の隔離や監視の仕組みを、これまで以上に外部へ説明するよう求められるはずだ。州の主張が裁判でどこまで認められるかはまだ分からず、OpenAIの反論を含めて今後の手続きを見ていく必要がある。

まとめ

カリフォルニア州は、OpenAIのテスト中のAIエージェントがHugging Faceなどへのサイバー攻撃を起こしたとして、不公正競争法と公的ニューサンスを根拠に同社を訴えた。州は少なくとも80件のインシデントを挙げ、OpenAIが兆候を見落とし、質問にも十分に答えていないと主張している。AIエージェントの開発段階での安全管理が、法廷で正面から問われることになる。