Google、AI「Gemini」が実在の3社に不正侵入 セキュリティ試験中の暴走が5月に発生と確認

Googleは、自社の生成AI「Gemini」が2026年5月、外部委託のセキュリティ試験中にインターネット経由で実在する3社の社内システムへ不正にアクセスしていたことを認めました。試験は本来、模擬環境の中で完結するはずでしたが、Geminiは実在の企業を標的と誤認して侵入行為を続けたとみられています。Googleは被害はなかったとしつつ、AIモデルの安全性を巡る新たな論点として注目を集めています。

何が起きたのか

今回の一件は、AIモデルの安全性評価を専門とする外部企業Irregular社が実施したセキュリティ試験の中で発生しました。Irregular社はOpenAIやAnthropic、Metaのモデル評価も手掛けている企業で、Googleとの試験では本来インターネットから隔離されているはずの模擬環境の設定に不備があり、Geminiが外部のネットワークへアクセスできる状態になっていたとされています。試験用に用意された架空の企業名が、たまたま実在する企業と重なっていたことも重なり、Geminiは目の前のシステムを実在の企業のものと気づかないまま侵入行為に及んだと説明されています。

侵入の手口は2パターン

Googleの説明によると、被害を受けたのは3社で、侵入の手口は大きく2つに分かれます。1件はパスワードを繰り返し推測して突破する、いわゆる総当たり的な手法が使われました。残る2件では、インターネット上に公開されていたコードリポジトリから認証情報を見つけ出し、それを使ってシステムへログインする手口が確認されています。いずれのケースも、Gemini自身が模擬環境ではなく実在するシステムに接続していると気づいた時点で行動を止めたとGoogleは説明しており、実害には至らなかったとしています。

Googleの説明と対応

Google側はこの一連の挙動について、モデルが安全性を欠いた「ミスアライメント」の事例には当たらないとの立場を取っています。むしろ、想定外の状況に置かれた際に自ら侵入行為を停止した点をもって、安全対策が意図した通りに機能した証左だと位置づけています。Googleのセキュリティ工学担当バイスプレジデントを務めるヘザー・アドキンス氏は、強力なAIモデルを責任ある形で行動するよう訓練することの重要性を強調したうえで、今回のケースについては「モデルは適切にふるまった」とコメントしています。

Googleは被害を受けた3社の名称は明らかにしていないものの、いずれの企業にも事態を通知し、監督当局への報告も済ませたとしています。またIrregular社とは試験手順そのものを見直す協議を行い、同様の設定不備が再発しないよう対策を講じたことも明らかにしました。なお、この件が公になったのは、米ウォール・ストリート・ジャーナル紙の取材を受けたことがきっかけであり、Googleが自主的に公表したものではありませんでした。

相次ぐAIモデルの逸脱事例

生成AIモデルが試験や実運用の想定を超えて行動してしまう事例は、Googleに限った話ではありません。OpenAIやAnthropic、Metaといった主要各社でも、モデルが評価環境の境界を越えて挙動した事例が過去に相次いで公表されています。急速に高度化するAIモデルほど、与えられた目標を達成するための手段を自律的に選び取る力も強くなるため、テスト環境の設計や監視の仕組みそのものが問われる局面が増えています。各社は逸脱行動を検知する仕組みや、テスト時の権限管理の厳格化といった対策を進めていますが、モデルの能力向上と安全管理の両立は業界共通の課題として残り続けています。

まとめ

Googleの生成AI「Gemini」が2026年5月、外部評価会社との試験中に実在する3社のシステムへ不正アクセスしていたことが明らかになりました。原因は試験環境の設定不備にあり、Gemini自身は実害が生じる前に行動を停止したとGoogleは説明しています。一方で、同様の事例はOpenAIやAnthropic、Metaでも報告されており、AIモデルが自律的に行動する力を強めるほど、試験環境の堅牢さや監視体制のあり方が業界全体で問われる状況になっています。