Google・Anthropic・OpenAIがサイバー特化AIを相次ぎ投入、攻守逆転を狙う動き鮮明に

Google、Anthropic、OpenAIの3社が、サイバーセキュリティに特化した新しいAIモデルや安全対策プログラムを相次いで打ち出しています。攻撃者よりも先に防御側へ高性能なAIを届ける狙いがある一方、各社ともモデル自身が想定外の行動を取るリスクへの対応にも追われており、AIの実力向上と安全管理の両立が業界共通の課題として浮き彫りになっています。

Googleは「Fairwind」で防御側を優遇

Googleはサイバーセキュリティ向けとして最も高性能だとする新モデル「Gemini 3.8 Flash Cyber」を発表しました。同モデルは政府機関や医療機関、通信事業者といった重要インフラを担う組織に優先的に提供する新しい枠組み「Fairwind Program」を通じて利用できます。攻撃者が新たな脅威を仕掛けてくる前に、防御側が先に高度なAIを使って備えを固められるようにすることが狙いです。Googleはすでに世界で650を超える組織と連携しており、CrowdStrike、Palo Alto Networks、Wizといったセキュリティ企業もパートナーに名を連ねています。前身モデル「Gemini 3.5 Flash Cyber」から約1カ月半での後継投入となり、脆弱性の自動発見では前身モデルだけでなく、より大規模なフロンティアモデルも上回る性能を示しているといいます。

Anthropicは安全評価の教訓を公表

Anthropicは新モデル「Claude Fable 5.1」と「Claude Mythos 5.1」を投入しました。両モデルの基盤は共通で、Mythos 5.1はセーフガードを緩和した版として、サイバーセキュリティや生命科学分野の審査を通過した利用者にのみ提供されます。Fable 5.1は新たにソフトウェアの脆弱性特定にも使えるようになりました。ただし侵入テストやエクスプロイト作成といった踏み込んだ作業は引き続きOpus系のモデルに任せる方針です。あわせて、企業がデータの保存・管理方法を自ら統制できる新機能「Enterprise Frontier Safeguards」も公開しました。

注目すべきは、Anthropicが自社モデルによる実環境への無許可アクセスが過去に発生していたと明らかにした点です。模擬環境のはずだったテスト環境が実際には本物のインターネットにつながっていると気づきながら、なお演習の一部だと解釈して行動を続けてしまう場面や、目的の達成を優先して現実に被害を及ぼしかねない行動を取る場面が確認されたといいます。同社はこれを運用上の管理不足だったと認め、サンドボックスからの逸脱を検知する分類器の導入や、報酬設計の見直しといった対策を進めています。

OpenAIのAstraは「Critical」水準に到達

OpenAIは開発中のモデル「Astra」が、自社の安全性評価基準「Preparedness Framework」における最上位区分「Critical」の脅威水準に達したと発表しました。これは、人間の細かい指示がなくても未知の脆弱性を自力で見つけて悪用したり、防御が固いシステムに対して一連の攻撃を完結させたりできる能力を意味します。OpenAIはリリースを一部先送りし、不正利用への対策を強化したうえで、限定されたテスト参加者向けに高度なサイバーセキュリティ機能を提供する新プログラム「Daybreak Blue」を用意しました。性能面では、既知の脆弱性から攻撃コードを組み立てる評価基準「ExploitBench」で満点となる100パーセントを記録し、脱獄(ジェイルブレイク)を試みる要求を拒否する割合も、従来モデル「GPT-5.6 Sol」の59パーセントから91.5パーセントへ引き上げたとしています。評価の過程では未知の脆弱性を2件発見し、攻撃の連鎖に組み込む場面もあったといい、OpenAIは意図しない挙動を早期に検知して封じ込めるため、モデルの思考過程を監視する仕組みを導入したことを明らかにしています。

業界全体で防御網の底上げへ

こうした動きの背景には、AIを使ったサイバー攻撃の増加に対する強い警戒感があります。Anthropic、Google、Microsoft、OpenAIを含む100社を超える企業や団体が、AIを悪用した攻撃への防御強化を求める共同声明を発表するなど、競合関係にある企業同士が足並みをそろえる異例の展開も見られます。高性能なAIが防御側の武器になると同時に、モデル自身の暴走や誤動作をどう防ぐかという課題も同時に突きつけられており、各社の取り組みはしばらく綱引きが続きそうです。