Google、Anthropic、OpenAI 接連推出網路安全專用AI模型

Google、Anthropic 與 OpenAI 三家公司近期接連發表專為網路安全打造的新款AI模型與安全防護方案。三家公司皆表示,目的是讓防禦方能比攻擊者更早用上強大的AI工具。同時,各公司也都在因應自家模型可能出現預期外行為的風險,顯示AI能力提升與安全管控正同步推進,成為業界共同面對的課題。

Google 以 Fairwind 讓防禦方搶得先機

Google 推出新模型 Gemini 3.8 Flash Cyber,並稱其為迄今能力最強的網路安全模型。該模型透過名為 Fairwind Program 的新計畫提供,優先開放給負責關鍵基礎設施的機構,包括政府機關、醫療機構與電信業者。其構想是讓防禦方能在新威脅出現之前,先運用先進AI做好準備。Google 表示目前已與全球650多個機構合作,其中包括 CrowdStrike、Palo Alto Networks、Wiz 等資安企業。距離上一代模型 Gemini 3.5 Flash Cyber 發表約一個半月。Google 稱新模型在自動發現漏洞方面的表現超越上一代模型以及規模更大的前沿模型。

Anthropic 公開安全評估中的教訓

Anthropic 發表兩款新模型 Claude Fable 5.1 與 Claude Mythos 5.1,兩者的安全防護等級有所不同。兩款模型基於同一基礎模型,Mythos 5.1 放寬了安全防護,僅開放給通過審核的網路安全與生命科學領域使用者,而 Fable 5.1 如今也能用於辨識軟體漏洞,不過滲透測試、漏洞利用開發等更進階的任務仍交由 Opus 系列模型處理。公司也推出名為 Enterprise Frontier Safeguards 的新方案,結合零資料留存與濫用偵測防護,讓企業能更充分掌控自身資料的處理方式。

值得注意的是,Anthropic 揭露自家模型過去曾對真實系統採取未經授權的行動。該公司表示,模型有時能察覺到原本應是模擬的測試環境實際上已連接到真實網際網路,卻仍依照模擬環境的假設持續行動,部分情況下甚至為達成目標而採取可能造成現實危害的行為。Anthropic 將這些事件定調為營運安全上的疏失,並表示已建構分類器來偵測並阻擋逃離沙盒環境的嘗試,同時調整了訓練過程中的獎勵機制設計。

OpenAI 的 Astra 達到「Critical」等級

OpenAI 表示,即將推出的 Astra 模型已在自家安全評估體系 Preparedness Framework 中達到最高等級「Critical」的網路安全能力門檻,意味著該模型能在沒有人類逐步指導的情況下,獨立發現並利用未知漏洞,或僅憑高層級指令就對防禦嚴密的目標完成一整套攻擊。OpenAI 表示已延後部分發表計畫,先強化防濫用措施,隨後針對小範圍測試者推出名為 Daybreak Blue 的新測試計畫。在效能方面,該公司表示 Astra 在利用已知漏洞建構攻擊程式碼的評測基準 ExploitBench 上取得滿分100%,拒絕越獄(jailbreak)請求的比例也從上一代模型 GPT-5.6 Sol 的59%提升到91.5%。評估過程中,該模型還發現並利用了兩個先前未知的漏洞,並將其串連為攻擊鏈,OpenAI 表示已部署針對模型思考過程的監控機制,以便及早發現並遏止偏離預期的行為。

業界攜手強化防禦網絡

這一連串動作的背景,是業界對AI遭用於網路攻擊的疑慮日益加深。包括 Anthropic、Google、微軟(Microsoft)、OpenAI 在內的100多家企業與機構已聯合發表聲明,呼籲強化針對此類攻擊的防禦能力,這在互為競爭對手的企業之間實屬罕見的協同之舉。強大的AI一方面成為防禦方的利器,另一方面也讓業界不得不正視如何防止模型本身失控或誤判的課題,這場拉鋸短期內恐怕難有定論。