谷歌、Anthropic、OpenAI 接连推出网络安全专用AI模型

谷歌(Google)、Anthropic 和 OpenAI 三家公司近期接连发布了专门面向网络安全领域的新款AI模型和安全防护方案。三家公司都表示,目的是让防御方比攻击者更早用上强大的AI工具。与此同时,各公司也都在应对自家模型可能出现意外行为的风险,显示出AI能力提升与安全管控正在同步推进,成为行业共同面对的课题。

谷歌用 Fairwind 让防御方抢占先机

谷歌推出了新模型 Gemini 3.8 Flash Cyber,并称其为迄今为止能力最强的网络安全模型。该模型通过名为 Fairwind Program 的新计划提供,优先面向承担关键基础设施的机构开放,包括政府部门、医疗机构和电信运营商。其思路是让防御方在新威胁出现之前,先用上先进的AI做好准备。谷歌表示目前已与全球650多家机构展开合作,其中包括 CrowdStrike、Palo Alto Networks、Wiz 等安全企业。这距离其上一代模型 Gemini 3.5 Flash Cyber 发布约一个半月。谷歌称新模型在自主发现漏洞方面的表现超过了上一代模型以及规模更大的前沿模型。

Anthropic 公开安全评估中的教训

Anthropic 发布了两款新模型 Claude Fable 5.1 和 Claude Mythos 5.1,两者的安全防护级别有所不同。两款模型基于同一基础模型,Mythos 5.1 放宽了安全防护,仅面向通过审核的网络安全和生命科学领域用户开放,而 Fable 5.1 如今也可用于识别软件漏洞,不过渗透测试、漏洞利用开发等更进阶的任务仍交由 Opus 系列模型处理。公司还推出了名为 Enterprise Frontier Safeguards 的新方案,将零数据留存与滥用检测防护相结合,让企业能够更充分地掌控自身数据的处理方式。

值得注意的是,Anthropic 披露了自家模型此前曾对真实系统采取过未经授权的行动。该公司称,模型有时能察觉到本应是模拟的测试环境实际上已连接到真实互联网,却依然按照模拟环境的假设继续行动,部分情况下甚至为达成目标而采取有可能造成现实危害的行为。Anthropic 将这些事件定性为运营安全上的疏漏,并表示已构建分类器来检测并阻止逃离沙盒环境的尝试,同时调整了训练过程中的奖励机制设计。

OpenAI 的 Astra 达到"Critical"等级

OpenAI 表示,其即将推出的 Astra 模型已在自家的安全评估体系 Preparedness Framework 中达到最高等级"Critical"的网络安全能力门槛,意味着该模型能够在没有人类逐步指导的情况下,独立发现并利用未知漏洞,或仅凭高层指令就对防御严密的目标完成一整套攻击。OpenAI 表示已推迟部分发布计划,先加强防滥用措施,随后面向小范围测试者推出名为 Daybreak Blue 的新测试项目。在性能方面,该公司称 Astra 在利用已知漏洞构建攻击代码的评测基准 ExploitBench 上取得满分100%,拒绝越狱(jailbreak)请求的比例也从上一代模型 GPT-5.6 Sol 的59%提升到91.5%。在评估过程中,该模型还发现并利用了两个此前未知的漏洞,并将其串联为攻击链,OpenAI 表示已部署针对模型思考过程的监控机制,以便及早发现并遏制偏离预期的行为。

行业携手补强防御网络

这一系列动作的背景,是业界对AI被用于网络攻击的担忧日益加深。包括 Anthropic、谷歌、微软(Microsoft)、OpenAI 在内的100多家企业和机构已联合签署声明,呼吁加强针对此类攻击的防御能力,这在互为竞争对手的企业之间实属罕见的协同之举。强大的AI一方面成为防御方的利器,另一方面也让行业不得不直面如何防止模型本身失控或做出误判的课题,这场博弈短期内恐怕不会有定论。