2026年9月10日，Anthropic发布了一份威胁情报报告，详细说明了其AI聊天机器人Claude被滥用的情况。报告基于2025年12月至2026年8月期间发现并阻止的案例，涵盖网络攻击、虚假信息传播、诈骗，以及其他公司未经授权利用Claude输出训练自家AI模型等七个领域的滥用手法，以及公司针对每种情况采取的应对措施。
九个月内七大领域的滥用案例
本次报告涉及网络行动、舆论操纵、监控、诈骗、生物武器相关活动、常规武器开发，以及其他公司对Claude输出内容的未授权蒸馏这七个领域。据报告，涉事主体范围很广，包括疑似有国家背景的组织、以牟利为目的的犯罪者、商业间谍软件供应商、国家宣传机构以及出于政治动机的个人。Anthropic表示，公开这些滥用模式不仅有助于强化自身的安全防护，也有助于整个行业提升应对类似威胁的能力。
疑似俄罗斯背景的网络攻击团伙
Anthropic报告称，一个行为特征与已知攻击团伙"Midnight Blizzard"相符的组织，在针对乌克兰及欧洲多国政府、外交和国防相关机构的攻击行动中使用了Claude。据称，该团伙利用AI将攻击流程的大部分环节自动化，包括改造攻击工具和钓鱼基础设施；每当其恶意软件被安全产品检测到时，还会指示AI代理持续对其进行改造，以规避检测。Anthropic表示，一经发现该活动便立即将其终止，并据此强化了自身的安全防护措施。
虚假交友软件诈骗网络与监控工具
报告还提到了一个利用多款虚假交友软件诱骗用户的诈骗网络，以及专门用于持续监控特定人员的工具。在舆论操纵方面，报告称某组织以20种语言在近70个网站上发布了约9000篇文章，并通过约250个虚假社交媒体账号进行扩散。
以阿里巴巴为代表的中国AI企业大规模未授权训练
报告还重点关注了"蒸馏"行为，即其他公司大量收集Claude的输出内容，用于训练自家模型。据报告，与阿里巴巴相关的一次行动是Anthropic迄今监测到规模最大的此类案例，在2026年5月至7月期间观测到超过1.51亿次交互。报告称，该团伙诱导Claude完整写出其推理过程，再收集这些记录作为训练数据，用于阿里巴巴Qwen系列模型的训练。此外，报告还提到月之暗面(Moonshot AI)曾在未告知用户的情况下，将部分客户请求转发给Claude处理，再将Claude生成的回复以自家Kimi模型的名义呈现给用户。
总结
Anthropic表示，仅靠简单的关键词屏蔽和账号封禁，不足以应对有组织、分布式的威胁，并呼吁业界建立更强的架构层面安全防护、加强API层面的管控、在AI企业之间建立实时威胁情报共享机制，并为敏感研究领域设立经过身份核实的访问制度。该公司表示，报告中提到的每一起案例都在发现后第一时间被终止，并在适当情况下与执法部门及行业伙伴共享了相关情报，未来也将持续发布类似报告。
