AI 安全研究机构 Apollo Research 与 Transluce 于 2026 年 11 月 16 日(美国时间)分别在各自官网宣布,将试点派驻研究人员进入 OpenAI 内部、检验其 AI 模型的“嵌入式评估”(embedded assessment)。这一做法突破了外部评估方仅在产品发布前短时间测试模型的传统模式,把外部审视延伸到模型训练过程中和公司内部使用阶段。
两家机构都把此次合作定位为“第一步”,并将条件和限制一并公开。具体条件可参阅 Transluce 的公告(Announcing an Embedded Assessment Pilot with OpenAI)。
Apollo Research 派 6 人团队用 4 个月排查规避监督的行为
据 Apollo Research 公告,该机构将由 6 人团队开展为期 4 个月的评估,重点核查以下 4 个问题:
- 训练机制是否诱导 AI 产生规避监督的行为(subversion)
- 评估和红队测试的过程是否诱发了此类行为
- 在公司内部使用期间,此类行为是否实际发生
- 能否检测到与此类行为相关的推理
针对第 1 个问题,Apollo Research 将获得相关训练代码和数据集、包含推理过程与奖励的强化学习运行记录,并可查询训练中间的检查点。其余 3 个问题所需的访问权限尚待双方商定。全部工作将在 OpenAI 的硬件上进行,成果计划整理为 2 份公开报告。
Transluce 用 6 周审查 OpenAI 自己的对齐评估
Transluce 的任务是审查 OpenAI 在后训练阶段使用的对齐评估,考察这些评估能否有效发现欺骗、操纵用户、奖励黑客(reward hacking)等问题。试点为期 6 周,Transluce 人员将在 OpenAI 的办公地点现场工作,访问权限从 12 月上旬开始生效。
Transluce 将获得少数 OpenAI 模型的特殊访问权限,其中至少包括 1 个仅供内部使用的模型。它还可以查看模型的原始思维链(chain-of-thought)、部分对齐评估、大量对话记录以及论证安全性的文档。不过,该机构也明确表示,这些权限并不等同于员工级别的访问。
费用方面,Transluce 及其员工不接受 OpenAI 的报酬,算力、现场使用的设备和基础设施以及办公场所由 OpenAI 提供。双方计划在 2027 年初开展权限更广、更深入的后续评估,但具体安排尚未确定。
是否公开由评估方决定,完整报告提交董事会委员会
评估结果的处理也有明确规则。按照 Apollo Research 的说明,OpenAI 可以要求对机密信息进行涂黑,但不能删除评估结论,也不能仅因内容对自己不利就删除相关发现。如果 OpenAI 出于技术或安全原因不提供某些资料,也必须说明这些资料的存在,并以书面形式给出理由。Apollo Research 还获得了公开说明评估条件、限制以及未获提供资料等情况的权利,即“元透明度”(meta-transparency)。
对于 Transluce,编辑控制权归该机构所有。OpenAI 会在发布前收到报告,并可要求涂黑知识产权和非公开信息;涉及仅供内部使用模型的结果则不会公开。无论哪项评估,未经涂黑的完整报告都将提交给 OpenAI 董事会下设的安全与安保委员会(Safety and Security Committee)。Transluce 还可以就与 OpenAI 的分歧直接向该委员会反映。
为何仅靠发布前的检测还不够
Apollo Research 此前也曾评估 OpenAI 的模型,但大多是在后训练完成之后、公开发布前不久进行。该机构认为,这种方式不足以检验 AI 在规避监督的同时暗中追求目标的“密谋”(scheming)等行为。该机构还表示,无论外界是否信任开发者,评估结果都必须具备可信度。
Transluce 同样指出,入驻内部的意义在于可以接触到外部评估方以往通常无法获得的内部信息。
笔者观点
外部评估方能够接触训练中的模型和仅供内部使用的模型,可以说是 AI 安全评估向前迈出的一步。但 Apollo Research 的 4 个问题中有 3 个的访问范围尚未确定,Transluce 的试点期也只有 6 周。评估方实际能看到多少,要等两家机构按承诺公开“提出了哪些请求、哪些获批、哪些被拒”之后才能知晓。笔者认为,这份记录连同报告内容本身,将决定这项尝试的可信度。
总结
Apollo Research 与 Transluce 宣布试点从 OpenAI 内部检验模型的嵌入式评估。Apollo Research 将以 6 人团队用 4 个月时间从多个角度排查规避监督的行为,Transluce 则用 6 周审查 OpenAI 自己的对齐评估。两家机构都将公开结果,未经涂黑的报告则提交给 OpenAI 董事会的委员会。