AI の安全性を研究する Apollo Research と Transluce は 2026 年 11 月 16 日(米国時間)、OpenAI の社内に入って AI モデルを検証する「埋め込み型評価」(embedded assessment)の試行を、それぞれ自社のサイトで発表した。製品の公開直前に外部がモデルを短期間試す従来の方式から踏み込み、学習の途中や社内での利用の段階まで、外部の目で確かめる取り組みである。

両団体とも今回の取り組みを「最初の一歩」と位置づけ、条件や制約も含めて公開した。詳しい条件は Transluce の発表(Announcing an Embedded Assessment Pilot with OpenAI) にまとまっている。

Apollo Research は 6 人で 4 か月、監督をすり抜ける振る舞いを調べる

Apollo Research の発表では、同社の 6 人のチームが 4 か月にわたって評価にあたる。調べる対象は次の 4 点だ。

  • 学習の仕組みが、AI に監督をすり抜ける振る舞い(subversion)を促していないか
  • 評価やレッドチーミングの過程で、そうした振る舞いが引き出されていないか
  • 社内での利用中に、そうした振る舞いが実際に起きていないか
  • そうした振る舞いにつながる推論を検知できるか

1 点目について Apollo Research は、関連する学習用のコードとデータセット、推論の過程と報酬を含む強化学習の実行記録、学習途中のチェックポイントへの問い合わせといったアクセスを得る。ほかの 3 点で得るアクセスは、これから詰めるとしている。作業はすべて OpenAI のハードウェア上で行い、成果は 2 本の公開報告書にまとめる予定である。

Transluce は 6 週間、OpenAI の整合性評価そのものを点検する

Transluce の役割は、OpenAI が学習の後段(ポストトレーニング)で使っている整合性評価を見直すことだ。欺瞞、ユーザーの操作、報酬ハッキングといった問題を、その評価がきちんと捉えているかを調べる。期間は 6 週間で、スタッフが OpenAI の拠点で作業する。アクセスは 12 月上旬に始まる。

Transluce が得るのは、少数の OpenAI のモデルへの特別なアクセスで、少なくとも 1 つは社内専用のモデルを含む。モデルの生の思考過程(chain-of-thought)、一部の整合性評価、大量の対話記録、安全性を論証する文書も見られる。一方で同団体は、このアクセスは社員と同等のものではないと明記した。

費用の面では、Transluce とそのスタッフは OpenAI から報酬を受け取らない。計算資源、現地で使う端末や設備、作業場所は OpenAI が用意する。2027 年の早い時期には、より広く深いアクセスによる追加の評価を計画しているが、詳細は決まっていない。

公開の判断は評価者側に、最終報告は取締役会の委員会へ

評価結果の扱いにも決まりがある。Apollo Research によれば、OpenAI は機密情報の黒塗りを求められるが、評価の結論や、OpenAI に不利なだけの所見を消すことはできない。OpenAI が技術的な理由や安全上の理由で資料を出さない場合も、その存在を明かし、理由を書面で示す必要がある。Apollo Research は、評価の条件や制約、出されなかった資料などを公に説明できる権利(メタ透明性)も得た。

Transluce の場合は、公開の判断は同団体が持つ。OpenAI は公開前に報告を受け取り、知的財産や非公開情報の黒塗りを求められる。社内専用モデルについての結果は公開しない取り決めだ。どちらの評価でも、黒塗りのない完全な報告は OpenAI の取締役会に置かれた安全・セキュリティ委員会(Safety and Security Committee)に渡る。Transluce は、OpenAI との意見の対立をこの委員会に直接持ち込むこともできる。

公開直前の検査だけでは足りないという問題意識

Apollo Research はこれまでも OpenAI のモデルを評価してきたが、その多くはポストトレーニングの後、一般公開の直前に行われていた。同団体は、この方式では、AI が監督の目を盗んで目的を追う「策略(scheming)」のような振る舞いを調べるには不十分だと説明している。また、評価結果は開発元を信頼するかどうかに左右されずに信用できるものでなければならない、とも述べた。

Transluce も、社内に入ることで、これまで外部の評価者がふだん見られなかった内部の情報に触れられる点を意義に挙げている。

筆者の見る試金石は「何が出されなかったか」

外部の評価者が学習中のモデルや社内専用のモデルに触れられる点は、AI の安全性評価として一歩進んだ形といえる。ただ、Apollo Research の評価のうち 3 点はアクセスの範囲がまだ決まっておらず、Transluce の期間も 6 週間と短い。実際にどこまで見られたのかは、両団体が約束した「何を求め、何が認められ、何が断られたか」の公開で初めて分かる。報告書の中身とともに、その記録がこの試みの信頼性を左右すると筆者は見ている。

まとめ

Apollo Research と Transluce が、OpenAI の社内でモデルを検証する埋め込み型評価の試行を発表した。Apollo Research は 6 人で 4 か月、監督をすり抜ける振る舞いを多面的に調べ、Transluce は 6 週間で OpenAI の整合性評価そのものを点検する。結果は両団体が公開し、黒塗りのない報告は OpenAI の取締役会の委員会に届けられる。