OpenAIが、GPT-5.6の効率をどう引き上げたのかを解説する技術記事を公開しました[1]。注目したいのは、最適化の実務を担ったのがフラッグシップのGPT-5.6 Sol自身だという点です。Codex経由で本番環境のGPUカーネルを書き換え、エンドツーエンドの提供コストを20パーセント削減したとしています。モデルそのものだけでなく、推論スタックとエージェント基盤の両面で効率を積み上げた内容が明かされました。
効率はモデル単体では決まらない
GPT-5.6はSol、Terra、Lunaの3階層で構成され、能力とコストの釣り合いを取る設計になっています。OpenAIによれば、最大推論設定のSolはArtificial AnalysisのCoding Agent IndexでClaude Fable 5を上回りながら、コストは半分未満に収まります。TerraはGPT-5.5と同等の知能ベンチマーク結果を半額で出し、Lunaは最速かつ最安の位置づけでSolより80パーセント安い価格が設定されています[1]。
こうした数字を支えているのは、モデルの訓練だけではありません。同社は過去4年で利用者10億人、法人200万社超まで規模を広げており、同じハードウェアからより多くのトークンを取り出すことが設計上の最優先事項になっています。モデルが単体で効率的でも、リクエストの割り振りが下手だったり、ハードウェアが遊んでいたり、データ移動が計算を待たせたりすれば、運用コストは下がりません[1]。
そのためOpenAIは、リクエストの送り先を決めるルーティング、送るタイミングを決めるスケジューリング、GPU上で動くカーネル、再利用のためのキャッシュ、GPUコードの実行順序というモデル実装まで、層をまたいで手を入れています。地理的条件・空き容量・アクセラレータの種類でグローバルに振り分け、クラスタ内では負荷やコンテキスト長、キャッシュの有無で配分するといった具合です[1]。
カーネルを書き換えたのはAI自身
ここでGPT-5.6 Solが前面に出てきます。Solは本番トラフィックを解析して見落とされていた負荷の偏りを特定し、新しいルーティング戦略を試し、判断基準の調整を継続的に回しました。この負荷分散の改善だけでも、モデル提供コストは大幅に下がったとされています[1]。
さらに踏み込んだのが、入力を次トークンの予測へ変換する順伝播処理の最適化です。SolはCodex上で、事前計算できる処理・省略できる処理・並列化できる処理を洗い出し、本番用カーネルを自律的に書き換えました。カーネルは、モデルを構成する数学的な演算を実行する中核コードにあたります。これを可能にしたのは、OpenAIが保守するオープンソースのGPUプログラミング言語であるTritonとGluonでの記述と改善に、GPT-5.6が習熟するよう訓練されていたことです。一連のカーネル改良によって、エンドツーエンドの提供コストは20パーセント下がりました[1]。
AIが書いたコードをそのまま本番に流すわけにはいかないため、検証側の投資も同時に進んでいます。同社は浮動小数点演算の検証ツールFpSanをオープンソースで公開し、Solが書いたカーネルの正しさを確かめる用途に充てています[1]。海外の技術メディアも、この一連の作業があくまで人間が主導するプロセスの内側でSolに委ねられたものだと整理しており、完全な自動運転ではない点を強調しています[2]。
投機的デコードとキャッシュ設定の作り込み
速度と効率を同時に稼ぐ手法として、投機的デコードにも手が入りました。これは本体モデルの脇で小さなドラフトモデルを走らせ、複数のトークンを先回りで提案させ、本体側が並列に検証する仕組みです。提案が通れば、本体モデルの1回の処理から複数のトークンを出力できるため、逐次計算の負担が減ります[1]。
このドラフトモデルを改良したのもSolでした。サイズ・構造・機能を変えた数百件の実験を自ら設計して実行し、さらに学習プロセスの起動と監視まで担当しています。ハードウェア障害や学習の不安定化が起きた際には自律的に介入したとされ、結果としてトークン生成の効率は15パーセント以上向上しました[1]。
キャッシュまわりも同様です。キャッシュに乗っていない入力を処理する際、モデルは計算負荷の高い1回のパスでキーバリュー（KV）キャッシュを構築し、出力生成時にはそれを繰り返し読み書きします。バッチ処理の粒度やシャーディング、KVの管理方法といった最適な設定はワークロード次第で変わりますが、組み合わせが膨大すぎて、これまでは大まかな経験則に頼らざるを得ませんでした。Codex上のSolが本番ワークロードを解析し、候補となる設定を生成・評価したことで、シナリオごとの作り込みが現実的な作業になったとしています[1]。
エージェント基盤では文脈の膨張を抑える
もう1つの柱が、CodexとChatGPT Workが共有するエージェント基盤です。モデルとツール、利用者の環境をつなぐRust製のオーケストレーション層として実装されています[1]。
エージェントの処理は、1回のやり取りの中でソースコードの確認、デプロイ履歴の検索、障害報告の読み込み、ファイルの編集、テストの実行といった具合に何度もモデル呼び出しを重ねます。1つのタスクに30回のリクエストが必要なら、1回あたり1秒の無駄が全体では30秒に膨らむ計算です。だからこそ、モデルを速くするだけでなく、システム全体の重複作業を削ることが効いてきます[1]。
具体策として挙げられているのが、必要になるまで統合機能やMCPツール、スキル、プラグインを露出させない遅延ディスカバリーです。加えて、ツール出力は既定で1万トークンに上限が設けられ、モデルが別の上限を要求した場合のみ変更されます。個々のツールが不用意にコンテキストウィンドウを食い潰す事態を防ぐ設計です[1]。
プロンプトキャッシュを効かせるための工夫も徹底しています。モデルから見える履歴は追記専用として扱い、新しいメッセージやツールの実行結果は既存の文脈に差し込まず末尾に足していきます。ツールの提示順序も固定し、承認ポリシーのような実行時設定はツール定義に埋め込まず実行段階で適用します。この積み重ねが、CodexとChatGPT Workの高いキャッシュヒット率につながっているとしています[1]。
まとめ
OpenAIは、GPT-5.6の効率がモデル・推論・エージェント基盤の3方向から積み上げられたものだと説明しています。中でも目を引くのが、GPT-5.6 Sol自身がCodexを通じて本番カーネルを書き換え、提供コストを20パーセント下げ、投機的デコードの改良でトークン生成効率を15パーセント以上高めたという実績です。計算資源の逼迫が続くなかで、最適化の担い手がAI側へ移りつつある流れを示す事例と言えます。
出典[1]：https://openai.com/index/gpt-5-6-frontier-intelligence-efficiency
