ハーバード大学、スタンフォード大学、Together AI、Caltechの研究者9人からなるチームが、AIコーディングエージェントにGPU固有の知識を持たせ、演算カーネルを自動生成・最適化させるフレームワーク「HAWKEYE」を公開しました。NVIDIAとAMDの4種類のGPUアーキテクチャで検証し、新しいAttention処理では幾何平均で最大18.9倍の高速化を報告しています。

新しいチップが出るたびに人手で書き直している

AIアクセラレーターは毎年のように新しい世代が出ますが、性能を引き出すソフトウェアはその都度作り直しになります。命令セットもメモリー階層もキャッシュの効き方も変わるため、演算カーネルを書く側は世代ごとにチューニングをやり直す必要があるからです。この作業ができる人材は限られており、ハードウェアの登場からソフトウェアが追いつくまでの時間差がそのまま実効性能の差になります。

大規模言語モデルにコードを書かせる試みは以前からありますが、低レベルのGPUプログラミングでは分が悪いとされてきました。文法として正しいコードは書けても、どのメモリーアクセスがボトルネックになるか、どの命令が特定の世代でだけ速いかといった、ハードウェア寄りの勘所を持っていないためです。

HAWKEYEはこの穴を埋めにいきます。厚い技術文書や製品レベルのカーネル全体をそのまま読ませるのではなく、繰り返し使われる最適化の型を体系立てて渡す、という発想です。

分厚い文書ではなく「10本の単体テスト」で教える

チームが用意したのは、ベクトル化したメモリー読み込み、非同期のデータ転送、ワープ単位の演算といった定番の最適化戦略を分類した体系です。エージェントはこの分類を手掛かりに、どの手を打つべきかを判断します。

新しいアーキテクチャへ対応させる際に人間が用意するのは、専門家が書いた10本ほどの単体テストと参照用カーネルだけです。あとはエージェントが実際にGPUを使える環境でコードを編集し、実行し、正しさを検証し、プロファイリングを取るというサイクルを回します。そこで見つかったボトルネックに応じて複数の最適化を組み合わせていく流れです。

人間の側から見れば、教えるコストが「全部を読ませる」から「勘所だけをテストの形で示す」へ縮んだことになります。この差は、対応させたいチップが増えるほど効いてきます。

18.9倍という数字の読み方

報告されている数値は、対象によって性格が違います。

既存ライブラリーの守備範囲が薄いLinear Attentionのような新しいAttention処理では、torch.compileに対して幾何平均18.9倍という結果が出ています。裏を返せば、既存の実装が十分に最適化されていない領域だからこそ、差が大きく開いたということです。一般的なBF16の処理ではtorch.compile比で1.13倍、低精度フォーマットでは1.28倍と、桁は落ち着きます。すべてのGPU処理が18.9倍になるわけではない、という点は押さえておく必要があります。

専門家が手書きしたカーネルとの比較はさらに現実的です。TritonによるCausal Linear Attentionの実装に対しては0.92倍、Forgetting Attentionでは1.05倍でした。人間の専門家とほぼ互角で、勝ったり負けたりという水準です。自動化の価値は「人を超える」ことよりも、専門家の手が回らない範囲まで同等品質のカーネルを行き渡らせられる点にあると読むのが妥当でしょう。

試行を重ねるほど伸びるかどうか

もう1つ興味深いのが、エージェントに与える試行回数を増やしたときの挙動です。検証にはGemini 3.1 ProとGPT-5.4が使われました。

共同筆頭著者の1人であるArya Tschandによれば、HAWKEYEでは試行を重ねるほど改善が続いたのに対し、ハードウェアの文書や複雑な実装例をそのまま与える方法は早い段階で頭打ちになったとしています。情報量を増やせば賢くなるわけではなく、探索の足場になる構造を渡したかどうかで伸びしろが変わる、という話です。エージェントに何を読ませるかという設計そのものが性能を左右する例と言えます。

まとめ

HAWKEYEは、GPU固有の最適化の型を分類して渡すことで、AIコーディングエージェントに演算カーネルの自動最適化を任せるフレームワークです。新しいアーキテクチャへの対応に必要な人手は10本ほどの単体テストと参照実装にまで縮み、新しいAttention処理ではtorch.compile比で幾何平均18.9倍、一般的な処理でも1.13倍から1.28倍の改善が報告されました。専門家の手書きカーネルとはほぼ互角という結果で、未知のアーキテクチャに向けた最初のテストと参照実装には引き続き専門家の知識が要ります。それでも、チップの世代交代にソフトウェアが追いつくまでの時間を縮める方向として、注目しておく価値のある成果です。