ChatGPTの土台になった研究に関わった元OpenAIのディオゴ・アルメイダ氏が率いるTypeSafe AIが、現地時間9月15日に新しいモデル群「System One Models」と、その第1弾「Jev」を公開しました。文章を一切生成せず、あらかじめ決めた形式の判断だけを返すという割り切った設計で、応答は0.07秒から0.5秒に収まります。早期アクセスの受け付けも同時に始まりました。
チャットの延長ではなく、ソフトウェアの中で使う判断
アルメイダ氏がここ4年考え続けてきたのは、モデルは何年も前から会話では人間を超えているのに、なぜ自動化が進まないのか、という問いだったといいます。同氏はOpenAIで、指示に従って人と話す能力をモデルに持たせる手法の研究に携わり、その成果がChatGPTの背景になりました。それでもチャットの先にAGIが待っているとは思えなくなり、2年間ステルスで別の方向を掘っていたという経緯です。
その答えとして出てきたのがSystem One Modelsという新しいモデルの分類です。名前の由来はダニエル・カーネマンの「ファスト＆スロー」で、速くて直感的なシステム1と、遅くて熟慮的なシステム2という区別を踏まえています。現在のLLMがシステム2側の役割に寄っているのに対し、こちらは高速で構造化された判断を担う側に振り切った位置付けになります。
第1弾のJevという名前は、経済学者のウィリアム・スタンレー・ジェヴォンズから採られました。蒸気機関の効率が上がったことで石炭の需要がかえって増えたという逆説になぞらえ、知能の単価が1桁下がるたびに使い道が桁違いに広がるという読みを込めた命名です。
文章を捨てる代わりに得た、型の保証と信頼度
Jevの設計で最も割り切っているのは、文字列を出力しないと決めた点です。一般的なLLMはトークンを1つずつ順番に生成し、その積み上がりがチャットの返答やコードになります。Jevは事前に定義したスキーマに沿って、取りうる選択肢と確率を並列に一度で出します。TypeSafe AIはこれを、構造化されていない状態を入れると型の付いた確率的な判断が出てくる関数呼び出しのようなものだと説明しています。
この形だと、出力がスキーマの外に出ることが原理的に起こりません。ツール呼び出しで存在しない関数名が混ざる、数値のはずの欄に文章が入る、といった事故が消えるわけです。加えて、すべての判断に校正済みの信頼度が付きます。95パーセントの精度で解けるタスクがあっても、残りの5パーセントを自分から申告できないモデルは自動化に使えない、というのがTypeSafe AI側の問題意識です。
学習手法も専用に作られました。人間の好みを報酬にするRLHFや、検証可能な正解を報酬にするRLVRではなく、確率の正直さを報酬にするRLCD（Reinforcement Learning for Calibrated Decisions）を使っています。用途としては、分類や振り分け、抽出、スコア付けといった、手書きのif文では脆くなる部分の置き換えが想定されています。LLMの出力を採点したり、ガードレールとして使ったりする使い方も挙げられています。
入力100万トークン0.042ドル、出力は無料
価格の水準も従来のモデルとは並べ方が違います。Jevは入力100万トークンあたり0.042ドル（約6円）で、出力トークンは無料です。TypeSafe AIは、計測するには安すぎるという理由で0ドルにしていると説明しています。同社の比較では、既存のLLMの入力は100万トークンあたり0.20ドル（約31円）から10ドル（約1,550円）で、出力は入力の5倍程度になるとされています。
※1ドル155円換算
安さの根拠は、出力の作り方をそもそも変えたことにあります。順番にトークンを吐き出す処理をやめて並列にまとめたため、ハードウェアを遊ばせずに済むという理屈です。同社はこの構造を、TransformerがRNNを置き換えたときと同じ種類の置き換えだと表現しています。
応答は0.07〜0.5秒、DOOMもプレイできる
速度の差はさらに極端です。TypeSafe AIによれば、最先端のLLMの応答は端から端まで3秒から329秒かかる一方、Jevは0.07秒から0.5秒で返ります。人間と会話する分には前者でも足りますが、コードの中に組み込むと待ち時間がそのまま詰まりになります。
分かりやすい実演として、Jevに旧作ゲームのDOOMをプレイさせた動画が公開されています。毎秒10回ほど問い合わせながら操作しており、1時間遊んでも費用は約7ドル（約1,090円）だったとのこと。担当したエンジニアは毎秒10回という頻度を気にしていたものの、ほかのメンバーは想像より安いと受け止めたという裏話も添えられています。なお判断の材料にしているのはゲーム画面の画像ではなく、構造化したゲーム状態のデータです。
もう1つはWikipediaの記事から別の記事へリンクだけをたどって到達する早解きです。1手ごとに数百から数千のリンクから選ぶ必要があるため、速さだけでなく、選択肢が多い場面で存在しないリンクを作り出さない利点が効いてきます。同社は、このデモでは各モデルを推論なしの高速モードで動かしているため速度差は控えめだと注記しています。
193倍という数字の読み方
公式サイトが掲げる193.6倍高速、444.6倍低コストという数字は、同社が新しく作ったワークフロー評価から出ています。同じワークフローを各モデルに与え、最も高価な外部モデルの予測を基準の確率として比較する方式です。基準にはGPT-6 AstraとFable 5.1の平均を使っており、TypeSafe AIはこの選び方がOpenAIとAnthropicのモデルに有利に働くと自ら認めています。
注記の率直さは全体を通して一貫しています。ワークフローは自社の能力評価チームが作ったのでバイアスが残り得る、速度の計測は米国西海岸のノートPCから実行している、価格が補助されていないことは長期的にしか証明できない、といった留保が並んでいます。型エラー0パーセントという数値も実測ではなく、スキーマ適合が保証されているので理論上0にできるという説明です。
裏を返せば、ここで示されている優位性はいずれも同社の自社評価であり、第三者による再現はまだありません。公開されている評価サイトで細部を追えるようになっているとはいえ、193倍という数字は現実の業務でそのまま出る値というより、条件が揃ったときの上限に近いと読むのが妥当でしょう。
まとめ
TypeSafe AIが公開したJevは、文章生成を捨てて構造化された判断だけを返すという、これまでのLLMとは別の方向に振り切ったモデルです。入力100万トークン0.042ドルで出力は無料、応答は0.07秒から0.5秒、スキーマ外の出力は原理的に出ないという特徴が並びます。193.6倍高速という数字は自社評価に基づくものですが、チャットではなくコードの中で使う前提でモデルを設計するという考え方自体は、今後ほかの陣営にも波及しそうな筋です。早期アクセスの登録は受け付け中で、待機リストからの案内が順次進められています。
