米AIスタートアップのPrismMLは2026年9月17日(現地時間)、270億パラメータの多用途AIモデル「Bonsai 2 27B」を発表しました。独自の三値量子化技術によりモデルサイズを9分の1まで圧縮しながら、性能の98.2パーセントを維持しているのが特徴です。ノートPCやゲーミングGPUなど、手元のハードウェアだけで高度なAIエージェントを動かせる可能性が広がります。
三値化という圧縮手法
PrismMLはAlibabaが開発した「Qwen3.8 27B」をベースに、重みを−1、0、+1の3値だけで表現する三値量子化を採用しています。通常16ビットで表現される重みを平均1.76ビットまで削減し、270億パラメータのモデルを5.9ギガバイトに収めました。128個の重みごとに16ビットのスケール値を1つ共有する方式を取り、圧縮前に1,024個単位でアダマール変換と呼ばれる処理を加えることで精度の劣化を抑えています。モデル全体のうち高精度のまま残されているのは約2,600万パラメータ(全体の約0.1パーセント)のみで、繰り返し処理に関わる部分や正規化用の重みに限られます。画像認識を担う視覚部分は約4億7,000万パラメータで、本体とは別に0.63ギガバイトのファイルとして提供されます。
ベンチマークで見る性能の落ち幅
20種類のベンチマークの平均スコアは、圧縮前のQwen3.8 27Bが85.4点だったのに対し、Bonsai 2 27Bは83.9点で、98.2パーセントの性能を維持しています。分野別に見ると、数学は99.5パーセント、コーディングは99.3パーセント、指示追従は101.7パーセントとほぼ劣化がない一方、ツール呼び出しを伴うエージェント的なタスクは97.3パーセント、複数の手順が長く続く「Terminal-Bench」やコード修正力を測る「SWE-bench Verified」などの長時間タスクでは約75パーセントまで性能が下がるとされています。同程度のサイズに圧縮する既存手法「IQ2_XXS」(7.3ギガバイト、平均75.2点)と比較すると、数学の応用問題を扱う「AIME26」やコーディング能力を測る「LiveCodeBench」で大きく上回っており、単純な軽量化ではなく既存の圧縮手法からの底上げを実現した形です。
対応ハードウェアと動作速度
Bonsai 2 27Bは、NVIDIA製GPUを使うCUDA環境とApple Silicon向けのMLX環境の両方に対応しています。処理速度は、GeForce RTX 5090で毎秒142.5トークン、RTX 4090で毎秒96.7トークン、データセンター向けのNVIDIA L4で毎秒32.1トークンです。Appleのチップでは、M5 Maxが毎秒46.8トークン、M5 Proが毎秒27.7トークンとなっています。動作の目安として、メモリ16ギガバイト以上のノートPC、もしくはVRAM24ギガバイト以上のGPUが必要とされています。なお、独自の圧縮形式に対応するため標準のllama.cppではそのまま動かせず、PrismMLが公開している専用のフォーク版か、Apple向けの専用MLX実装が必要です。ブラウザ上でそのまま試せるWebGPUのデモも用意されています。ライセンスはApache 2.0で、モデルの重みはHugging Face上で公開されています。
クラウドに頼らないAI活用への布石
Bonsai 2 27Bは、コーディング支援エージェントやパソコン操作の自動化、社外に出せない文書の解析など、通信環境やプライバシーの制約が大きい場面での利用が想定されています。PrismMLの創業者でCEOのBabak Hassibi氏は、前作の「Bonsai 27B」でクラウド環境に頼らずとも高い性能を発揮できることを示せたとしたうえで、今回のモデルではその路線をさらに一歩進めたとコメントしています。アドバイザーを務めるUC BerkeleyのIon Stoica教授も、これほど大幅にサイズを削りながら能力の低下がわずかに抑えられている点を評価しています。前作の「Bonsai 27B」が公開されたのは今回の発表の約2カ月前で、性能維持率は約95パーセントだったとされており、今回のモデルではその水準からさらに改善されたことになります。
まとめ
PrismMLが発表した「Bonsai 2 27B」は、270億パラメータのAIモデルを5.9ギガバイトまで圧縮しながら、性能の98.2パーセントを維持した点が特徴です。長時間にわたる複雑なエージェントタスクではまだ性能差が残るものの、コーディングや数学、指示追従といった分野ではほぼ劣化が見られません。クラウドの計算資源に頼らずに高性能なAIモデルを手元のPCで動かす動きは今後も広がっていきそうです。
