中国のAI企業SenseTime(商湯科技)は2026年11月17日、オープンウェイトのマルチモーダル言語モデル「SenseNova-Loop-9B」(以下、Loop-9B)を正式に公開したと発表した。モデルの重みはHugging Face、推論用のコードはGitHubで配布しており、ライセンスはApache License 2.0である。10月31日に出した「SenseNova-Loop-9B-Preview」の正式版にあたる。

32層のうち24層を同じ重みで2回実行する

Loop-9Bの特徴は、層の一部を“使い回す”構造にある。モデルカードによれば、デコーダー層は32層で、このうち4層目から27層目までの24層を、重みを共有したまま2回実行する。最初と最後の4層ずつは1回だけ通るため、1回の順伝播で実行する層は延べ56層となる。

総パラメータ数は約9Bで、推論時の計算量は約14.6B相当になるとしている。つまり、メモリーに載せる重みは9Bクラスのまま、より深いモデルに近い計算をさせる設計だ。あわせて、残差接続を拡張する「mHC(manifold-constrained hyper-connections)」を組み合わせている。

注意機構は、線形アテンション3層とフルアテンション1層を1組として繰り返すハイブリッド型だという。入力はテキストと画像、出力はテキストで、コンテキスト長は最大512Kトークンに対応する。

Qwen3.8-27Bと並ぶスコアを公表

SenseTimeは、パラメータ数が約3倍のQwen3.8-27Bとの比較を示している。モデルカードに記載された主な数値は次のとおりだ。

ベンチマークLoop-9BQwen3.8-27B
AIDABench65.3165.01
AutomationBench36.6736.67
NL2Repo41.3644.60

AIDABenchでは上回り、AutomationBenchでは同点、NL2Repoでは下回った。プレビュー版からの伸びも大きく、GAIAは37.86から69.90に、Terminal-Bench 2.1は40.45から59.55に上がったという。なお、これらは同社自身が測定した数値である。

ループの回数は既定で2回だが、3回、4回に増やした場合の結果も載せている。2回から4回に増やしたときの上昇幅は1~1.4ポイント程度にとどまるとしている。

4bit版の重みは約4.9GB、実行には専用の環境が必要

公開日から公式のAWQ 4bit量子化版も用意しており、4bitの重みは約4.9GBだという。KVキャッシュも8bitか4bitに量子化できる。モデルカードが示すGPUメモリーの目安は次のとおりである。

コンテキスト長8bit KVキャッシュ4bit KVキャッシュ
64K約10GiB約9GiB
128K約12GiB約10GiB
256K約15GiB約12GiB

一方で、動かすための環境はまだ整っていない。Transformersで使うにはモデル独自のコードを読み込む必要があり、vLLMとSGLangは本体に取り込まれていない修正版のブランチを使う形となっている。SenseTimeの発表では、vLLM向けの修正は記事執筆時点で量子化していないテキスト推論だけに対応し、AWQ 4bitの省メモリー構成には対応していないという。Hugging Faceからの入手には、利用者情報の共有への同意も求められる。

同社は既知の制約として、多数のツール定義を伴う複雑な指示への追従や、コーディングとエージェントタスクの安定性を挙げている。

小型モデルで“深さ”を稼ぐ試みとして注目

筆者は、層を繰り返すことでメモリーを増やさずに計算を深くする手法が、手元のGPUでLLMを動かしたい開発者にとって魅力的な選択肢になると考える。9GiB~15GiB程度でマルチモーダルの長文脈推論ができるなら、一般向けGPUでも試せる範囲に入ってくるはずだ。

ただし、層を2回通す以上、同じ9Bの通常のモデルより推論に時間がかかる可能性がある。速度の数値は今回示されておらず、主要な推論エンジンでの量子化版の対応も途上だ。とはいえ、Apache 2.0で商用利用ができる点は大きく、推論エンジン側の対応が進めば、ローカルLLMの有力な候補になるとみられる。

まとめ

SenseTimeは、中間の24層を2回実行する9Bモデル「SenseNova-Loop-9B」を、Apache 2.0のオープンウェイトとして正式に公開した。ローカル環境でマルチモーダルモデルを動かしたい開発者や企業にとって、新しい選択肢となる。vLLMやSGLangへの正式な取り込みや、量子化版への対応がどこまで進むかが今後の焦点だ。