中國 AI 企業 SenseTime(商湯科技)於 2026 年 11 月 17 日宣布,正式公開開放權重的多模態語言模型「SenseNova-Loop-9B」(以下簡稱 Loop-9B)。模型權重放在 Hugging Face,推論程式碼則放在 GitHub,授權為 Apache License 2.0。本模型是 10 月 31 日推出的「SenseNova-Loop-9B-Preview」的正式版。
32 層中有 24 層以相同權重執行兩次
Loop-9B 最大的特色,是把部分層「重複使用」。根據模型卡,模型共有 32 層解碼器層,其中第 4 層到第 27 層共 24 層,會在共享權重的狀態下執行兩次。前後各 4 層只跑一次,因此每次前向傳播實際執行的層數合計為 56 層。
總參數約 9B,官方表示推論時的運算量約相當於 14.6B 參數。換句話說,放進記憶體的權重維持在 9B 等級,卻能做接近更深模型的運算。模型同時結合了擴充殘差連接的「mHC(manifold-constrained hyper-connections)」。
注意力機制採混合式設計,以 3 層線性注意力加 1 層完整注意力為一組反覆堆疊。輸入支援文字與圖片,輸出為文字,上下文長度最多可達 512K token。
公布與 Qwen3.8-27B 相當的分數
SenseTime 拿參數量約為三倍的 Qwen3.8-27B 進行比較。模型卡列出的主要數字如下。
| 基準測試 | Loop-9B | Qwen3.8-27B |
|---|---|---|
| AIDABench | 65.31 | 65.01 |
| AutomationBench | 36.67 | 36.67 |
| NL2Repo | 41.36 | 44.60 |
Loop-9B 在 AIDABench 領先、AutomationBench 打平,NL2Repo 則落後。相較 Preview 版的進步也相當明顯,GAIA 從 37.86 提升到 69.90,Terminal-Bench 2.1 從 40.45 提升到 59.55。這些都是 SenseTime 自行測得的數字。
迴圈次數預設為兩次,模型卡也列出了改為三次、四次時的結果。官方表示,從兩次增加到四次,提升幅度只有約 1~1.4 個百分點。
4-bit 權重約 4.9GB,但需要專用執行環境
官方從公開當天起就提供 AWQ 4-bit 量化版,4-bit 權重約 4.9GB。KV 快取也能量化為 8-bit 或 4-bit。模型卡列出的 GPU 記憶體需求參考如下。
| 上下文長度 | 8-bit KV 快取 | 4-bit KV 快取 |
|---|---|---|
| 64K | 約 10GiB | 約 9GiB |
| 128K | 約 12GiB | 約 10GiB |
| 256K | 約 15GiB | 約 12GiB |
不過,執行環境還沒完全到位。用 Transformers 執行時必須載入模型自帶的程式碼,vLLM 與 SGLang 則要使用尚未合併進主線的修改版分支。SenseTime 的公告指出,截至撰文時,vLLM 的修改版只支援未量化的文字推論,不支援 AWQ 4-bit 的低記憶體設定。從 Hugging Face 下載時,也必須同意分享使用者資訊。
SenseTime 列出的已知限制,包括面對大量工具定義的複雜指令時遵循度不足,以及程式設計與代理任務的表現不夠穩定。
以小模型換取「深度」的嘗試值得關注
筆者認為,透過重複使用層來加深運算、又不增加記憶體用量的做法,對想在自己的 GPU 上跑 LLM 的開發者來說,會是相當有吸引力的選項。若約 9GiB~15GiB 就能完成多模態長上下文推論,一般消費級 GPU 應該也能試用。
但由於每層要跑兩次,推論速度可能比一般 9B 模型慢。官方這次沒有公布速度數據,主要推論引擎對量化版的支援也還在進行中。儘管如此,Apache 2.0 授權可商用是一大優勢,等推論引擎跟上之後,可望成為本地 LLM 的有力選擇。
總結
SenseTime 以 Apache 2.0 開放權重的形式,正式公開讓中間 24 層執行兩次的 9B 模型「SenseNova-Loop-9B」。對想在本地環境執行多模態模型的開發者與企業來說,這是一個新選擇。接下來的焦點,在於 vLLM 與 SGLang 何時正式納入,以及量化版的支援能推進到什麼程度。