中国 AI 企业 SenseTime(商汤科技)于 2026 年 11 月 17 日宣布,正式发布开放权重的多模态语言模型“SenseNova-Loop-9B”(下称 Loop-9B)。模型权重发布在 Hugging Face,推理代码发布在 GitHub,许可证为 Apache License 2.0。该模型是 10 月 31 日推出的“SenseNova-Loop-9B-Preview”的正式版。
32 层中有 24 层以相同权重运行两次
Loop-9B 的最大特点是对部分层进行“复用”。据模型卡介绍,模型共有 32 个解码器层,其中第 4 层至第 27 层共 24 层会在共享权重的前提下运行两次。首尾各 4 层只运行一次,因此每次前向传播实际执行的层数合计为 56 层。
模型总参数约 9B,官方称推理时的计算量约相当于 14.6B 参数。也就是说,加载到内存中的权重仍然是 9B 级别,却能完成接近更深层模型的计算。模型还结合了对残差连接进行扩展的“mHC(manifold-constrained hyper-connections)”。
注意力机制采用混合设计,以 3 层线性注意力加 1 层全注意力为一组重复堆叠。输入支持文本和图像,输出为文本,上下文长度最高可达 512K token。
公布的得分与 Qwen3.8-27B 相当
SenseTime 将其与参数量约为三倍的 Qwen3.8-27B 进行了对比。模型卡给出的主要数据如下。
| 基准测试 | Loop-9B | Qwen3.8-27B |
|---|---|---|
| AIDABench | 65.31 | 65.01 |
| AutomationBench | 36.67 | 36.67 |
| NL2Repo | 41.36 | 44.60 |
Loop-9B 在 AIDABench 上领先,在 AutomationBench 上持平,在 NL2Repo 上落后。与 Preview 版相比提升也很明显,GAIA 从 37.86 提高到 69.90,Terminal-Bench 2.1 从 40.45 提高到 59.55。以上均为 SenseTime 自行测得的数据。
循环次数默认为两次,模型卡也给出了三次和四次时的结果。官方表示,从两次增加到四次,提升幅度仅约 1~1.4 个百分点。
4-bit 权重约 4.9GB,但需要专用运行环境
官方自发布当天起即提供 AWQ 4-bit 量化版,4-bit 权重约为 4.9GB。KV 缓存也可以量化为 8-bit 或 4-bit。模型卡给出的 GPU 显存需求参考如下。
| 上下文长度 | 8-bit KV 缓存 | 4-bit KV 缓存 |
|---|---|---|
| 64K | 约 10GiB | 约 9GiB |
| 128K | 约 12GiB | 约 10GiB |
| 256K | 约 15GiB | 约 12GiB |
不过,运行环境还不够完善。使用 Transformers 时需要加载模型自带的代码,vLLM 和 SGLang 则需要使用尚未合并到主线的修改版分支。SenseTime 的公告称,截至发稿时,vLLM 的修改版仅支持未量化的文本推理,不支持 AWQ 4-bit 的低显存配置。从 Hugging Face 获取模型时,还需要同意共享用户信息。
SenseTime 列出的已知局限包括:面对包含大量工具定义的复杂指令时遵循能力不足,以及编程和智能体任务的表现不够稳定。
用小模型换取“深度”的尝试值得关注
笔者认为,通过复用层来加深计算、又不增加显存占用的做法,对想在自己的 GPU 上运行 LLM 的开发者来说会是很有吸引力的选择。如果约 9GiB~15GiB 就能完成多模态长上下文推理,普通消费级 GPU 应该也能上手尝试。
但由于每层要运行两次,推理速度可能慢于普通的 9B 模型。官方此次未公布速度数据,主流推理引擎对量化版的支持也仍在推进中。尽管如此,Apache 2.0 许可允许商用是一大优势,待推理引擎跟进后,有望成为本地 LLM 的有力候选。
总结
SenseTime 以 Apache 2.0 开放权重的形式,正式发布了让中间 24 层运行两次的 9B 模型“SenseNova-Loop-9B”。对希望在本地环境运行多模态模型的开发者和企业来说,这是一个新选择。今后的关注点在于 vLLM 和 SGLang 何时正式合入支持,以及量化版的支持能推进到什么程度。