总部位于旧金山的 AI 推理基础设施公司 Gimlet Labs 完成 3 亿美元(约 470 亿日元)B 轮融资,由 Andreessen Horowitz 领投,公司估值达到 30 亿美元(约 4,700 亿日元)。这家公司出售的并不是更多的 GPU,而是把 GPU、CPU 与专用加速器当作一个系统来调度,把推理过程按阶段分配给最合适的芯片。

※1 美元 = 156 日元(截至 2026 年 9 月 7 日)

把推理拆成阶段,再交给擅长的芯片

常见的推理平台是把同一种加速器大量堆叠起来,让任务顺序通过。Gimlet 的思路不同:它把一个模型的推理过程拆分为多个阶段,再按阶段分配给最适合的硬件。公司把这套架构称为多芯片推理云。

支持的芯片覆盖 NVIDIA、AMD、Intel、Arm、Cerebras 与 d-Matrix,除 GPU 和 CPU 之外,基于 SRAM 的专用加速器也能纳入同一套系统。数据中心架构、执行推理的软件,以及在计算节点之间进行调度的编排层,全部由公司自己掌握,这是其特点所在。

按照公司的说法,把工作阶段与优化过的硬件架构相匹配,吞吐量与交互响应最高可提升 10 倍。同时,有限的算力与电力的利用率也随之提高,处理同等规模的推理所需的设备与成本因而被压缩。智能体式 AI 会由一条指令引发大量连锁推理,并且要求低延迟,Gimlet 正是围绕这种负载形态来做设计的。

使用方式有两种:既可以直接使用 Gimlet 运营的自有云,也可以在客户自己的环境中部署托管配置。

累计融资达 3.92 亿美元,Arm 也成为股东

本轮融资中,Sapphire Ventures 作为主要投资方参与,M12 与 Arm 作为新投资方加入,老股东 Menlo Ventures 与 Factory 也继续追加投资。芯片设计公司 Arm 出现在名单上,说明多芯片这一方向在硬件一侧同样获得了认可。

至此,公司累计融资额达到 3.92 亿美元(约 610 亿日元)。Gimlet 于 2025 年 10 月走出隐身状态,当时完成的是由 Factory 领投的 1,200 万美元(约 19 亿日元)种子轮融资;由 Menlo Ventures 领投的 8,000 万美元(约 125 亿日元)A 轮融资则是在 2026 年 3 月完成的。从走出隐身到估值 30 亿美元,用时不足一年。

业务进展同样迅速。截至 2026 年 3 月,公司称客户数量增长至 3 倍,并新增了一家排名前三的前沿 AI 实验室和一家排名前三的超大规模云厂商作为客户。此后,Gimlet Cloud 已锁定数十亿美元规模的合同收入,其托管的异构基础设施正在向数百兆瓦级别扩张。本轮资金将用于扩大这套多芯片云的运营规模并继续招聘。

公司的出身,以及投资方看到的市场

Gimlet Labs 成立于 2023 年,脱胎于 Stanford University 的一个研究项目。联合创始人兼首席执行官 Zain Asgar 曾在 NVIDIA 担任 GPU 架构师,之后在 Google 的 AI 部门负责工程团队,并联合创办 Pixie Labs,直至该公司被 New Relic 收购。他目前还担任 Stanford University 计算机科学兼职教授。可以说,这家公司由一位同时熟悉硬件与系统软件的人执掌。

Asgar 表示,行业已经走到一个转折点,推理成为主要的 AI 工作负载,对 token 的需求正在爆发式增长。Andreessen Horowitz 管理合伙人、同时担任 Gimlet Labs 董事的 Raghu Raghuram 则指出,答案不是简单地增加基础设施,而是更好的架构;让 GPU 与专用加速器作为一个系统协同运行,每瓦所能提供的吞吐量与交互性会大幅提升。

关于市场规模,公司引用了 Goldman Sachs 的预测:2026 年全行业的 AI 资本支出约为 7,650 亿美元(约 119 万亿日元),2026 年至 2031 年累计将达到 7.6 万亿美元(约 1,190 万亿日元)。在投入重心从训练转向推理的阶段,是继续照原样堆叠以 GPU 为中心的配置,还是混合不同种类的芯片来换取效率,Gimlet 押注的是后者。

总结

Gimlet Labs 在 B 轮融资中获得 3 亿美元,估值达到 30 亿美元,累计融资额为 3.92 亿美元。通过把推理过程按阶段拆分,并分配给从 NVIDIA 到 d-Matrix 的不同芯片,公司称吞吐量与响应性最高可提升 10 倍。Arm 与 M12 一同作为新投资方参与,也显示出对这一方向的支持。如果电力与算力的制约继续跟不上投资增速,那么与其统一芯片不如混合使用的思路,今后应该会进一步扩散。