總部設於舊金山的 AI 推論基礎設施公司 Gimlet Labs 完成 3 億美元(約 470 億日圓)B 輪募資,由 Andreessen Horowitz 領投,公司估值來到 30 億美元(約 4,700 億日圓)。這家公司賣的並不是更多的 GPU,而是把 GPU、CPU 與專用加速器視為同一套系統來調度,將推論流程依階段分配給最適合的晶片。

※1 美元 = 156 日圓(截至 2026 年 9 月 7 日)

把推論拆成階段,再交給擅長的晶片

一般的推論平台是把同一種加速器大量並排,讓工作依序通過。Gimlet 的想法不同:它先把一個模型的推論流程拆解成多個階段,再依階段分派給最合適的硬體。該公司把這套架構稱為多晶片推論雲。

支援的晶片橫跨 NVIDIA、AMD、Intel、Arm、Cerebras 與 d-Matrix,除了 GPU 與 CPU 之外,以 SRAM 為基礎的專用加速器也能整合進同一套系統。資料中心架構、執行推論的軟體,以及在運算節點之間分派工作的協調層,全部由公司自行掌握,這是其特色所在。

依該公司的說明,將工作階段與最佳化過的硬體架構搭配後,吞吐量與互動反應最高可提升 10 倍。同時,有限的運算資源與電力的使用效率也會提高,處理同等規模的推論所需的設備與費用因此得以壓縮。代理型 AI 會由一道指令引發大量連鎖推論,而且要求低延遲,Gimlet 正是針對這種負載形態進行設計。

使用方式有兩種:可以直接使用 Gimlet 營運的自有雲,也可以在客戶自身的環境中部署代管配置。

累計募資達 3.92 億美元,Arm 也成為股東

本輪募資中,Sapphire Ventures 以主要投資人身分參與,M12 與 Arm 則是新加入的投資人,既有股東 Menlo Ventures 與 Factory 也追加投資。晶片設計公司 Arm 出現在名單上,顯示多晶片這個方向在硬體端同樣獲得支持。

至此,公司累計募資額達到 3.92 億美元(約 610 億日圓)。Gimlet 於 2025 年 10 月走出隱形狀態,當時完成的是由 Factory 領投的 1,200 萬美元(約 19 億日圓)種子輪募資;由 Menlo Ventures 領投的 8,000 萬美元(約 125 億日圓)A 輪募資則是在 2026 年 3 月完成。從走出隱形到估值 30 億美元,花費不到一年。

業務進展同樣快速。截至 2026 年 3 月,該公司表示客戶數量成長為 3 倍,並新增一家排名前三的前沿 AI 研究機構與一家排名前三的超大規模雲端業者作為客戶。此後,Gimlet Cloud 已取得數十億美元規模的合約收入,其代管的異質基礎設施正朝數百兆瓦等級擴張。本輪資金將用於擴大這套多晶片雲的營運規模並持續招募人才。

公司的出身,以及投資人看見的市場

Gimlet Labs 成立於 2023 年,源自 Stanford University 的一項研究專案。共同創辦人兼執行長 Zain Asgar 曾在 NVIDIA 擔任 GPU 架構師,之後在 Google 的 AI 部門帶領工程團隊,並共同創辦 Pixie Labs,一路帶到該公司被 New Relic 收購。他目前也擔任 Stanford University 資訊科學兼任教授。可以說,這家公司由一位同時熟悉硬體與系統軟體的人領軍。

Asgar 表示,產業已經來到一個轉折點,推論成為主要的 AI 工作負載,對 token 的需求正在爆發性成長。Andreessen Horowitz 管理合夥人、同時擔任 Gimlet Labs 董事的 Raghu Raghuram 則指出,答案不是單純增加基礎設施,而是更好的架構;讓 GPU 與專用加速器以同一套系統運作,每瓦所能產出的吞吐量與互動性會大幅提升。

在市場規模方面,該公司引用 Goldman Sachs 的推估:2026 年全產業的 AI 資本支出約為 7,650 億美元(約 119 兆日圓),2026 年至 2031 年累計將達 7.6 兆美元(約 1,190 兆日圓)。在投資重心從訓練轉向推論的階段,是要繼續照原樣堆疊以 GPU 為中心的配置,還是混用不同種類的晶片來換取效率,Gimlet 押注的是後者。

總結

Gimlet Labs 在 B 輪募資中取得 3 億美元,估值達到 30 億美元,累計募資額為 3.92 億美元。透過把推論流程依階段拆解,並分派給從 NVIDIA 到 d-Matrix 的不同晶片,該公司宣稱吞吐量與反應性最高可提升 10 倍。Arm 與 M12 一同以新投資人身分參與,也顯示出對這個方向的支持。若電力與運算資源的限制持續跟不上投資的成長速度,與其統一晶片不如混用的思路,今後應該會更加普及。