有报道称,谷歌正在研发一款只为运行自家生成式AI"Gemini"而设计的服务器芯片,代号"Frozen v2"。这款芯片把模型的内部结构直接固化到硅片中,预计每瓦性能可达现有TPU的6到10倍。据称将从2028年起部署到数据中心。
从通用芯片走向"专为一个模型"
此前的AI芯片大多保留一定通用性。谷歌在云端提供多年的TPU虽然分别针对训练和推理做了优化,但基本上仍是能运行多种模型的设计。通用是优势,反过来说,对某一个特定模型而言,芯片上必然存在用不到的电路。
Frozen v2放弃了这个前提。它把Gemini的架构,也就是模型按什么顺序执行哪些计算的这份"设计图",预先固定在硬件一侧。代价是失去通用性,换来的是把运行单一模型时的浪费压到接近于零。名称中的"Frozen"(被冻结的)正是对这种做法的直白描述。
据称,这一构想出自谷歌DeepMind首席科学家Jeff Dean。
为什么固化的是"结构"而不是权重
更值得玩味的是谷歌据称放弃的那个方案。最初曾考虑把模型权重,即训练得到的参数本身烧进芯片,但那样只能运行特定版本的Gemini,模型一更新就立刻过时。半导体的设计与制造要以年为单位计算,这个约束是致命的。
于是固化的对象从容易变动的权重,转向相对稳定的结构。其前提判断是,模型换代时骨架被彻底重做的情况并不多见。反过来说,这个赌注押的是Gemini的基本设计在一段时间内不会大幅动摇,成败也就系于此。
效率究竟从何而来
6到10倍这个数字,主要来自两个方面。
一是减少计算次数。把多个运算合并成一次处理,是加速AI模型的常用手法,但如果不是每次都由软件来做,而是在电路层面就织进去,就不会有遗漏。
二是减少数据搬运。当模型装不进芯片上的内存时,就必须不断与外部内存之间来回传输数据,这种往返会拖慢处理速度。如果Frozen v2能配备足以完整承载Gemini的内存,这种往返本身就消失了。AI处理的功耗中,搬运数据的部分往往比计算本身更重,因此这一环节的意义不小。
如何看待2028年这个时间点
受该报道影响,Alphabet股价上涨1.5%。不过投入使用要到2028年,产量预计也小于TPU系列。其定位与其说是量产主力,不如说更接近一块试验田,用来验证专用芯片这条路线是否真的划算。
目前谷歌并未正式承认Frozen v2的存在,6到10倍的能效数字也不是在实际硅片上测得的。这类预期在量产阶段缩水并不罕见,照单全收未免过早。但在推理运行成本成为各家负担的当下,把模型与芯片作为一个整体来设计,方向本身是合理的。谷歌目前面临Gemini 3.5 Pro推迟的局面,若能在运行成本上拉开差距,就等于在模型本身的胜负之外另辟战场。
总结
谷歌据称正在研发的"Frozen v2",是一款通过把Gemini架构固化进硅片、力求每瓦性能提升6到10倍的推理芯片。固化结构而非权重,是为了避免过时,设计上同时削减计算次数与数据搬运。数据中心部署据称从2028年开始,产量规模小于TPU。谷歌尚未正式承认,数字也未经验证,但这一项目将成为观察模型与硬件一体化设计能走多远的一个风向标。
