英伟达与 Palantir 于 9 月 10 日公开了一项面向关键供应链的主权 AI 计划。首个落地场景是英伟达自己的制造体系,由优化求解器与定制训练的语言模型共同支撑每周一次的决策,即把哪些物料调配到哪个基地。经过后训练的模型在分配决策上的准确率达到 86.7%。
一台机柜 130 万个零部件
出发点是 AI 基础设施的零部件规模。英伟达 Vera Rubin 机柜由 130 万个零部件构成。以现行的 GB200 NVL72 来看,一块计算托盘需要 2 颗英伟达 Grace CPU、4 颗英伟达 Blackwell GPU 和 32 组 HBM3e 堆栈,而 Vera Rubin 世代的供应链规模是其两倍。牵涉数千家供应商和遍布全球的代工伙伴,因此向某个基地多调配一个部件,必然会推迟另一处的完工时间。
Palantir 联合创始人兼首席执行官 Alex Karp 表示,英伟达拥有全球最有价值、最错综复杂的供应链。英伟达创始人兼首席执行官黄仁勋则把供应链称作实体经济的操作系统,并称 AI 工厂是人类建造过的最复杂的系统之一。
优化目标是「持有时间」
这次设计中值得关注的是被选为优化目标的指标。Time of Ownership,即持有时间,衡量的是从制造基地收到物料的那一刻,到它作为子组件或成品离开为止的时长。换句话说,直接压缩库存滞留在现场的时间。
该指标分为两段:从芯片到整机组装完成的 time-to-rack,以及从设备部署到真正产出的 time-to-token。只压缩前一段,若后一段被拉长,投资依然收不回来。把两者放在同一根轴上衡量,正是它区别于一般生产效率改善的地方。
具体计算由英伟达 cuOpt 承担。它每周把持有时间的最小化作为混合整数线性规划来求解,处理数千个变量与约束,并指出当前是哪条约束在拖住全局。规划人员随后可以试算:一旦松动这条约束,局面会如何变化。
把人的判断写进模型
然而仅靠数理优化,仍够不到现场的判断水准。据英伟达梳理,资深规划人员始终优于定量模型,差距来自那些从不进入表格的信息:与供应商的通话记录、同事之间的邮件往来、各地区的天气预报以及地缘政治事件。他们读的是数字之外的语境。
于是形成了这样一条链路:用 Palantir Ontology 把业务语境结构化,再让语言模型在其上给出推荐方案。训练通过 NeMo 系列工具完成。NeMo Anonymizer 去除个人身份信息,NeMo Data Designer 生成覆盖各种情形变化的合成数据,NeMo AutoModel 则以 LoRA 执行有监督微调。训练使用 2 块 B200,耗时以分钟计。
由此得出开头的数字。经过后训练的 Nemotron 3.5 Lightning 总参数 300 亿、单次推理激活 30 亿,在分配决策上取得 86.7% 的准确率。作为对照的 Nemotron 3 Ultra 为 55.5%,微调前的基础模型为 17.5%。平衡准确率为 58.6%,宏平均 F1 为 57.5%。推荐结果还经过按历史时点的回测,与实际做出的决策逐一比对验证。
拍板的是人,学习的是系统
运行方式划出了清晰的边界。Ontology 提供语境,cuOpt 给出定量最优解,Nemotron 组织出带理由的推荐。最终的分配由人类规划人员决定,而这项决策及其结果会回流到 Ontology,成为下一轮训练的素材。
这是一种不把决策权交给智能体、而把「备齐判断依据」这道工序交给机器的结构。在一次失误会持续影响数周的领域,这样划线是务实的。同时它还有一个副产品:由于人的判断被持续回收为训练数据,原本依附于个人的经验得以沉淀为组织资产。
可以放在自己手里
交付形态在这个领域同样不容忽视。这套技术栈依照 Palantir 的 Sovereign AI Operating System Reference Architecture(简称 SAIOS)构建,可立即部署于本地、云端或托管机房。基础设施一侧列出了 Dell Technologies、Cisco、Rackspace 和 Nebius。
供应链数据是交易条件、产能等竞争上极为敏感的信息集合。正因为难以整体托付给外部托管服务,这一领域的 AI 应用长期停留在电子表格与经验法则的延长线上。以可置于自有环境为前提来组织架构,对其他想照搬这一思路的企业同样重要。
当然,公布的准确率是受控环境下的测量值,在物料供应真正中断时能撑到什么程度是另一回事。用合成数据补足的训练能在多大程度上应对前所未见的局面,也仍是待解的议题。首个落地场景是自家业务,意味着这份验证由英伟达自己先行承担。
总结
英伟达与 Palantir 于 9 月 10 日公开了面向供应链零部件分配的主权 AI 技术栈。cuOpt 每周求解持有时间的最小化,经过后训练的 Nemotron 3.5 Lightning 以 86.7% 的准确率组织推荐,最终判断由人类规划人员做出。面对由 130 万个零部件构成的 Vera Rubin 世代,把熟练者的判断转写成机器可读的形式,是一次值得关注的尝试。
