NVIDIA 與 Palantir 於 9 月 10 日公開了一項針對關鍵供應鏈的主權 AI 計畫。首個導入場域是 NVIDIA 自家的製造體系,由最佳化求解器與客製訓練的語言模型共同支撐每週一次的決策,也就是把哪些零件調配到哪個據點。經過後訓練的模型,在配置判斷上的正確率達到 86.7%。
一座機櫃 130 萬個零件
起點在於 AI 基礎設施的零件數量。NVIDIA Vera Rubin 機櫃由 130 萬個零件構成。以現行的 GB200 NVL72 來看,一片運算托盤需要 2 顆 NVIDIA Grace CPU、4 顆 NVIDIA Blackwell GPU 與 32 組 HBM3e 堆疊,而 Vera Rubin 世代的供應鏈規模是其兩倍。由於牽涉數千家供應商與遍布全球的代工夥伴,往某個據點多調一個零件,必然會拖慢另一處的完工時程。
Palantir 共同創辦人兼執行長 Alex Karp 表示,NVIDIA 擁有全球最具價值、也最錯綜複雜的供應鏈。NVIDIA 創辦人兼執行長黃仁勳則把供應鏈形容為實體經濟的作業系統,並稱 AI 工廠是人類建造過最複雜的系統之一。
最佳化的目標是「持有時間」
這次設計中值得留意的,是被選為最佳化目標的指標。Time of Ownership,也就是持有時間,衡量的是從製造據點收到物料的那一刻,到它以子組件或成品的形式離開為止的長度。換句話說,直接壓縮庫存停留在現場的時間。
這項指標分成兩段:從晶片到整機組裝完成的 time-to-rack,以及從設備布建到實際產出的 time-to-token。只縮短前一段,若後一段被拉長,投資仍然回收不了。把兩者放在同一條軸上檢視,正是它與一般生產效率改善不同的地方。
實際運算由 NVIDIA cuOpt 負責。它每週把持有時間的最小化當成混合整數線性規劃來求解,處理數千個變數與限制條件,並指出目前是哪一條限制拖住了整體。規劃人員接著就能試算:一旦鬆動這條限制,局面會如何改變。
把人的判斷轉寫進模型
不過,光靠數理最佳化仍搆不到現場的判斷水準。依 NVIDIA 的整理,資深規劃人員始終優於量化模型,而差距來自那些從未進入表格的資訊:與供應商的通話紀錄、同事之間的電子郵件往來、各地區的氣象預報,以及地緣政治事件。他們讀的是數字之外的脈絡。
於是形成了這樣一條流程:以 Palantir Ontology 把業務脈絡結構化,再讓語言模型在其上擬出建議方案。訓練透過 NeMo 系列工具進行。NeMo Anonymizer 去除個人識別資訊,NeMo Data Designer 產生涵蓋各種情境變化的合成資料,NeMo AutoModel 則以 LoRA 執行監督式微調。訓練動用 2 張 B200,所需時間以分鐘計。
由此得出開頭的數字。經過後訓練的 Nemotron 3.5 Lightning 總參數 300 億、單次推論啟用 30 億,在配置判斷上取得 86.7% 的正確率。作為對照的 Nemotron 3 Ultra 為 55.5%,微調前的基礎模型為 17.5%。平衡準確率為 58.6%,Macro-F1 為 57.5%。建議結果還經過以歷史時點為基準的回測,與實際做出的判斷逐一比對驗證。
拍板的是人,學習的是機制
運作方式劃出了清楚的界線。Ontology 提供脈絡,cuOpt 給出量化最佳解,Nemotron 組織出附帶理由的建議。最終的配置由人類規劃人員決定,而這項判斷與其結果會回流到 Ontology,成為下一輪訓練的素材。
這是一種不把決策權交給代理程式,而是把「備齊判斷依據」這道工序移交給機器的結構。在一次失誤會延燒數週的領域,這樣劃線相當務實。同時還有一個附帶效果:由於人的判斷持續被回收成訓練資料,原本依附於個人的經驗得以沉澱為組織資產。
可以放在自己手上
交付形式在這個領域同樣不可忽視。這套技術堆疊依照 Palantir 的 Sovereign AI Operating System Reference Architecture(簡稱 SAIOS)建構,可立即部署於地端、雲端或代管機房。基礎設施一側則列出 Dell Technologies、Cisco、Rackspace 與 Nebius。
供應鏈資料是交易條件、產能等競爭上極為敏感的資訊集合。正因為難以整批託付給外部的代管服務,這個領域的 AI 應用長期停留在試算表與經驗法則的延長線上。以可置於自有環境為前提來組織架構,對其他想沿用同一思路的企業也會有影響。
話雖如此,公布的正確率是受控環境下的量測值,在物料供應真正中斷時能撐到什麼程度是另一回事。以合成資料補足的訓練,能在多大程度上應付前所未見的狀況,也仍是未解的議題。首個導入場域選在自家業務,意味著這份驗證由 NVIDIA 自己先行承擔。
總結
NVIDIA 與 Palantir 於 9 月 10 日公開了針對供應鏈零件配置的主權 AI 技術堆疊。cuOpt 每週求解持有時間的最小化,經過後訓練的 Nemotron 3.5 Lightning 以 86.7% 的正確率組織建議,最終判斷由人類規劃人員做出。面對由 130 萬個零件構成的 Vera Rubin 世代,把熟手的判斷轉寫成機器可讀的形式,是一次值得關注的嘗試。
