NVIDIA再次表明,機器人與自動駕駛車輛等實體AI系統的基礎,應該建立在開放的世界模型之上[1]。其核心是權重公開的Cosmos 3模型家族,而隨著NVIDIA Cosmos Coalition擴展到日本,開發者實際的運用方式也逐漸浮現。

為什麼需要世界模型

實體AI需要的並不是辨識外觀,而是預測後果[1]。世界模型會學習物理環境如何運作、接下來可能發生什麼、哪些動作才合理,接著產生符合物理規律的世界資料與動作資料,或是模擬未來狀態。

這一點之所以在現場很關鍵,是因為訓練資料難以蒐集[1]。實體AI所需規模的資料蒐集既耗時又昂貴,罕見事件與長尾情境更難以安全且反覆重現。運用世界模型,就能在天候、光線、物體與運動軌跡上做出變化,建立多樣的環境,取得一個可以依照自家機器人與感測器配置繼續調整的起點。

而這個「依自家需求調整」的環節,正是開放性成為技術前提的地方[1]。通用模型從未見過某個團隊的機器人、感測器或運作環境。要補上這段落差,就需要取得權重、允許修改的授權條款,以及後訓練所需的工具。NVIDIA的Cosmos世界基礎模型採用Linux Foundation的OpenMDW 1.1授權,各團隊可以用自己的資料與硬體進行後訓練。

7月,NVIDIA與200多家企業及組織共同簽署了名為「Open Weights and American AI Leadership」的公開信[1]。信中主張,AI的領先地位並非由單一前沿模型決定,而是取決於開放生態系能否觸及每一個產業。

Cosmos 3將視覺推理、世界生成與動作預測整合為一

Cosmos 3是以mixture-of-transformers(組合多個專用模組的架構)打造的開放實體AI基礎模型[1]。它把視覺推理、世界生成與動作預測整併到同一個模型家族,開發者不必為每種能力分別組裝與維護模型,就能完成場景理解、合成資料生成、未來狀態模擬,以及世界動作模型的建構。

產品線分為3個層級[1]。640億參數的Cosmos 3 Super面向高保真的世界建模,160億參數的Cosmos 3 Nano面向高效率推理與後訓練,40億參數的Cosmos 3 Edge則負責端側的視覺推理與機器人策略部署。Edge夠輕量,可在邊緣GPU上執行,並能部署到NVIDIA RTX GPU、NVIDIA DGX系統,以及包含Jetson Thor在內的NVIDIA Jetson平台。

NVIDIA也公布了基準測試成績[1]。在開放權重的文字轉圖像與圖像轉影片生成上,Cosmos 3在Artificial Analysis排名第一;世界生成的PAI-Bench與Physics-IQ的圖像轉影片項目同樣排名第一;機器人動作策略方面則在RoboLab排名第一。視覺理解的VANTAGE-Bench上,Cosmos 3 Super是名次最高的開放模型。

模型本身無法涵蓋的部分,則由周邊函式庫補足[1]。隸屬NVIDIA Agent Toolkit的Omniverse函式庫提供了建構可模擬世界的現成能力,OpenUSD則提供在數位分身、模擬與合成資料生成之間組合、重複使用與交換3D資料的開放框架,目的是減少每次更換素材、感測器設定或環境條件時重複作業的浪費。除了Cosmos,NVIDIA的實體AI技術堆疊還包含機器人用的Isaac GR00T、自動駕駛用的Alpamayo,以及視覺AI用的Metropolis。

採用企業與進入日本的Cosmos Coalition

跨產業的採用案例已經出現[1]。機器人領域有Doosan Robotics、LG Electronics、SAMSUNG與Skild AI;自動駕駛領域有Li Auto、Xiaomi與Afari;支撐工業AI與智慧空間的視覺AI代理方面,則有Centific、Fogsphere、Linker Vision、Milestone Systems與Yuan。

日本方面的進展集中在7月15日的發表[2]。AIRoA、Classmethod、Enactic、FANUC、富士通、GROOVE X、日立、Honda R&D、川崎重工業、Kubota、三井物產、三菱商事、Mujin、NEC、Preferred Networks、SoftBank、Sony集團、Telexistence、TIER IV、TRON、Turing與安川電機都表達了加入NVIDIA Cosmos Coalition的意願。成員可以使用該平台的開放模型、資料整理函式庫、資料集與框架,在工廠、物流網路、農地、建築工地、醫院、道路與住宅等場域於部署前完成驗證與最佳化,藉此縮短開發週期。

具體專案也已經啟動[2]。富士通正與FANUC、安川電機及川崎重工業共同評估實體AI的商業機會,目標是打造整合NVIDIA實體AI技術堆疊的協同控制平台。NEC、日立、OMRON與Preferred Networks將Cosmos用於世界模型與工業AI的研發,SoftBank則在開發以Cosmos、Omniverse與Isaac Sim為基礎的實體AI開發平台。Kubota正在評估自動化農業的應用,Telexistence則著眼於零售自動化。

Cosmos 3 Edge是以NVIDIA Nemotron為基礎打造的40億參數模型,NVIDIA表示,透過開放的Cosmos框架,開發者大約1天就能將其調整成適用於特定機器人、車輛、感測器與環境的版本[2]。

總結

開放世界模型正逐漸成為實體AI開發中無法迴避的一步,也就是把通用模型貼合到具體硬體上的務實解法。Cosmos 3在基準成績與產品線廣度上都做好了準備,並藉由與Omniverse的搭配,把驗證環境也一併納入。既然日本的製造與機器人企業已經成群加入,接下來值得留意的,就是開發週期究竟能縮短多少。

[1] https://blogs.nvidia.com/blog/open-world-models-physical-ai/

[2] https://nvidianews.nvidia.com/news/japans-robotics-and-manufacturing-leaders-build-on-nvidia-cosmos-to-advance-physical-ai-frontier