NVIDIA 宣布，其開源大型語言模型「Nemotron 3 Ultra」在廣受歡迎的智慧代理開發平台 LangChain 的測試中，取得了開源模型中的最高精度[1]。LangChain 將自家的代理執行環境「Deep Agents」針對 Nemotron 3 Ultra 進行調校後，該模型在完成與主流閉源模型相當的任務之際，單次推論成本僅為後者的十分之一。本文將梳理這項結果的具體內容，以及 NVIDIA 藉此提出的「開放式 AI 技術堆疊」這項理念。
不重新訓練模型，只最佳化「使用方式」
這次成果耐人尋味之處在於，Nemotron 3 Ultra 本身並未被更動。LangChain 沒有重新訓練模型，而是調整了環繞模型運作的環境，也就是所謂的「harness（執行框架，為模型提供支撐的底層機制）」。具體而言，團隊重新檢視了系統提示詞、工具說明文字，以及處理步驟之間的中介軟體[1]。
LangChain 團隊先在公開的 Deep Agents 基準上執行 Nemotron 3 Ultra，再循著執行紀錄找出模型在何處失分。接著，他們並未重新訓練模型，而是透過調整執行框架來提升精度。共同創辦人暨執行長 Harrison Chase 表示，打造更好代理的捷徑，是持續改善模型周圍的系統，並指出當團隊能將記憶、工具運用、評估與模型行為一併調校時，成效會不斷累積[1]。
調校後的設定已透過 LangChain 公開，正在將 Deep Agents 與 Nemotron 3 Ultra 搭配使用的開發者可以立刻上手。不過，這些數據由 NVIDIA 與 LangChain 公布，實際使用體驗會因任務與條件而異，因此宜搭配第三方驗證來看待。
Nemotron 3 Ultra 是一款怎樣的模型
Nemotron 3 Ultra 是一款總參數量達 5,500 億的大型模型，但它採用「Mixture-of-Experts（MoE，混合專家，即依需求選用多個專家模型的方式）」架構，單次處理實際啟用的參數僅為 550 億[2]。這讓龐大的模型也能壓低運算負擔，其設計定位是擔任長時間持續運作的代理的指揮中樞。
其內部還有多項巧思。模型將擅長高效處理長脈絡的「Mamba」層，與能精確取回具體資訊的傳統 Transformer 層結合，構成混合架構；此外還採用名為「NVFP4」的精度格式，使一款模型能夠運行在 Hopper、Blackwell、Ampere 等不同世代的 NVIDIA GPU 上[2]。據 NVIDIA 表示，其處理速度最高可達同級其他開源模型的 5 倍。
開放的態度同樣明確。Nemotron 3 Ultra 連同權重（參數）、訓練資料乃至訓練配方（recipe）一併開放，採用 Linux 基金會制定的寬鬆授權「OpenMDW-1.1」發布。使用者可透過 Hugging Face、OpenRouter 以及 build.nvidia.com 取得並試用，既能在自有基礎設施上運行，也能在雲端運行[2]。
高舉「可被擁有的 AI」旗幟的開放式技術堆疊
NVIDIA 這次強調的並非單一模型，而是把安全運行代理所需的一整套元件一併開放的理念。其核心是一份開放的參考藍圖「NVIDIA NemoClaw for LangChain Deep Agents」[1]。它將針對 Nemotron 3 Ultra 調校的 LangChain Deep Agents，與用於安全執行代理動作的執行環境「NVIDIA OpenShell」結合在一起。
NVIDIA 說明，透過備齊開源模型、開源執行框架，以及開放且安全的執行環境，企業便能自行擁有整套機制、依業務需要加以改造，並在任何地方運行。當代理不再只是回答問題，而是在企業核心系統內部真正動手操作時，這種「可被擁有」的價值將進一步凸顯[1]。
醫療領域的 Abridge、通訊軟體廠商 Amdocs、內容管理企業 Box 等，已開始將專用代理嵌入自家平台。全球顧問巨頭 EY 也正藉助 NemoClaw 藍圖擴展其 NVIDIA 相關的導入支援。LangChain 的代理開發平台每月下載量超過 2 億次，為其底層針對 Nemotron 3 Ultra 最佳化的意義不容小覷[1]。
總結
這次圍繞 Nemotron 3 Ultra 的話題，可視為一個案例，說明效能與成本不僅取決於模型本身的「聰明程度」，也取決於運行模型的底層機制設計。開源模型搭配開源技術堆疊，在逼近主流閉源模型的同時壓低成本——這項主張在日常業務中究竟能重現到何種程度，仍有待觀察。接下來，開發者與企業如何駕馭這套開放機制，將成為關注焦點。
出典:https://blogs.nvidia.com/blog/nemotron-langchain-agents-open-stack/
