NVIDIA 發表了用於建構企業可信賴之專用 AI 代理(能自主判斷狀況並推進工作的 AI)的開發平台「NVIDIA Agent Toolkit」[1]。它是一個將模型、工具、技能與安全執行環境組合在一起的模組化基礎,目標是讓企業與開發者能依照自身業務進行客製與管控,從而更安全、更快速、更低成本地打造「數位 AI 同事」[1][2]。

從「接取」走向「專用代理」

企業 AI 的第一波主要是「接取」,也就是試用新的前沿模型與開源模型、反覆進行驗證實驗[1]。NVIDIA 將下一階段定位為專用代理:組合多個模型進行推理、使用工具,並在複雜業務中真正採取行動[1]。其思路是讓最了解業務的第一線人員,能在手邊用上更實用的 AI[1]。

實際上,代理已開始用於加速新藥研發的研究、結合更多脈絡來排查漏洞,以及協調供應鏈等情境[1]。要運行這類專用代理,企業需要的是能自行調整與擁有的基礎,也就是可客製的模型、能接上既有系統的工具,以及可大規模安全運行代理的執行平台[1]。

模型、藍圖與安全執行環境

Agent Toolkit 具備代理所需的三大要素[1]:作為推理基礎的「模型」、連接行動與專業知識的「工具與技能」,以及執行工作的「執行環境(runtime)」[1]。

在模型方面,它採用開源模型「NVIDIA Nemotron」,團隊可依自身需求進行客製、評估與部署[1]。新加入的「Nemotron 3 Ultra」針對長時間運行的代理進行了小型化與高速化,宣稱在複雜的代理處理中可達到最高 5 倍的推理速度與最多 30 % 的成本下降[2]。

安全運行的機制也已內建。藍圖集「NemoClaw」提供更安全的代理行為範式,讓系統能以更低成本取得準確的結果[1]。執行環境「OpenShell」是開源的執行階段,會施加以政策為基礎的安全、網路與隱私防護機制,使自主運行的代理能更安全地部署[1][2]。此外,NVIDIA 也把用於資料處理的 cuDF、用於最佳化的 cuOpt,以及 NeMo、PhysicsNeMo、CUDA-Q 等「CUDA-X」函式庫,作為代理可用的專業技能開放出來[2]。這些工具還能與使用者自選的外部代理框架(如 Hermes Agents 與 OpenClaw)搭配使用[1]。

專用代理已在各行業落地

這套基礎已在各個領域開始運轉[1]。

在生命科學領域,代理會呼叫蛋白質設計、虛擬篩選、基因組分析與生物標記探索等專業模型來支援研究[1]。透過新的「NVIDIA BioNeMo Toolkit」,過去需要數個月的工作可在數天內完成[1]。在醫療領域,代理負責臨床文件撰寫、臨床決策支援與照護協調,而在醫院數位孿生(重現真實的虛擬環境)中訓練的機器人,可望擴展到手術輔助與醫院業務自動化[1]。

在工程領域,Cadence、Synopsys、Dassault Systèmes 與 Siemens 正運用 NemoClaw 打造能自主推進晶片設計與驗證工作的「AI 工程師」,力圖把數週的工作壓縮到數小時[1][2]。在安全領域,CrowdStrike 以專用安全代理用 98.5 % 的準確率完成告警分類,Palantir 則以長時間運行的代理推進營運決策[1]。此外,Palantir、SAP、ServiceNow、Siemens 與 Dassault Systèmes 也將代理能力嵌入到做出關鍵決策的自家業務平台中[1]。

總結

NVIDIA Agent Toolkit 把模型、工具、技能與安全執行環境整合在一起,為企業提供可依自身業務調整的專用 AI 代理基礎。以 Nemotron 實現彈性的模型選擇、以 NemoClaw 與 OpenShell 實現安全執行、以 CUDA-X 技能擴充專業能力,構成其三大支柱,並已在新藥研發、晶片設計、安全等具體情境中開始被採用。企業 AI 的重心,正從單純試用通用模型,轉向打造扎根於實際業務的「AI 同事」。不過,這同樣是 NVIDIA 自身描繪的構想,在實際業務中究竟能在多大程度上兼顧安全性與成效,仍取決於今後在第一線的驗證。

[1] https://blogs.nvidia.com/blog/nvidia-agent-toolkit-open-models-tools-skills-secure-runtime-ai-agents/

[2] https://nvidianews.nvidia.com/news/ai-agents