NVIDIA 在台北舉行的「NVIDIA GTC Taipei at COMPUTEX」上,發表了專為執行個人 AI 代理而打造的新款 Windows PC「NVIDIA RTX Spark」[1]。它具備 1 petaflop 的 AI 算力與 128GB 統一記憶體(由 CPU 與 GPU 共用的大容量記憶體),無須將資料上傳雲端,即可在本機裝置上執行代理[1]。NVIDIA 同時公布了一系列在 RTX 與 DGX 廣泛產品線上強化本機執行代理的更新[1]。
主打個人代理的新款 PC
NVIDIA 表示,OpenClaw、Hermes 等開源的個人代理正在 GitHub 上快速普及[1]。這些代理會依照使用者的偏好與工作流程運作,能操作應用程式、產生內容、自動執行重複性工作,並在裝置本機完成橫跨多個步驟的任務[1]。
RTX Spark 正是面向這類用途推出。憑藉 1 petaflop 的 AI 算力與 128GB 統一記憶體,NVIDIA 表示它能滿足本機執行代理的運算需求,並將其定位為「從工具到隊友」[1]。它面向 AI 處理、創作與遊戲,將以可整天續航的輕薄 Windows 筆電,以及低耗電的桌上型電腦兩種形態推出[1]。
面向專業人士,NVIDIA 還準備了「NVIDIA DGX Station for Windows」。它被定位為一台桌邊 AI 超級電腦,將資料中心等級的 GPU 與 CPU 用於推論(已訓練的 AI 實際得出答案的處理),並搭載 Windows 以兼顧管理性、安全性與相容性[1]。
在本機安全執行代理的機制
代理先前未能廣泛普及,原因之一是難以在日常使用的 PC 上,同時兼顧安全與隱私地執行[1]。NVIDIA 與微軟合作,提供因應此問題的穩健而安全的 Windows 平台[1]。其基礎是微軟新推出的面向代理的安全基本元件,以及名為「NVIDIA OpenShell」的執行環境(runtime)[1]。
這套面向 Windows 的新機制提供身分驗證、隔離、政策管理以及端到端的安全功能[1]。OpenShell 進一步讓使用者能定義代理可做與不可做之事,依隱私政策將處理分配給本機模型,並在送往雲端模型的查詢中隱去個人資訊[1]。
這一安全層被 Hermes Agent、OpenClaw 等主要代理開發方採用,並整合進各自的新版 Windows 應用程式[1]。透過這些應用程式,本機裝置上的代理可以執行 Windows 應用程式內的操作、規劃橫跨多個應用程式的工作、產生影像與影片、為外掛程式與應用程式撰寫程式碼,並以語意檢索本機檔案[1]。
推論效能提升、多 GPU 支援與 Linux 環境的完善
NVIDIA 也在強化本機執行的開源模型基礎[1]。它與推論引擎「llama.cpp」社群合作,導入了一次預讀多個 token 的推測解碼方式之一「多 token 預測(MTP)」[1]。由此,Qwen 3.6 與 3.5 的 27B 模型效能提升 2 倍、35B 模型提升 1.6 倍,可透過「LM Studio」與 llama.cpp 的網頁介面使用[1]。在使用多張 GPU 的環境中,llama.cpp 支援張量平行,記憶體最高提升 2 倍、算力最高提升 1.8 倍,影像生成工具「ComfyUI」也透過新方式最高提速 2 倍[1]。
代理的操作能力也在擴充。H Company 的「電腦操作」工具透過查看畫面、操控滑鼠與鍵盤的方式,讓代理即使在沒有 API 的應用程式中也能操作 PC,並計畫支援 RTX 與 DGX 的 PC[1]。NVIDIA 表示已對該公司的模型進行量化以減輕負擔,在 GPU 上實現 2 倍提速,同時將記憶體用量降低 35%[1]。
面向需要 Linux 環境的開發者,NVIDIA 將「NVIDIA DGX Spark」定位為最有力的選擇[1]。用於安全部署代理的「NemoClaw」已提供給執行 Linux 與 WSL(Windows 上的 Linux 執行環境)的所有 RTX、DGX PC,並新增自動沙箱化(隔離執行)以及對 Hermes Agent 的支援[1]。面向推論後端「vLLM」,NVIDIA 為 Qwen 3.6 的 35B 模型準備了最佳化的資料格式,在 DGX Spark 上展現出較先前 2.6 倍的效能[1]。
創意類應用程式也為 RTX Spark 翻新
創意軟體也同步更新。Adobe 將 Photoshop 與 Premiere 針對 RTX Spark 重新打造,並表示包含「生成式填滿」「生成式延伸」等生成功能在內的處理,在編輯、調色等方面最高提速 2 倍[1]。Premiere 採用了運用統一記憶體與軟體基礎「TensorRT」的新影片管線,「Substance 3D Painter」與「Stager」也可在 RTX Spark 上原生執行[1]。
面向直播的「NVIDIA Broadcast 2.2」將提升麥克風音質的「Studio Voice」升級為正式版,現可在 GeForce RTX 3060 及以上執行[1]。在 3D 軟體「Blender」中,其算圖引擎「Cycles」在雜訊抑制環節導入了 NVIDIA 的「DLSS 4.5」,將於今秋隨 Blender 5.3 與 RTX Spark 同步提供[1]。此外,用於讓 AI 常產生的每秒 15 至 20 影格影片更流暢的「RTX Video Frame Generation」也新加入[1]。ASUS 的 ProArt 筆電預載了影像生成模型「FLUX.2 Klein 4B」,最高提速 2.5 倍[1]。這些功能大多將配合今秋 RTX Spark 的推出陸續提供[1]。
總結
這次發表邁出了一步:在確保安全與隱私的前提下,把 AI 代理放到使用者自己的 PC 上執行,而非全部交給雲端。除了 RTX Spark 這款專用機之外,NVIDIA 也把安全基礎、推論提速以及創意軟體的最佳化,當作一個整體一併呈現。多數功能預計將在今秋到齊,本機 AI 能在多大程度上融入日常使用,將是下一個觀察重點。
來源:https://blogs.nvidia.com/blog/rtx-ai-garage-computex-spark-local-agents/
