NVIDIA與Google Cloud配合今年的Google I/O,宣布擴充雙方共同經營的AI開發者社群[1]。該社群成員已超過10萬人,新增內容包括在NVIDIA GPU上執行JAX的學習路徑、聚焦推論最佳化的NVIDIA Dynamo Codelab,以及每月一次的開發者直播[1]。其目的是連同學習資源一併,為開發者一次備齊打造AI代理所需的工具。
為10萬名以上開發者的社群帶來新內容
該社群於去年的Google I/O上推出,匯聚了希望運用NVIDIA與Google Cloud最新技術磨練AI技能的開發者、資料科學家與機器學習工程師[1]。它以Google Cloud上的NVIDIA全端AI平台為基礎,透過學習路徑(系統化的教材)、實機操作與活動來協助開發[1]。
今年新增的內容包括在NVIDIA GPU上執行機器學習函式庫「JAX」的學習路徑、用於簡化推論的軟體「NVIDIA Dynamo」的Codelab(動手實作),以及每月一次的開發者直播[1]。
NVIDIA表示,過去一年來該社群已成為AI開發者的重要據點,催生出在Google Kubernetes Engine(GKE)上建構可投入生產的RAG(檢索增強生成,參考外部資料來組織回答的機制)應用,以及可觀測代理運作狀態的方案等成果[1]。針對運動分析、企業資料處理等實際用途,開發者也正在嘗試將地端與雲端相結合的推論原型[1]。
以Gemma 4、Nemotron與開放框架打造
兩家公司將NVIDIA的函式庫、開放模型與各類工具,與Google Cloud的AI平台相結合,提供可讓開發者快速建構生產級AI應用的教材與實作[1]。舉例來說,開發者可以在Google Colab Enterprise或Dataproc中使用可加速資料處理的NVIDIA cuDF函式庫,或將Google DeepMind的開放模型Gemma 4、NVIDIA的開放模型Nemotron與Google的Agent Development Kit(ADK)相結合,執行由多個AI協同運作的多代理應用[1]。執行環境則採用搭載NVIDIA RTX PRO 6000 Blackwell GPU的Google Cloud G4虛擬機器,可在Cloud Run上或以Spot執行個體的方式使用[1]。
在開放框架「JAX」方面,雙方正深化合作,使從單一GPU的實驗到橫跨多個機架的大規模配置,都能在NVIDIA的AI基礎設施上以一致的效能與體驗執行[1]。用於高效訓練大型模型的「MaxText」框架,會在Google Cloud AI Hypercomputer上運用這些JAX的最佳化[1]。在推論方面,執行於GKE之上的「NVIDIA Dynamo」能夠簡化諸如MoE(Mixture of Experts,混合專家)等會選擇性呼叫多個專家模型的大規模推論[1]。在NVIDIA GPU上執行JAX的學習路徑,以及涵蓋GKE上Dynamo的推論Codelab,皆將於下個月向社群成員開放[1]。
以SynthID與Cosmos推動「負責任的AI」
如今的AI代理愈來愈常由能夠推理、規劃並代替使用者行動的多個模型組合而成[1]。在這股趨勢中,NVIDIA指出,能夠掌握所生成內容的來源與運作方式的「可信度」與「透明性」是根基所在[1]。
NVIDIA是最早與Google DeepMind在AI數位浮水印技術「SynthID」上展開合作的業界夥伴[1]。SynthID會以不顯眼的方式將數位浮水印嵌入AI生成的內容,有助於維持NVIDIA基礎模型系列「Cosmos」所產出內容的可信度[1]。Cosmos是一組「世界基礎模型」,面向機器人、自主機器等於物理世界中運作的AI(實體AI),提供立體空間感知與模擬能力,可在build.nvidia.com上使用[1]。將兩者結合,便能在維持影像與影片透明性的同時,更易於在從雲端到邊緣乃至現實環境中,以負責任的方式部署代理型應用[1]。
全端平台的持續擴展
今年的Google I/O聚焦於代理式的全新體驗與開發者工具[1]。NVIDIA與Google Cloud致力於為開發者備齊善用這些能力所需的基礎設施、軟體與學習資源,並表示在社群中習得的技能與工具,可直接從原型擴展到企業級生產[1]。在先前的Google Cloud Next上,兩家公司也擴展了支援代理訓練、部署與維運的全端平台[1]。這項工作包括採用NVIDIA新一代Vera Rubin架構的A5X執行個體,以及Google DeepMind的Gemini模型,並已獲OpenAI、Thinking Machine Labs、Schrödinger、Salesforce、Snap、Crowdstrike等主要AI實驗室與企業採用[1]。
總結
NVIDIA與Google Cloud在共同的開發者社群中新增了JAX與NVIDIA Dynamo的學習內容,並透過搭載RTX PRO 6000 Blackwell的G4執行個體以及Gemma 4、Nemotron等,進一步充實了打造AI代理的環境。從以SynthID進行的數位浮水印、借助Cosmos推動的負責任AI,到採用Vera Rubin的A5X執行個體,其將學習與生產無縫銜接的「全端」取向相當鮮明。全新的學習路徑與Codelab預計將於下個月開放。
來源:https://blogs.nvidia.com/blog/google-cloud-developer-community-ai-builders/
