NVIDIA 宣布進一步深化與 Amazon Web Services（AWS）的合作，強化了在正式環境中大規模執行 AI 的基礎設施[1]。此次合作圍繞三大支柱推進：推出搭載 GPU 的新執行個體 Amazon EC2 G7、將向量搜尋的 GPU 加速設為預設方式，以及面向訓練的效能認證，目的是讓企業更容易把 AI 從概念驗證階段推進到實際營運[1][2]。
全新 GPU 執行個體 Amazon EC2 G7
此次發表的核心，是搭載 NVIDIA RTX PRO 4500 Blackwell Server Edition GPU 的新執行個體 Amazon EC2 G7[1][2]。AWS 成為首家支援這款伺服器等級 Blackwell GPU 的主流雲端服務商[2]。該執行個體已於 2026 年 6 月 18 日開始提供，初期涵蓋美國東部（俄亥俄）與美國西部（奧勒岡）兩個區域[2]。
在效能方面，官方表示與上一代 G6 相比，G7 的 AI 推論效能最高提升 4.6 倍，圖形處理效能最高提升 2.1 倍[1][2]。單一執行個體最多可搭載 8 張 GPU，GPU 記憶體合計達 256GB，網路支援 EFA（Elastic Fabric Adapter），頻寬最高 700Gbps，本機儲存為最高 7.6TB 的 NVMe SSD[1]。使用者可在 1 張、2 張、4 張、8 張 GPU 的配置中選擇，此外不經虛擬化、直接使用實體伺服器的裸機配置也將很快推出，讓團隊能依需求調整規模，而無須過度配置[1]。處理器採用 Intel 的 Xeon 6[2]。
適用情境也相當廣泛。除 AI 推論外，同一種執行個體還能承擔高解析度影片與影像處理、CAD（電腦輔助設計）、虛擬桌面、遊戲以及空間運算等以圖形為主的工作[1]。在資料分析方面，透過在 Amazon EMR 上為 Apache Spark 使用 NVIDIA cuDF 函式庫，可以把 GPU 加速帶入分析管線[1]。G7 可透過 AWS 的各類機器學習映像檔與容器，以及 Amazon EMR、EKS、ECS 等使用，並將很快支援 Amazon SageMaker AI[1]。
把向量搜尋的 GPU 加速設為預設
第二大支柱是搜尋平台 Amazon OpenSearch 的革新。在下一代 OpenSearch Serverless 中，由 NVIDIA 開源函式庫 cuVS 驅動的 GPU 向量索引，將成為所有向量集合的預設運算方式[1][3]。向量搜尋是把文字、影像等內容轉換成數值序列（向量），再依語意找出最接近內容的機制，如今已被廣泛用作生成式 AI 的基礎。
這項變化對檢索增強生成（RAG，透過參照外部資料來提升回答準確度的方法）、語意搜尋、推薦系統以及自主運作的代理型 AI 等用途意義尤其重大[1]。根據 NVIDIA 說明，與僅用 CPU 建立索引相比，向量索引的建立速度最高可達 10 倍，成本可降至四分之一，10 億級規模的向量資料庫也能在 1 小時內建置完成[1][3]。關鍵在於，過去往往被視為專門最佳化專案的 GPU 向量搜尋，如今變成了人人可用的 AWS 標準功能[1]。
訓練效能獲得「認可」：GB300 取得 Exemplar Cloud 認證
第三大支柱是面向訓練負載的認證。AWS 在使用 NVIDIA 頂級系統 GB300 的訓練中，取得了 NVIDIA 的 Exemplar Cloud 認證[1]。這代表 AWS 的環境達到了 NVIDIA 依據其參考架構（作為效能標尺的參照配置）所設定的嚴格效能標準[1]。
NVIDIA 將這項認證視為雙方緊密協同工程的成果[1]。透過 Exemplar Clouds 計畫，開發者與 AI 負責人能更容易判斷用於大規模訓練的雲端基礎設施是否能持續發揮高效能，從而改善總持有成本（TCO），並更有效率地從規劃走向正式環境[1]。
總結
NVIDIA 與 AWS 此次發表，透過新款 GPU 執行個體 EC2 G7、借助 cuVS 把向量搜尋 GPU 加速標準化，以及 GB300 上的 Exemplar Cloud 認證這三點，一次提升了 AI 基礎設施的各個層面。其共同目標是在不增加維運負擔的前提下，提供可在正式環境規模下發揮效能的基礎設施，讓企業更容易從試用 AI 走向真正使用 AI。隨著生成式 AI 從試點走向日常業務，雲端一側能在多大程度上降低導入門檻備受關注。不過，所呈現的數據皆基於 NVIDIA 與 AWS 自身的實測，實際效果仍取決於在各自具體負載中的驗證。
來源: https://blogs.nvidia.com/blog/nvidia-aws-ai-production-scale/
