NVIDIAは9月15日、米カリフォルニア州サンタクララで開かれたAI Infra Summitで、AIファクトリーの電力効率に関する新しい検証結果とパートナー連携を公開しました[1]。最新プラットフォームのVera Rubin NVL72は、エージェント型の実作業を再現したベンチマークで、前世代比30倍の1メガワットあたり処理量を記録しています。演算性能のピーク値ではなく、電力あたりどれだけのトークンを生み出せるかが、AIインフラの評価軸として前面に出てきました。
評価指標が「ピーク性能」から「電力あたりのトークン」へ
登壇したのは、NVIDIAでハイパースケールおよびHPC担当バイスプレジデントを務めるIan Buck氏です。今年のAI Infra Summitは参加者が8,000人を超え、前年の3,500人から倍以上に膨らみました[1]。会場の関心の中心にあったのが、AIインフラをどう電力制約の中で回すかという問題です。
背景にあるのは、エージェント型AIの普及です。エージェントは推論の手順を連鎖させ、外部ツールを次々に呼び出しながら答えを組み立てます。1回のセッションで数十万トークンの入力が積み上がることも珍しくなく、単純なチャット1件と比べておよそ15倍のトークン量になるとNVIDIAは説明しています[1]。処理量が増えれば、必要な電力もそのまま膨らみます。
そのためNVIDIAは、シリコンから電力系統までを一体で設計するという考え方を打ち出しました。Vera Rubin世代のシステム、推論ソフトウェアのDynamo、NeMoライブラリ、そしてNVLinkやSpectrum-X Ethernet、ConnectX SuperNIC、BlueField DPUといったネットワーク・ストレージ基盤までを、ひとつのAIファクトリーとして束ねる構成です[1]。
Lambdaが実機で検証、同じ電力で19ノードを稼働
電力配分を動的に最適化するソフトウェアがNVIDIA DSX MaxLPSです。GPUとラックの消費電力を継続的に監視し、余っている電力を必要な場所へ振り向けることで、固定的な電力割り当てでは眠ったままだった容量を回収します[1][2]。学習と推論では電力の使われ方が異なるため、両方が混在するAIファクトリーほど効果が出やすい仕組みです。
AIクラウド事業者のLambdaは、Blackwell世代のサーバー上でDSX MaxLPSを検証した結果をサミットで公開しました。通常なら16ノード分にあたる電力枠の中で19ノードを動かし、クラスター全体のトークン処理量を毎秒およそ400万から500万へと24パーセント引き上げ、電力あたりの性能を23パーセント改善したとしています[1]。次世代のVera Rubin NVL72を使ったAIファクトリーでは、条件がそろえば同じメガワット予算で最大40パーセント多いGPU容量を確保できるとNVIDIAは見込んでいます[1][3]。
ラック単位では、Intelligent Power Smoothingと呼ばれるソフトウェアと拡張されたエネルギーバッファが、短時間の電力スパイクを吸収します。瞬間的なピークに合わせて余裕を取っておく必要が減るぶん、平常時の稼働を持続的な需要に近づけられるという考え方です[1]。
エージェント処理の実測で前世代比30倍
今回もっとも目を引いたのが、SemiAnalysisのAgentXによる測定結果です。AgentXは、実際のエージェント型コーディング作業を記録し、文脈の伸び方やツール呼び出しの待ち時間、サブエージェントの生成までそのまま再現して推論性能を測るベンチマークです。単発のリクエストを測る従来型の指標では見えにくい、エージェント特有の負荷の形をとらえることを狙っています[1]。
このAgentX上で、DeepSeek V4 ProモデルにおけるVera Rubin NVL72は、GB300 NVL72に対して1メガワットあたり最大30倍の処理量を示しました。100万トークンあたりのコストも最大45分の1に下がっています[1]。電力が制約になっている環境では、メガワットあたりの処理量がそのままAIファクトリーの売上上限を決め、トークン単価がその利益率を決めます。NVIDIAはこの数字を、NVL72のスケールアップ構成と第6世代NVLink、第5世代Tensor CoreのNVFP4精度、TensorRT LLMとDynamoからなる推論スタックを組み合わせた設計の成果だと位置づけています[1]。
低遅延の推論では、NVIDIA Groq 3 LPXがVera Rubinを補完します。2兆パラメーター超のモデルを長い文脈で動かす場合、GB200 NVL72と比べて1メガワットあたり最大35倍のトークン処理量になるとされ、10万トークンの文脈を持つQwen 3.8 27Bのワークロードでは、利用者1人あたり毎秒2,529トークンの出力を記録しました[1]。
AIファクトリーが電力網と協調する
もうひとつの発表は、AIファクトリーを電力網側の調整力として使う試みです。Emerald AIはNVIDIAと組み、電力会社Silicon Valley Powerの柔軟負荷接続プログラムの中で、自動的な需要削減を実証しました。数百回に及ぶ需要信号に応答しながら、AIワークロードの性能は守られたとしています[1]。
仕組みを担うのがDSX Flexです。電力の抑制要請やデマンドレスポンス、価格シグナルを受け取り、あらかじめ決めた優先順位に沿って自動的に振る舞いを変えます。重要度の高いジョブはそのまま走らせ、優先度の低いジョブだけを一時的に止めて後から再開させる形です[1]。データセンターが一方的に電力を消費する存在から、系統の状況に合わせて出力を調整できる資源へと役割を広げることになります。
このほか、AmazonのAnnapurna LabsがNVHBMというカスタム広帯域メモリ技術でNVIDIAと協業していること、d-MatrixがNVLink Fusionを自社のRaptor XPUに統合していること、PinterestがBlackwellとDynamoを使って画像検索に対話型AIを導入していることも、あわせて明らかにされました[1]。
Vera CPUの検証結果とNVLink 6の信頼性
CPU側でも数字が出ています。Perplexityはエージェント向けの隔離実行環境SPACEでVera CPUを評価し、サンドボックスの起動が1.9倍速くなったと報告しました。Redpandaは他のCPUと比べて遅延が5.5分の1、スループットが73パーセント高いとし、Starburstはクエリ処理量が3倍、Kineticaは分析クエリが2.7倍速いという結果を示しています。ClickHouseは自社ベンチマークのClickBenchで、これまで測定した中で最速のマシンだったと述べました[1]。
規模が大きくなるほど問題になるのが、止まらずに動き続けられるかという点です。数十万基規模のGPUを束ねると、一時的なエラーや信号劣化、ハードウェア故障は避けられません。NVLink 6は、物理層での誤り訂正と再送、リンク復旧に加え、ネットワーク層でのクレジットベースのフロー制御や動的経路制御、リンク再配分を組み合わせ、障害を局所に封じ込める多層構造を採っています[1]。1台の不調が全体の処理を止めないようにする設計は、電力効率と同じくらいAIファクトリーの実効性能を左右します。
まとめ
AI Infra Summitで示されたのは、AIインフラの物差しが「どれだけ速いか」から「1メガワットでどれだけ働けるか」へ移りつつあるという現実です。Vera Rubin NVL72とDSX MaxLPSの組み合わせは、同じ電力枠で扱えるGPUを増やし、エージェント型の実作業では前世代比で最大30倍の電力あたり処理量を記録しました。電力網と協調するDSX Flexの実証も含め、AIファクトリーは電力をどう使い切るかという設計課題に軸足を移しつつあります。
出典[2]: https://developer.nvidia.com/blog/maximizing-ai-factory-performance-per-watt-with-nvidia-dsx-maxlps
出典[3]: https://blogs.nvidia.com/blog/vera-rubin-nvl72-efficiency-ai-agents/
