NVIDIAが公式ブログで、AIエージェント時代に向けた新しいカテゴリーのCPUと位置づける「Vera」の設計思想と採用事例を公開しました[1]。88コアすべてが最大性能で動作する「大規模環境向けのシングルスレッド最速CPU」をうたい、エージェント的な処理を模した負荷試験ではx86比1.8倍のコアあたり性能を発揮。検索AIのPerplexityも実運用に向けた導入を検討しているとのことです。

なぜエージェント時代にシングルスレッド性能なのか

AIエージェントは、モデルが次の一手を考え、CPUがツール実行やコード実行、データ処理といった実作業をこなし、その結果を受けてまたモデルが判断する、というループを回し続けます。各ステップは前の結果に依存する逐次処理なので、コア数をいくら増やしても1つのループが進む速さは変わりません。ループの速度を決めるのは、あくまで1コアあたりの処理性能です[1]。

一方でNVIDIAは、既存のデータセンター向けCPUはこの用途に最適化されていないと指摘します。クラウドの普及以降、CPUメーカーは「貸し出せるコアあたりのコスト」を下げる方向に進化してきました。コア数を増やす代わりに、コアを速く動かすための高性能なメモリファブリックなどにシリコン面積を割かなくなり、さらにチップレット化によって各コアがチップ全体のメモリ性能へフルにアクセスできない「チップレット税」も生まれたとしています[1]。

AI工場(AIファクトリー)の観点でも、CPUの遅さは高価なGPUの待ち時間に直結します。エージェントの作業が速く終わるほどGPUの稼働率と収益が上がるため、全コアが妥協なくシングルスレッド性能を出せるCPUが必要になる、というのがNVIDIAの主張です[1]。

Olympusコアと1.2TB/sのメモリ帯域

Veraの中核となるのは、NVIDIAが独自設計したCPUコア「Olympus」です。サイクルあたりの命令実行数(IPC)は前世代のNVIDIA Grace比で50パーセント向上しました。メモリはLPDDR5Xで最大1.2TB/sの帯域を40ワット未満のメモリ消費電力で実現し、モノリシック(単一ダイ)構成の演算ダイと3.4TB/sのコア間帯域により、88コア全部が詰まった状態でもデータ供給が滞らない設計です。コア間帯域は他のデータセンター向けCPUの3倍にあたるとしています[1]。

この結果、エージェント的な実行を想定した高負荷のCPUワークロードで、Veraはx86の1.8倍の持続的なコアあたり性能を示したとのことです。ツール呼び出し、コード実行、データ処理、検証といったステップの短縮が積み重なることで、AI工場全体の処理量の底上げにつながります[1]。

Perplexityのテストでは1.5倍、データ処理では最大6倍の効果

採用事例も具体的です。Perplexityは日常的に回しているエージェント処理でVeraを検証し、リポジトリをクローンしてテストスイートをサンドボックス内で実行する実際のコーディングワークフローが、x86比で約1.5倍高速に完了。サンドボックスの同時起動は最大1.9倍速くなり、同社は今後の本番システムへのVera導入を検討しているといいます[1]。

データ処理系でも、Starburstとの大規模SQL分析で3倍の高速化、Redpandaとのリアルタイムストリーミングで最大6分の1のレイテンシーを、いずれも主要なx86サーバーCPUとの比較で計測したとのことです。VeraはGPU複合システム「NVIDIA Vera Rubin」でGPUをホストするCPUであり、ストレージプロセッサー「BlueField-4 STX」にも使われているため、AI工場全体を1つのアーキテクチャーと1つのツールチェーンで運用できる点も強調されています[1]。

次世代CPU「Rosa」と新コア「Rigel」も予告

NVIDIAはCPUロードマップの継続も明らかにしました。次世代CPU「Rosa」には新設計の「Rigel」コアを搭載します。RigelはArm v9.2世代のコアで、シリコン面積をOlympusと同等に保ちながら、命令供給の改善、大容量化したL2キャッシュ、より効率的なメモリハンドリングによって、コアあたり性能をさらに引き上げるとしています[1]。

まとめ

NVIDIAが公開したVeraの設計思想は、コア数競争から「全コアが最速で動くこと」への転換です。Olympusコアの高IPC、1.2TB/sのメモリ帯域、3.4TB/sのコア間帯域により、エージェント処理でx86比1.8倍のコアあたり性能を実現。Perplexityのコーディングワークフローで1.5倍、SQL分析で3倍といった実測値も示されました。エージェントが主役になる時代のデータセンターでは、CPUの評価軸そのものが変わっていくのかもしれません。

出典:https://blogs.nvidia.com/blog/nvidia-vera-max-single-threaded-cpu-at-scale/