Microsoftは2026年11月19日(米国時間)、USB4ケーブルで直結した2台以上のWindows PCのメモリとGPUの計算能力を束ね、1つのAIモデルを分割して実行できる機能「RDMA over USB4」を、同社の「Microsoft USB Blog」で発表した。開発者向けプレビューとして、Windows Insider Programの「Experimental」チャネル(Future Platforms)で近日中に提供するという。なお、記事執筆時点で対応ビルドは公開されていない。

出典:Microsoft USB Blog「Introducing RDMA over USB4® on Windows: run larger local AI models across PCs」

専用のネットワーク機器なしで複数のPCを1つの推論環境にできる

RDMA(Remote Direct Memory Access、ほかのコンピューターのメモリへ直接データを読み書きする技術)は、これまで主にデータセンター向けのネットワークアダプターで使われてきた。今回の機能は、これをPCに備わるUSB4ポートの上で動かすものである。同社は、RDMA対応のネットワークアダプターの購入も、スイッチの設定も、サードパーティ製ドライバのインストールも必要ないとしている。

仕組みはこうだ。まず、WindowsのUSB4接続マネージャーが、PCの組ごとにピアツーピアのトンネルを作る。続いて、新しいRDMAプロバイダーが、USB4ホストルーターのDMAリングの上でRDMAをソフトウェアとして実装する。アプリケーションからは、Windowsがデータセンター向けアダプターで使ってきたRDMAのAPI「NetworkDirect」として見えるため、対応する推論フレームワークは下でUSB4が動いていることを意識せずに済むという。

往復遅延はEthernet over USB4の約4分の1

同社がこの方式で重視したのは遅延だ。テンソル並列(モデルの計算を複数の装置で分担する手法)では、トークンを1つ生成するたびにPC同士が何度もデータをやり取りする。そのため、帯域よりも遅延が速度を左右すると同社は説明している。

2台のPCで計測したところ、小さなメッセージの往復遅延は約28~50μsで、同じUSB4の接続でEthernet(UDP)を使う場合と比べて約4分の1になったという。遅延は40Gbpsのポートと80Gbpsのポートで変わらない。一方、Thunderbolt 5などの80Gbpsのポートでは、帯域が2倍になるとしている。

AMDとIntelの環境で100B超のモデルを実行

検証は、AMDとIntelとの共同作業として行われた。同社が示した主な構成と結果は次のとおりである。

項目AMD環境Intel環境
プロセッサーRyzen AI Max+ 395Core Ultra Series 3
1台あたりのメモリ128GB(ユニファイドメモリ)64GB(9600MT/s)
接続USB4 40Gbps、3台をフルメッシュThunderbolt 4、3~4台をフルメッシュ
モデルQwen3-235B-A22B(4bit量子化)GPT-OSS-120B
生成速度約18.5トークン/秒(Microsoftの検証)49.4トークン/秒(3台)、54.2トークン/秒(4台)

AMD環境では、2350億パラメーターのMoEモデル「Qwen3-235B-A22B」を3台のミニPCで動かした。AMDが計測した条件(コンテキスト1600トークン、2048トークン生成)では、生成速度は21.98トークン/秒だったという。Intel環境の数値はIntelの計測で、コンテキストは1Kトークンである。GPT-OSS-120Bは64GBのPC 1台には収まらないモデルだと同社は説明している。

なお、同社はこれらを「これまでに検証したプラットフォーム」とし、ほかの環境で動かないという意味ではないとしている。結果はモデルやフレームワークのビルド、プラットフォームによって変わるという。

利用には全台の直結とテスト用の設定が必要

台数をN台とすると、各PCにはN-1個のUSB4ポートが要る。PCの組ごとにUSB4ケーブルを1本ずつ直結する形で、数珠つなぎ(デイジーチェーン)にすると性能が大きく落ちるという。全台で同じRDMA対応のInsiderビルド、プレビュー版のドライバ、NetworkDirectプロバイダーをそろえる必要もある。

設定では、レジストリの値を有効にしたうえで、テスト署名モードをオンにする。このモードはセキュアブートを無効にしないと使えないため、同社は日常使いのPCではなく、専用のテスト用PCを使うよう勧めている。既知の制限として、転送の再試行の仕組みがなく、切れた接続はアプリケーション側で張り直す必要がある。

NetworkDirectプロバイダーとサンプル、接続を確かめるツール「ndping」は、オープンソースとして公開済みだ。llama.cppのRPCバックエンドをTCPではなくNetworkDirectで動かすように改めたサンプルコードも公開している。

筆者の見立て

1台では載らない100B超のモデルを、手元のミニPCを数台つなぐだけで動かせる道が開けた点は大きい。高価なネットワークアダプターやスイッチを用意せずに済むため、ローカルAIを試したい開発者にとって敷居は下がるはずだ。

ただし、現段階ではセキュアブートを無効にしてテスト署名を有効にする必要があり、あくまで検証用の機能といえる。示された速度もメーカー側が特定の構成で計測したもので、手持ちのPCで同じ結果が出るとは限らない。

とはいえ、同社は対応するPCやシリコンパートナーの拡大、将来のWindowsのリリースへの搭載を検討しているとしている。正式な機能として扱いやすい形になるかどうかが、普及の分かれ目になると思われる。

まとめ

Microsoftは、USB4ケーブルで直結した複数のWindows PCで1つのAIモデルを分割実行できる「RDMA over USB4」を発表した。大型モデルを手元で動かしたい開発者や、USB4ポートを複数備えたミニPCの利用者に関係する。開発者向けプレビューはWindows Insider ProgramのExperimentalチャネルで近日中に提供される予定で、具体的な日付やビルドはまだ明らかにしていない。