AIスタートアップのCohereは2026年9月16日、企業向けAI推論基盤「Model Vault」に「機密コンピューティング(Confidential Computing)」機能を追加したと発表しました。プロンプトの入力から応答の生成までの処理過程をまるごと暗号化し、提供元のCohere自身もデータの中身を見られない仕組みを整えたことが特徴です。

※サムネイル画像はAI生成によるイメージです。

「保存時」「通信時」に続き「処理中」も暗号化

これまでのクラウドサービスでは、データは保存中(ディスク上)と通信中(ネットワーク経路上)こそ暗号化されるのが一般的でしたが、AIモデルが実際に推論処理を行っている最中は、メモリ上でデータが平文のまま扱われることが少なくありませんでした。Cohereが今回追加した機密コンピューティング機能は、この「処理中」の空白を埋めるものです。顧客が入力したプロンプトから、モデルが生成する応答まで、一連の処理がハードウェアで保護された領域の中だけで完結し、Cohereの従業員はもちろん、Model Vaultを稼働させているクラウド基盤の管理者も内容を閲覧できない設計になっています。

CPUとGPUを両方「隔離」する仕組み

技術的には、CPU側でIntelの「TDX」やAMDの「SEV-SNP」といった機密コンピューティング向けの仮想マシン機能を使い、NVIDIA製GPUについても機密コンピューティングモードで稼働させます。CPUとGPUの間の通信経路自体も、SPDM(通信相手を認証する業界標準規格)に基づくセキュアなセッションで暗号化されており、処理を担うプロセッサの内部でのみ復号鍵が生成され、外部のソフトウェアやインフラ管理者には一切渡りません。利用者側も「Oblivious HTTP(OHTTP)」と呼ばれる方式でリクエストを直接この保護領域宛てに暗号化して送るため、鍵がCohere側のシステムを経由することもありません。

処理内容が本当に保護されているかどうかは、利用者が自分で検証できます。Cohereは推論のたびに、実行環境が正規の機密コンピューティング対応ハードウェアであること、そしてどのファームウェア・コード・設定が読み込まれているかを証明する「リモートアテステーション」のレポートを発行しており、検証にはIntelの認証サービス「Intel Trust Authority」を利用しています。さらに、外部の監査人が独立して仕組みを検証できるよう、Model Vaultのサービング基盤(推論を実際に処理するソフトウェア一式)をオープンソース化する計画も明らかにしています。

銀行・病院・行政機関など規制業種を想定

Cohereはこの機能の想定顧客として、銀行や病院、行政機関など、規制対象データや機密性の高い情報を扱い、他社と処理基盤を共有しない「シングルテナント」構成やベンダー署名付きの検証証明を必要とする組織を挙げています。生成AIの利用が企業の基幹業務に広がるにつれて、クラウド事業者にもデータを見られたくないというニーズが強まっていることが背景にあるとみられます。Cohereの推論部門でディレクターを務めるManoj Govindassamy氏によれば、この機能は既存のModel Vault利用者に追加費用なしで提供されるとのことです。

まとめ

Cohereは「Model Vault」に機密コンピューティング機能を追加し、保存時・通信時に加えて処理中のデータも暗号化する体制を整えました。Intel TDXやAMD SEV-SNP、NVIDIA GPUの機密コンピューティングモードを組み合わせ、リモートアテステーションによる検証や将来的なオープンソース化も予定しています。追加費用なしで提供される点も含め、規制業種を中心とした企業向けAI活用における「データ主権」を重視する動きの一例といえそうです。