AI新創公司Cohere於2026年9月16日宣布，已為其企業級AI推論平台「Model Vault」新增「機密運算(Confidential Computing)」功能。此功能會將從使用者輸入提示詞到模型產生回覆的整個處理流程加密，使得Cohere本身也無法得知資料內容。
※縮圖為AI生成的示意圖像。
繼「靜態儲存」「傳輸」之後 「處理中」的資料也一併加密
過去的雲端服務通常只在資料儲存時(硬碟上)與傳輸時(網路路徑上)進行加密，但AI模型實際執行推論運算時，資料在記憶體中往往仍以明碼形式存在。Cohere此次新增的機密運算功能，正是為了補上「處理中」這段空白。從使用者輸入的提示詞到模型產生的回覆，整個處理流程都在受硬體保護的隔離環境中完成，無論是Cohere的員工，或是負責維運Model Vault雲端基礎架構的管理人員，都無法查看其中內容。
同時「隔離」CPU與GPU
技術面上，Cohere在CPU端採用Intel的「TDX」或AMD的「SEV-SNP」等機密運算虛擬機技術，同時讓NVIDIA GPU以機密運算模式運作。CPU與GPU之間的通訊路徑本身，也透過基於SPDM(一種用於驗證通訊對象身分的業界標準規格)的安全連線加密，解密金鑰僅在負責處理的處理器內部產生，不會外流至外部軟體或基礎架構管理人員。使用者端也會透過名為「Oblivious HTTP(OHTTP)」的方式，將請求直接加密送往這個受保護環境，因此金鑰不會經過Cohere自身的系統。
處理內容是否真的受到保護，使用者可以自行驗證。Cohere每次推論時都會出具一份「遠端認證(Remote Attestation)」報告，證明執行環境確實為正規的機密運算硬體，並說明載入了哪些韌體、程式碼與設定，驗證服務採用Intel的「Intel Trust Authority」。此外，Cohere也表示計畫將Model Vault的服務端架構(實際處理推論請求的軟體整體)開源，讓外部稽核人員能夠獨立驗證其實作方式。
鎖定銀行、醫院、政府機關等受規範產業
Cohere表示，此功能的目標客群包括銀行、醫院、政府機關等處理受規範資料或高度機密資訊、需要獨立於其他租戶的「單租戶」部署以及廠商簽署認證證明的組織。隨著生成式AI逐漸應用於企業核心業務，「連雲端服務供應商都不希望能看到自己的資料」這樣的需求也日益增加，這被視為此次功能推出的背景之一。根據Cohere推論部門負責人Manoj Govindassamy表示，現有Model Vault客戶可免費使用此功能，無需額外付費。
總結
Cohere為「Model Vault」新增了機密運算功能，在既有的靜態儲存與傳輸加密之外，進一步涵蓋處理中的資料加密。此方案結合Intel TDX或AMD SEV-SNP與NVIDIA GPU的機密運算模式，並搭配遠端認證機制進行驗證，未來也計畫將服務端架構開源。此功能對現有客戶免費開放，也顯示出以受規範產業為核心的企業AI應用，正日益重視可驗證的「資料主權」這項趨勢。
