NVIDIA宣布，其支援機密運算（Confidential Computing，一種在處理過程中對資料加密並加以隔離以提供保護的技術）的GPU，現已用於蘋果Private Cloud Compute（PCC）中的機密推論處理[1]。PCC過去一直運行於蘋果自有的資料中心，如今正將部署擴展至Google Cloud。這項於蘋果WWDC公開的合作，作為NVIDIA、蘋果與Google三方攜手支撐新一代Apple Intelligence的舉措而備受矚目。
支撐Apple Intelligence伺服器端推論的NVIDIA Blackwell GPU
在這次合作中，NVIDIA的GPU負責為Apple Foundation Models（蘋果自行打造的基礎模型系列）提供伺服器端推論[1]。這些模型由蘋果與Google共同打磨，並運用了支撐Google「Gemini」系列模型的技術。
具體採用的是NVIDIA支援機密運算的「Blackwell」世代GPU[1]。它被整合進Private Cloud Compute的硬體安全架構，並在Google Cloud上運行。其目的在於，把智慧型手機與電腦單獨無法完成的沉重推論交由雲端承擔，同時保護使用者的隱私。
何謂機密運算
機密運算為AI處理提供了硬體層級的安全保護層[1]。它將正在執行的工作負載（進行中的運算處理）隔離在可信賴執行環境（Trusted Execution Environment）之中，使其內容無法從外部窺看。
此外，它還能在把機敏資料傳送至伺服器之前，透過加密技術驗證該基礎設施未遭竄改[1]。NVIDIA表示，藉由這項機制，對終端使用者而言可以達到「即使是打造系統的一方，也無法查看使用者的資料或對話內容」的狀態。這是一種回應許多人在把AI處理交付給雲端時所擔憂之事——擔心自己的往來內容被他人看見——的設計。
支撐隱私與信任的四項機制
NVIDIA將機密運算視為其對可信賴AI承諾的體現，並列舉了主要的四項功能[1]。
第一項是「植根於硬體的信任」，用以確保系統運行在真實、未遭竄改的NVIDIA GPU之上。第二項是保護在各元件之間傳輸資料的「加密通訊路徑」。第三項是在交付機敏資料之前可由軟體驗證平台安全狀態的「遠端證明（Remote Attestation）」。第四項則是在讓上述保護生效的同時，仍能不犧牲GPU效能地執行AI推論與訓練。
對於需要在處理機敏資訊的同時維持強力隱私管控的AI服務而言，這些功能的重要性據稱將持續提升。
端側與雲端結合的趨勢
如此大規模採用機密運算的背景，在於AI體驗形態的轉變[1]。如今的AI越來越常將端側處理（裝置本機）與雲端處理結合起來完成任務，對高效能伺服器端推論的需求也隨之上升。
另一方面，處理越是往雲端移動，對資料保護的要求就越嚴格。「嵌入硬體的安全是兼顧效能與隱私的關鍵」這項觀念，正在整個AI基礎設施領域擴散。NVIDIA、蘋果與Google這三大企業以具體產品為核心攜手合作，可以說是象徵這股趨勢的典型案例。
總結
NVIDIA宣布，其支援機密運算的Blackwell GPU已獲蘋果Private Cloud Compute採用，並將支撐其向Google Cloud的擴展[1]。這項舉措旨在以一種不讓任何人窺看使用者資料的方式，運行Apple Foundation Models的伺服器端推論。在橫跨裝置與雲端的AI日益成為常態之際，如何兼顧效能與隱私正成為重要課題。作為答案之一，植根於硬體的機密運算所扮演的角色，今後看來還會進一步擴大。
來源：https://blogs.nvidia.com/blog/nvidia-confidential-computing-apple-private-cloud-compute/
