英伟达(NVIDIA)宣布,其支持机密计算(Confidential Computing,一种在处理过程中对数据进行加密与隔离以加以保护的技术)的GPU,现已用于苹果Private Cloud Compute(PCC)中的机密推理处理[1]。PCC此前一直运行在苹果自有的数据中心,如今正将部署扩展到Google Cloud。这项在苹果WWDC上公开的合作,作为英伟达、苹果与谷歌三方携手支撑下一代Apple Intelligence的举措而备受关注。

支撑Apple Intelligence服务器端推理的英伟达Blackwell GPU

在此次合作中,英伟达的GPU负责为Apple Foundation Models(苹果自主构建的基础模型系列)提供服务器端推理[1]。这些模型由苹果与谷歌共同打磨,并采用了支撑谷歌"Gemini"系列模型的技术。

具体使用的是英伟达支持机密计算的"Blackwell"代GPU[1]。它被集成进Private Cloud Compute的硬件安全架构,并在Google Cloud上运行。其目的在于,将智能手机和电脑单独无法完成的繁重推理交由云端承担,同时保护用户隐私。

何为机密计算

机密计算为AI处理提供了硬件层面的安全保护层[1]。它将正在运行的工作负载(进行中的计算处理)隔离在可信执行环境(Trusted Execution Environment)之中,使其内容无法从外部窥探。

此外,它还能在将敏感数据发送到服务器之前,通过加密技术验证该基础设施未被篡改[1]。英伟达表示,借助这一机制,对终端用户而言可以实现"即便是构建系统的一方,也无法查看用户数据或对话内容"的状态。这是一种回应许多人在把AI处理托付给云端时所担忧之事——担心自己的交流被他人看到——的设计。

支撑隐私与信任的四项机制

英伟达将机密计算视为其对可信AI承诺的体现,并列举了主要的四项功能[1]。

第一项是"植根于硬件的信任",用以确保系统运行在真实、未被篡改的英伟达GPU之上。第二项是保护在各组件之间传输的数据的"加密通信路径"。第三项是在交付敏感数据之前可由软件验证平台安全状态的"远程证明(Remote Attestation)"。第四项则是在让上述保护生效的同时,仍能不降低GPU性能地执行AI推理与训练。

对于需要在处理敏感信息的同时维持强力隐私管控的AI服务而言,这些功能的重要性据称将不断提升。

端侧与云端相结合的趋势

如此大规模采用机密计算的背景,在于AI体验形态的转变[1]。如今的AI越来越多地将端侧处理(设备本地)与云端处理结合起来完成任务,对高性能服务器端推理的需求随之上升。

另一方面,处理越是向云端转移,对数据保护的要求就越发严格。"嵌入硬件的安全是兼顾性能与隐私的关键"这一理念,正在整个AI基础设施领域扩散。英伟达、苹果与谷歌这三大企业以具体产品为轴心携手,可以说是象征这一趋势的典型案例。

总结

英伟达宣布,其支持机密计算的Blackwell GPU已被苹果Private Cloud Compute采用,并将支撑其向Google Cloud的扩展[1]。这项举措旨在以一种不让任何人窥探用户数据的方式,运行Apple Foundation Models的服务器端推理。在跨越设备与云端的AI日益成为常态之际,如何兼顾性能与隐私正成为重要课题。作为答案之一,植根于硬件的机密计算所扮演的角色,今后看来还会进一步扩大。

来源:https://blogs.nvidia.com/blog/nvidia-confidential-computing-apple-private-cloud-compute/