微软开始把 Windows 11 的本地 AI 功能扩展到 Copilot+ PC 的范围之外。根据更新后的开发者文档,凡是配备 NVIDIA GeForce RTX 30 系列或更新型号、且显存(VRAM)在 6GB 以上的 PC,如今都可以在本地运行 Windows 内置的语言模型 API。目前这还只是面向开发者的实验性改动,但它透露出一个信号:微软或许正在重新审视过去把端侧 AI 与 Copilot+ 品牌牢牢绑定的做法。
一直以 NPU 为前提的 Copilot+ PC
Copilot+ PC 在 2024 年 6 月登场时,传递的信息十分明确:要在本地运行 AI,就需要专用的 AI 硬件。这类 PC 以负责 AI 处理的 NPU(神经处理单元)为核心来定义,同时还设有 16GB 内存、SSD 等基准配置。其中,NPU 的搭载尤其被定位为在 Windows 上解锁本地 AI 功能的关键。
不过,能够胜任 AI 处理的芯片并不只有 NPU。GPU 本就是为大规模并行计算而设计,长期以来一直被用于运行机器学习模型。若论实际吞吐量,在不少 AI 工作负载上,现代 GPU 的表现都超过当下的 NPU。虽然功耗往往更高,但在纯粹的算力上,GPU 占据优势。
即便如此,微软此前仍把多数内置 AI 功能限定在配备 NPU 的机型上。结果是,即使是装有高性能 GPU 的 PC,也无法使用本地的文本生成、图像生成,以及 Windows Recall 等功能。
本地语言模型在 GPU 上运行的机制
如今,这道隔阂正在缩小。微软在更新的文档和 GitHub 上的帖子中确认,借助受支持的 GPU,即便是 Copilot+ PC 之外的机型也能运行语言模型 API。新增的能力被定位为"GPU 上的语言模型 API(实验性功能)",受支持的硬件为 NVIDIA GeForce RTX 30 系列或更新型号、显存 6GB 以上。
这一机制的核心,是一款名为 Phi Silica 的小型端侧模型。它并非预装在所有 PC 上,而是在应用需要时通过 Windows Update 下载。安装之后便在本地运行,不依赖云端,并在可用时调用 GPU 进行处理。
把一切都放在本地完成,好处十分明确。减少对云端处理的依赖,可以让响应更轻快;数据也留在本机,而不必发送到外部服务器。对开发者和企业用户而言,这可能成为左右如何采用 AI 功能的现实因素。
目前面向开发者,能做的以文本处理为主
话虽如此,该功能目前并未直接面向普通用户开放,而是停留在开发者层面。要真正使用,需要开发一个调用 Windows AI 基础框架的应用,或者借助这类应用。但无论如何,让本地 AI 触达更广泛 Windows 机型的基础已经铺好。
当前的功能以处理文本为主。通过 Windows.AI.Text 的 API,应用可以完成文本摘要、改写、转换为结构化格式以及生成提示词等工作。它提供的功能接近人们在云端 AI 工具中所熟悉的体验,却完全在端侧运行。
另一方面,此次推进仍是局部的。Windows Recall、Click to Do 等较为显眼的 Copilot+ 功能,依旧与配备 NPU 的机型绑定。GPU 的支持在现阶段仅限于语言模型 API 这一层,尚未扩展到全部 AI 集成功能。
总结
通过这次改动,微软不再把 NPU 视为通往本地 AI 的唯一入口。让 GPU 也来承担这些工作负载,使得兼容硬件的范围大幅扩大,登场时被反复强调的 Copilot+ PC 优势也相对被稀释。尽管这仍是一次面向开发者的实验性的第一步,但它看起来是一枚务实的伏笔,指向一个可以在自己桌上那台 RTX 机型上运行 Windows 本地 AI 的未来。
