微軟開始把 Windows 11 的本機 AI 功能延伸到 Copilot+ PC 的範圍之外。根據更新後的開發者文件,凡是搭載 NVIDIA GeForce RTX 30 系列或更新型號、且記憶體(VRAM)達 6GB 以上的 PC,現在都能在本機執行 Windows 內建的語言模型 API。目前這仍是面向開發者的實驗性變更,但它透露出一個訊號:微軟或許正在重新檢視過去把裝置端 AI 與 Copilot+ 品牌牢牢綁在一起的做法。

一直以 NPU 為前提的 Copilot+ PC

Copilot+ PC 在 2024 年 6 月登場時,傳達的訊息相當明確:要在本機執行 AI,就需要專用的 AI 硬體。這類 PC 以負責 AI 運算的 NPU(神經處理單元)為核心來定義,同時也設有 16GB 記憶體、SSD 等基準規格。其中,NPU 的搭載尤其被定位為在 Windows 上解鎖本機 AI 功能的關鍵。

不過,能夠勝任 AI 運算的晶片並不只有 NPU。GPU 本來就是為大規模平行運算而設計,長期以來一直被用於執行機器學習模型。若論實際的吞吐量,在不少 AI 工作負載上,現代 GPU 的表現都超越當前的 NPU。雖然耗電往往較高,但在純粹的運算力上,GPU 占有優勢。

即便如此,微軟先前仍把多數內建 AI 功能限定在搭載 NPU 的機型上。結果是,即使是裝有高效能 GPU 的 PC,也無法使用本機的文字生成、影像生成,以及 Windows Recall 等功能。

本機語言模型在 GPU 上執行的機制

如今,這道隔閡正在縮小。微軟在更新的文件與 GitHub 上的貼文中確認,透過受支援的 GPU,即使是 Copilot+ PC 以外的機型也能執行語言模型 API。新增的能力被定位為「GPU 上的語言模型 API(實驗性功能)」,受支援的硬體為 NVIDIA GeForce RTX 30 系列或更新型號、記憶體 6GB 以上。

這套機制的核心,是一款名為 Phi Silica 的小型裝置端模型。它並非預先安裝在所有 PC 上,而是在應用程式需要時透過 Windows Update 下載。安裝之後便在本機執行,不依賴雲端,並在可用時呼叫 GPU 進行處理。

把一切都在本機完成,好處十分明確。減少對雲端處理的依賴,可以讓回應更輕快;資料也留在本機,而不必傳送到外部伺服器。對開發者與企業使用者而言,這可能成為左右如何採用 AI 功能的現實因素。

目前面向開發者,能做的以文字處理為主

話雖如此,該功能目前並未直接對一般使用者開放,而是停留在開發者層面。要真正使用,需要開發一個呼叫 Windows AI 基礎框架的應用程式,或是借助這類應用程式。但無論如何,讓本機 AI 觸及更廣泛 Windows 機型的基礎已經鋪好。

當前的功能以處理文字為主。透過 Windows.AI.Text 的 API,應用程式可以完成文字摘要、改寫、轉換為結構化格式,以及產生提示詞等工作。它提供的功能接近人們在雲端 AI 工具中所熟悉的體驗,卻完全在裝置端執行。

另一方面,這次推進仍是局部的。Windows Recall、Click to Do 等較為顯眼的 Copilot+ 功能,依舊與搭載 NPU 的機型綁定。GPU 的支援在現階段僅限於語言模型 API 這一層,尚未擴及全部的 AI 整合功能。

總結

透過這次變更,微軟不再把 NPU 視為通往本機 AI 的唯一入口。讓 GPU 也來承擔這些工作負載,使得相容硬體的範圍大幅擴大,登場時一再強調的 Copilot+ PC 優勢也相對被稀釋。儘管這仍是一次面向開發者的實驗性第一步,但它看起來是一枚務實的伏筆,指向一個能在自己桌上那台 RTX 機型上執行 Windows 本機 AI 的未來。