OpenAI 於 9 月 8 日發布整理自身業務結構的文件《The Work Now Within Reach》。除了每週活躍使用者超過 10 億、企業客戶達到 250 萬家之外,文件也提出使用者越用越多的實測數據,並說明自研推論晶片在壓低服務成本上的定位[1]。

開通半年之後,用量還在往上走

最引人注意的,是針對個人版 ChatGPT 使用者的追蹤數據。開通 6 個月後,每天的訊息量比第一個月高出約 50 個百分點,嘗試過的任務種類約為原本的 2 倍[1]。人們一開始只在有限的情境中使用,熟悉之後逐步擴大交給 AI 的範圍,這個過程如今能以數字呈現。

OpenAI 正是依據這項特性來安排收入結構。由廣告支撐的免費額度,扮演「發現 AI 在哪裡有用」的場域,感受到價值的使用者再轉往訂閱制或按量計費。先把容器準備好,再迎接用量的成長[1]。

規模數據也一併公開。把 ChatGPT、ChatGPT Work、Codex 以及建構在 API 上的應用程式合計起來,每週活躍使用者超過 10 億,導入企業達 250 萬家。一項研究成果可以同時改善多個產品,收入來源因而得以分散[1]。

家庭與職場的界線正在變淡

文件也提到個人使用與企業導入之間互相拉動的關係。在家裡習慣了 ChatGPT 的人,會把同樣的感受帶進辦公室;而在工作中處理複雜任務的經驗,又會改變他們在私人生活中對 AI 的期待。開發者則透過打造 OpenAI 自身未曾設想的應用程式,進一步拓寬使用面。隨著代理型產品越來越了解使用者本人,這兩個區隔預計會持續模糊[1]。

公司內部的例子是研究部門的工作方式。相對於人類 1 個工作日的勞動,代理程式貢獻了 3.1 個工作日的工作量,過去需要專門人員支援的基礎架構問題,如今也可以交給代理程式處理。決定優先順序與判斷結果仍由人負責,收穫展現在團隊能夠推進的想法數量上[1]。

為了壓低推論成本而做的軟體與晶片

如果需求持續成長,下一個關鍵就是單次回應能做到多便宜、多快。OpenAI 表示,它把資料中心、晶片、軟體、模型與產品當成一個整體來管理,也就是所謂的全端策略,為每一類工作負載挑選最合適的組合[1]。

具體數字也已提出。借助 GPT-5.6 Sol 改良正式環境的服務軟體之後,端到端的服務成本下降 20 個百分點,後續改良又讓 Token 生成效率提升 15 個百分點以上[1]。

硬體方面由自研的首款推論晶片 Jalapeño 承擔。在針對 3 個公開模型的 InferenceX 測試中,相較於參與比較的商用系統,每瓦峰值 Token 吞吐量達到 1.5 至 1.9 倍,端到端延遲則降到原本的 1.7 分之一至 3.6 分之一,比較以晶片額定功率進行正規化。計畫在年內與 NVIDIA、AMD 等合作夥伴的加速器一同開始部署[1]。

更好的模型能減少嘗試次數,更好的軟硬體則讓每一次嘗試更快更便宜。OpenAI 認為,兩條路同時推進,就能用同樣的運算資源承接更多工作[1]。

投資以「多快能回收」作為判斷標準

另一方面,文件也點出替擴張踩煞車的標準。每一筆投資都要看它能滿足多少需求、多久能夠投入運轉、回報是否與投入的資本相稱[1]。在整個產業向運算資源投入龐大金額的背景下,把判斷的尺規寫清楚,本身就是一種訊號。

在模型方面,GPT-6 Astra 被定位為在電腦操作、網頁瀏覽、軟體開發、資安、科學以及專業工作等領域處於最前緣[1]。

總結

這次公開的並不是新產品,而是 OpenAI 如何描述自身循環的一份說明。開通半年後每日訊息量增為 1.5 倍、嘗試的任務種類翻倍,說明 AI 的使用一旦形成習慣,自然會越用越厚。為了承接這份成長而壓低推論成本,省下來的部分又轉化為更多使用。比起個別數字,這個循環能轉得多快,才是競爭的焦點。

來源:https://openai.com/index/the-work-now-within-reach/

※ 縮圖為 AI 生成的示意圖。