OpenAI 在其 API 上開始提供針對即時語音對話的新模型「gpt-realtime-2.1」與「gpt-realtime-2.1-mini」。最受矚目的是小型的 mini 版：價格與先前的 gpt-realtime-mini 維持不變，卻新增了回應前在內部思考的推理功能與工具呼叫能力。同時，Realtime 系列語音模型整體的 p95 延遲（反映使用者實際體感卡頓的指標）縮短了 25% 以上。對於希望以低成本讓電話客服或語音助理正式上線的開發者而言，這是一次不容錯過的更新。
旗艦版與 mini 版：兩個模型的定位
本次新增的兩個模型各有不同的定位。高階的 gpt-realtime-2.1 是旗艦型號，為 GPT-Realtime-2 的更新版。英數字的辨識精度提升，像「8-3-5-7-1」這類型號或電話號碼較不容易聽錯。對靜音與噪音的處理、使用者中途打斷時的應對方式也有所改善，並支援可調整推理深度的 speech-to-speech（語音對語音的直接回應）。
另一方面，gpt-realtime-2.1-mini 定位為即時語音專用的小型推理模型。它透過即時連線回應語音與文字輸入，適合重視速度與成本效率的應用。推理與工具呼叫下放到 mini 層級，可說是本次發表的重點。
Realtime API 的設計並非將語音辨識與語音合成拆成獨立系統再串接，而是以單一模型完成從語音處理到生成的完整流程。如此既能壓低延遲，又能保留語音的細膩語感。連線方式也相當齊全：瀏覽器端使用 WebRTC，伺服器端處理使用 WebSocket，電話網路介接則使用 SIP。
「先思考再開口」解決語音代理的老問題
語音代理長期存在一個典型課題：呼叫外部函式（工具）期間會陷入沉默。無聲時間一拉長，使用者就會以為通話中斷而重新開口，導致處理只做到一半、對話狀態陷入混亂。
支援推理的新模型可以先說一句「我現在為您確認訂單狀態」，再執行函式。由於作業過程中也能持續說話，即使是橫跨多個步驟的語音任務，對話也不容易失控。
推理深度（reasoning effort）可從 minimal、low、medium、high、xhigh 五個等級中選擇。預設值為 low，簡單的往來對話可以壓低延遲。設定越深，回應越聰明，但延遲與輸出 token 也會隨之增加，因此 OpenAI 建議正式營運的語音代理先從 low 開始。
延遲縮短 25% 以上，快取帶來大幅折扣
對即時語音而言，重要的不是平均值，而是「慢的時候有多慢」。本次改進讓 Realtime 系列語音模型整體的 p95 延遲（最慢的 5% 回應）縮短了 25% 以上。這項提升來自快取機制的改良，屬於能確實減少使用者體感卡頓的改進。
快取在費用面同樣有效。已快取的輸入 token 以大幅折扣計費：gpt-realtime-2.1-mini 的語音輸入通常為每 100 萬 token 10 美元（約 1,620 日圓），快取後只需 0.30 美元（約 49 日圓）。系統提示詞自第一輪之後即會被快取，因此連線時間越長受益越大。
價格約為旗艦版的三分之一，適合哪些場景
語音輸出方面，mini 為每 100 萬 token 20 美元（約 3,240 日圓），旗艦版 gpt-realtime-2.1 為 64 美元（約 10,400 日圓），差距約 3 倍。語音輸入方面，mini 為 10 美元，旗艦版則為 32 美元（約 5,200 日圓）。由於推理與工具呼叫這兩項核心功能 mini 也能使用，接受一定的能力差距來換取更低成本，已成為務實的選項。
預期的應用場景包括：結合帳單諮詢與帳戶查詢工具的客戶支援、逐字元確認日期的預約變更、嵌入手機 App 的語音助理，以及現場作業人員唸出零件編號進行記錄的業務用途等。特別是英數字辨識的改進，在處理型號與單據編號的業務系統中應能發揮明顯效果。
※1 美元 = 約 162 日圓（截至 2026 年 7 月 9 日）
總結
gpt-realtime-2.1 系列在提升旗艦版聽取精度與對話自然度的同時，把推理與工具呼叫以價格不變的方式帶進了 mini 層級。加上 p95 延遲縮短 25% 以上與快取折扣，讓語音代理從「原型」走向「正式營運」的條件正逐步到位。若正在評估語音對話服務的開發，先從 mini 的 low 設定開始嘗試會是務實的第一步。
