OpenAI 為 ChatGPT 新增了一項安全功能「鎖定模式(Lockdown Mode)」。這是一項選用設定,用來降低提示詞注入攻擊造成機密資料外洩的風險,啟用後 ChatGPT 連接網路與外部服務的多數功能都會受到限制。該功能正陸續向 Free、Go、Plus、Pro 等個人方案以及 Business 帳號開放,主要面向需要嚴格保護資訊的使用者。
什麼是「鎖定模式」
鎖定模式是 ChatGPT 的附加安全功能,已於 6 月 6 日(美國當地時間)開始提供。它最初在 2 月發表,如今正式可以使用。
其目標相當明確:在遭遇提示詞注入攻擊時,降低機密資料被帶往外部的風險。OpenAI 將提示詞注入定位為「前沿研究課題」,並透過多層防禦加以因應。鎖定模式正是在此之上再疊加的一層額外防禦。
提示詞注入這種攻擊
提示詞注入是一種攻擊手法:第三方在網頁、上傳的檔案等之中植入惡意指令,欺騙 AI 執行原本不被允許的操作,例如悄悄把機密資訊傳送到外部。
鎖定模式所守護的,正是這個把資料送出去的環節。透過限制網路請求,阻斷機密資料被傳送到攻擊者所準備伺服器的路徑。不過,它並無法阻止注入本身。OpenAI 在 FAQ 中明確說明,該功能旨在大幅降低提示詞注入造成的資料外洩風險,但並不保證不會發生外洩。
啟用後會受限的功能
為了提升安全性,啟用後 ChatGPT 的部分功能會被停用或受到限制。
即時網路瀏覽僅限於存取已快取的內容,搜尋結果可能較為陳舊。在回覆中顯示或取得網路圖片也將無法使用。Deep Research 與自主執行的 Agent Mode 會被停用,Canvas 中生成程式碼的網路存取也無法獲得授權。為資料分析自動下載外部檔案的操作同樣會停止。
另一方面,程式設計助理 Codex 的網路存取不受影響。由於日常使用的功能被普遍收緊,需要留意這是以便利性換取安全性。
設定方法與適用對象
個人使用者可在「設定」「安全性」「進階安全性」中,透過「鎖定模式」的切換開關進行設定。啟用後輸入欄上方會顯示狀態,也可以只針對特定對話暫時關閉。要注意的是,鎖定模式與開發者模式無法同時使用,開啟其中一個,另一個就會自動關閉。
OpenAI 表示,這項功能並非人人都需要。它面向的是處理高度機密資料、希望對提示詞注入造成的外洩獲得更強保護的個人或組織。若是一般用途,維持常規模式使用,再依所處理資訊的敏感程度進行切換,會更為實際。
總結
鎖定模式是一項選用設定,它以放棄部分網路瀏覽與代理(agent)類便利功能為代價,換取降低提示詞注入造成機密資料外洩的風險。該功能正陸續向個人方案與 Business 帳號開放,且不影響 Codex 的運作。在 AI 自主行動日益普及的背景下,這可以說是 OpenAI 將提示詞注入視為持續課題、並讓使用者能依自身風險承受度選擇防禦強度的一步。
