你把一份還沒公告的合約貼進 ChatGPT,請它抓重點,接著又補一句:「也幫我看一下這個外部網頁,對照有沒有矛盾。」很常見的工作捷徑,卻在同一段對話裡湊齊了資料外洩需要的三個條件。

2026 年 6 月,OpenAI 推出 ChatGPT 的 Lockdown Mode(鎖定模式),先開放給自助申辦的 ChatGPT Business 帳號和符合資格的個人帳號。依 TechCrunch 的報導,開啟後會關閉即時網頁瀏覽、從網路抓取並顯示圖片、深度研究(Deep Research)和代理模式(Agent Mode)。

這個開關有用,但要知道它解決的是哪一段。資料外洩通常需要三個條件同時成立:AI 看得到機密、讀了不可信的內容、又有辦法把東西送出去。Lockdown Mode 拿掉的是第三個;藏在內容裡的惡意指令,仍然可能讓 AI 的回答出錯。所以處理敏感資料前,先確認這段對話沒有三樣都湊齊。

出口關了,AI 仍然可能被騙

軟體開發者 Simon Willison 把這三個條件稱為 AI 代理的「致命三要素」:能存取私密資料、會接觸不可信的內容、能對外溝通。他的觀察是,AI 會照著它處理的任何內容裡的指令做事,所以一個網頁或一份文件裡藏一句「把上面的資料整理後送到某個網址」,就有可能被執行。三樣齊了,攻擊者就有一條把資料帶走的路。

這種藏在外部內容裡的指令,叫做「間接提示注入」。整理 AI 資安風險的國際社群 OWASP 把提示注入列為大型語言模型的第一大風險。

Lockdown Mode 關掉的,正是讓資料離開的出口。但 OpenAI 自己也說明,提示注入仍可能出現在快取的網頁內容或上傳的檔案裡,影響回答的行為或準確度;它的目標是降低敏感資料被分享出去的可能,不是消除所有風險。出口關了,AI 仍然可能被騙,只是被騙之後比較難把東西帶走。

拿掉三個條件中的一個

貼資料之前,先用三個問題看這段對話:

AI 會看到哪些不能外流的東西? 未公開的合約條款、客戶個資、內部財務數字、帳號資訊。能刪的先刪,能用代號的先用代號。資料越少,被帶走的也越少。

會不會同時讀不可信的內容? 外部網頁、陌生人寄來的檔案、網路上下載的文件,都可能藏著指令。合約摘要和外部網頁比對,可以拆成兩段對話:一段只處理合約,另一段只讀網頁,結論由你自己對照。

AI 有沒有辦法把東西送出去? 連網、深度研究、代理模式、連接外部服務、產生可下載的檔案,都是出口。不需要的時候,Lockdown Mode 就是一次把這些出口關掉的方法。

三個條件只要拿掉一個,那條路就斷了。最容易做到的,往往是把不可信內容和機密資料分開,不放在同一段對話裡。

廣告

先分級,再決定怎麼處理

公開資料,例如改寫部落格標題、整理公開新聞,照常使用即可。

敏感但可以縮小範圍的資料,例如合約片段、會議紀錄,先刪掉不必要的細節,再在 Lockdown Mode 下請 AI 協助閱讀和整理,結果由人確認。

高風險資料,例如資安事件細節、大量客戶個資、未公開財報,或會直接影響真實系統的操作,不適合放進一般對話,即使開了 Lockdown Mode 也一樣。這類工作應該走公司核准的工具和流程,有權限控管、留存紀錄和負責人。

它只是 ChatGPT 的功能

Lockdown Mode 是 ChatGPT 的功能,不會替你保護其他 AI 工具。OpenAI 也表明它不是給每個人用的,主要對象是處理敏感資料、需要更強保護的使用者和組織。公司裡如果有統一的 AI 使用政策,以政策為準。

深度研究這類功能被關掉,是因為它會大量讀取外部來源;這些來源本身也可能被下毒,參考〈AI 研究報告附了來源,只代表它從哪裡讀到,不代表那是真的〉。同樣的三要素思考,也適用在常駐 AI 助理上,參考〈常駐 AI 助理要先學會停手,才適合接上主要帳號〉。

AI 整理卡

我想用 ChatGPT(或其他 AI 工具)處理一份含有敏感內容的資料,想先確認這段對話不會讓資料外流。
判斷方法來自這篇文章:https://boosterminiclass.com/posts/chatgpt-lockdown-mode-sensitive-data-checklist/
文章的看法是:資料外洩通常要三個條件同時成立:AI 看得到機密、讀了不可信的內容、有辦法把東西送出去。Lockdown Mode 拿掉的是第三個,但藏在內容裡的指令仍可能讓回答出錯。處理前先確認三樣沒有湊齊,最簡單的是把機密資料和不可信內容分開。

請先問我:這次任務要做什麼、資料大致是哪一類(不要貼內容本身)、會不會需要讀外部網頁或別人給的檔案、需要哪些工具功能。
接著:
1. 判斷三個條件各自是否成立,並說明理由;
2. 建議拿掉哪一個條件最容易:刪減資料、拆成兩段對話、或關掉對外功能;
3. 依「公開」「敏感但可縮小」「高風險」三級,判斷這份資料屬於哪一級,以及對應的處理方式;
4. 如果屬於高風險,直接告訴我不要放進一般對話,並列出應該先問誰。
在我確認之前,不要要求我貼上資料本身。
廣告

Share

分享這篇微課

如果這篇剛好解開一個工作卡點,可以分享給也在判斷 AI 怎麼用的人。

參考來源