林小姐要寄一件包裹。AI 從過往對話找出她公司的地址，語氣自然、格式完整，甚至省掉重新輸入的時間。問題是，這次訂單指定寄到她家。倉管若只問「AI 記得的地址合理嗎」，答案很可能仍是合理；真正能決定這一箱往哪裡走的，是這一筆訂單的收件欄。
「不要把地址放進 AI 記憶」只說了一半。地址仍得有地方保存，AI 也得在適當時機拿到它。先把會變動的資料放回可追溯、可更新的權威來源；再讓 AI 在行動前透過明確的 retrieval、tool 或 API 重新讀取。記憶提示要查什麼，正本回答現在能用什麼。
OpenAI 的 Memory FAQ 說明，記憶摘要會隨對話更新，卻不一定顯示所有影響回答的資訊；過去的記憶也可能過時或互相矛盾。「我記得」因此只能證明某段背景曾進入系統，不能證明它仍適用於眼前這個動作。
先替資料找到負責更新的家
同一句「請記住」背後，可能是四種完全不同的保存需求。
- 回答偏好，例如希望條列、食譜不放香菜，可留在能檢視與刪除的個人化記憶中，只用來調整可逆內容。
- 這次交易的值，例如收件地址、付款金額、預約時段，放在對應的訂單、請款單、預約紀錄。哪一筆動作，就讀哪一筆紀錄，不讓預設值蓋過本次輸入。
- 持續變動的營運資料，例如聯絡人、庫存、期限、核准預算，回到 CRM、庫存系統、專案工具、行事曆或核准台帳，並保留責任人與更新時間。
- 敏感、第三人或同意資料，只放在用途、權限、保留期限與責任人都已指定的系統。沒有合格位置，就在當次向有權的人確認且不持久化，不另建 AI 記憶。
一個來源能不能當正本，不看它是否「官方」，而看它是否負責這個欄位、這個對象、這個時間點。本次訂單比客服舊對話更能決定收件地址；已核准行事曆比聊天裡的「那天應該可以」更能決定會議時間。若團隊還沒替常用資料指定正本，可以參考讓 AI 查公司數字前先固定答案來源的來源、定義與責任人做法，但地址與期限仍要在本文的行動層另做核對。
- AI 準備使用的這個值，接下來會造成什麼？
- 只改變可逆的內容建議顯示引用的偏好，讓當事人能當場更正
- 將寄送、預約、付款或通知指定本次交易或現行業務正本，執行前重新讀取並比對
- 涉及敏感、第三人或同意範圍先確認用途、責任人與讀取權限；任一缺失就不保存、不重用
行動前要真的換一條取用路徑
在同一個對話裡追問「你確定地址沒錯嗎」，只是讓記憶替自己作證。有效核對必須發生在執行工具之前，而且換到另一個由資料負責人維護的入口。
以寄件為例，記憶只回傳「需要收件地址」這個欄位提示；唯讀訂單 API 再依 order_id 取得當筆 shipping_address 與版本；預覽顯示地址、來源與取用時間；人確認後，批准綁到這個包裹、地址與寄件呼叫。寄件元件拒絕直接來自記憶的地址。
預約前改讀現行行事曆，付款前讀核准請款單，通知前讀本案聯絡名單與同意狀態。沒有 API，就用受控的唯讀工具；工具也沒有，就由當次使用者提供並確認。重點是取用路徑與範圍看得見。
取用結果還要有停止條件。找不到紀錄、權限不足、版本太舊、記憶值與正本不同，或正本本身仍標示待確認，都只能產生草稿與待確認問題。AI 不得自行猜哪一個較新，也不得把使用者的一次回答默認寫成永久偏好。
Anthropic 的 memory tool 文件把實際儲存與取用交給應用程式控制，並要求處理敏感資料、到期、容量與路徑防護。OWASP 也要求保存前驗證、隔離使用者與工作階段，並把高影響批准綁到具體操作者、工具、目標、參數、時間與期限。記憶是應用程式必須治理的資料層，不會因模型有自信就自動保持正確。
修正舊資料，要先改正本再清記憶
林小姐發現舊地址時，先修正這筆訂單。若客戶主檔的預設地址也過時，再由有權限的人更新並留下時間與責任人；之後才處理 AI 記憶、舊對話、檔案或連接來源。
OpenAI 說明，完整移除資訊可能要處理聊天、檔案、記憶摘要與連接 app。Google 也提醒，只刪聊天或只斷開 app 都可能留下另一個入口。修正紀錄至少要回答：正本改在哪裡、誰改的、哪些記憶已失效、還有哪些連接來源待清理。
這裡也要和「是否仍相關」分開。如果你已經用記憶相關性檢查排除了不相干背景，剩下的地址仍可能過時。相關性決定要不要拿來當線索；本篇的來源核對決定它能不能進入工具參數。
從一個離開聊天視窗的動作開始
挑一個每天真的會發生的寄件、預約或通知流程，只改一條路徑。替每個會驅動動作的欄位寫下正本、查詢鍵、責任人與過期條件；要求 AI 在預覽中顯示取回值、來源與版本；最後讓執行元件只接受已核對、已綁定批准的值。
若流程說不清「資料平常放在哪裡、這次用什麼工具取得、如何知道它仍有效、誰批准這個具體動作」，自動化就停在草稿。少問一次地址是個人化；寄到這次訂單指定的地方，才是完成。
AI 整理卡
請唯讀檢查我目前已授權你看到的一個寄送、預約、付款或通知流程，以及它可用的記憶、工具與連接來源。不要修改資料、記憶或設定，不要呼叫會寫入、寄送、預約、付款或通知的工具。先列出每個會進入動作參數的欄位，分別標明：目前記憶值、應負責更新它的權威來源、查詢鍵、資料責任人、最後更新時間或版本、目前讀取權限；找不到就寫「未知」，不要推測。接著說明 AI 在執行前應透過哪個唯讀 retrieval、tool、API 或當次使用者確認重新取得該值，並把取回值與記憶值並排。任一欄位缺少正本、權限、版本，或兩值不一致時，標記為「停止執行」。最後只產生一份非執行預覽，列出具體工具、目標、參數、來源證據、批准人與批准期限，再停止；不得自行修正正本或把本次回答寫入長期記憶。
四格看懂地址如何取得放行
- AI 助手從舊檔案盒取出藍色地址牌，交給正在準備同一件包裹的林小姐；它只是記憶中的候選值。
- 林小姐正要把藍色舊牌貼上包裹並交給物流推車，但在寄件發生前停住。
- 林小姐改開另一個收件匣裡的最新訂單，把舊藍牌與訂單上的珊瑚色地址牌並排核對。
- 林小姐只把核對過的珊瑚色地址牌貼上包裹後才寄出；最新訂單留在桌上，舊牌退回檔案盒。
從林小姐這段寄件故事可以看見，AI 處理曾經發生過的事時，很容易把記憶裡仍然像真的舊值當成現況。真正需要長期保留、持續更新、之後還要再用的地址，不該只留在 AI 記憶裡，而要回到能維護也能核對的訂單或客戶紀錄；等 AI 準備寄件時，再從那裡取回確認，故事才會停在正確的珊瑚色地址牌上。
參考來源
- OpenAI Help Center：Memory FAQ — https://help.openai.com/articles/8590148-memory-faq [accessed: 2026-07-30]
- Anthropic Claude Platform Docs：Memory tool — https://console.anthropic.com/docs/en/agents-and-tools/tool-use/memory-tool [accessed: 2026-07-30]
- OWASP Cheat Sheet Series：AI Agent Security Cheat Sheet — https://cheatsheetseries.owasp.org/cheatsheets/AI_Agent_Security_Cheat_Sheet.html [accessed: 2026-07-30]
- Google Gemini Apps Help：Get personalization with memory of your past Gemini chats — https://support.google.com/gemini/answer/16598469 [accessed: 2026-07-30]
