理奈の前回の荷物は勤務先へ届いた。発送AIはその住所を今回も候補に出したが、注文票には自宅が指定されている。古い住所は実在し、書式も正しい。「もっともらしいか」ではなく「この注文票に何とあるか」を見る必要がある。
変わり得る情報をAIの記憶に置かない、という注意だけでは足りない。住所や納期をどこへ保存し、必要な瞬間にどう取り出すかも決める。必要なのは、更新責任を持つ正本と実行直前の明示的な取得である。記憶は確認項目を示してよいが、ツールへ渡す値は現行の正本から取り直す。
OpenAIのMemory FAQによれば、記憶要約は会話に応じて変わるが、すべての情報や出典を示すとは限らず、古くなり矛盾する場合もある。「覚えている」だけでは成立時点も元記録の更新も分からない。
記憶に置かない情報には、更新できる置き場所を用意する
正本は一つの巨大な台帳ではない。何を行うかによって変わる。
- 可逆的な回答設定は、本人が閲覧・訂正・削除できる個人化記憶に置ける。文章の長さや料理の好みは、提案を作り直せる。
- 一回の取引値は、その注文、承認済み請求書、予約記録に置く。プロフィールの既定値で今回の入力を上書きしない。
- 変わる業務情報は、CRM、在庫、プロジェクト管理、現行カレンダー、承認台帳で管理し、責任者と更新時点を追えるようにする。
- 機微・第三者・同意情報は、目的、責任者、アクセス、保存期限を定めたシステムだけに置く。承認済みの場所がなければ今回の権限者へ確認し、保存しない。
これは社内数値の正本を固定する方法を行動値へ広げたものだ。この荷物は今回の注文票、会議は承認済み予定、支払いは承認済み請求書が担う。対象と時点が実行に合うことが重要である。
- この値は次に何を起こすのか？
- 元に戻せる内容案だけを変える参照した好みを表示し、本人がその場で訂正できるようにする
- 発送・予約・支払い・書き込み・通知を行う今回の取引または現行の業務正本を指定し、実行前に取得・照合する
- 機微・第三者・同意情報を使う目的、責任者、読取権限を確定し、欠ける場合は保存も再利用もしない
取得処理を実行の必須条件にする
同じAIに「本当に正しいか」と聞き直しても、記憶が自分を保証するだけである。検証は別経路へ移り、実行ツールが引数を受け取る前に終わっていなければならない。
理奈の荷物では、記憶層は「配送先住所が必要」という項目だけを示す。読み取り専用の注文ツールが order_id で今回の shipping_address と版を取得し、プレビューに住所、注文ID、取得時刻を出す。承認はこの荷物、この住所、この発送呼び出しに結び付く。発送ツールは記憶から直接渡された住所を拒否する。
予約なら現行カレンダー、支払いなら承認済み請求書、通知なら案件別の宛先と同意状態を読む。APIがなければ制限された読取ツール、それもなければ今回の利用者確認を使う。取得元と範囲が見えることが条件である。
記録なし、権限不足、期限切れ、値の不一致、正本側の「未確認」は草稿へ戻す。AIに新旧を推測させず、一度の回答を永続記憶へ昇格させない。
Anthropicのmemory toolは、実際の保存と取得をアプリケーション側へ置き、機微情報、失効、容量、パス防護も実装者の責任とする。OWASPも保存前検証、利用者・セッション間の分離、引数単位の承認を求める。記憶はモデルの自信ではなくアプリケーション設計で守る対象である。
訂正は正本から始め、古い値の戻り道を閉じる
古い勤務先住所に気づいたら、まず今回の注文を直す。プロフィールの既定値も古ければ権限者が更新し、時刻を残す。その後でAI記憶、会話、キャッシュ、接続元を無効化する。
OpenAIは、完全な除去には会話、ファイル、記憶要約、接続アプリの確認が必要になり得ると説明する。Googleも、会話削除だけ、またはアプリ切断だけでは別経路が残るとする。訂正記録には更新した正本と責任者、無効化した記憶、残る接続経路を記す。出典や削除機能を示せない製品にはプレビューまでしか任せない。
記憶の関連性確認は不要な背景を候補から外す。現行値の検証は、残った候補をツール引数へ進めてよいかを決める。
まず一つ、画面の外へ出る動作を通す
発送、予約、通知から一件を選び、各欄の正本、検索キー、責任者、失効条件を記す。プレビューには取得値、記録ID、版を表示し、実行部品は承認済みの値だけを受け取る。
「普段どこで更新するか」「今回は何で取得したか」「現行だと何で分かるか」「誰がこの引数を承認したか」を説明できない場合、自動化は草稿で止める。一度聞かずに済むことが個人化であり、現行の証拠で正しい荷物を送ることが自動化である。
AI整理カード
現在閲覧を許可されている発送、予約、支払い、書き込み、通知のフローを一件だけ読み取り専用で調べよ。利用可能な記憶、取得ツール、接続元も対象にするが、記録、記憶、設定を変更せず、書き込み、発送、予約、支払い、通知のツールを呼び出してはならない。実行引数へ入る全項目について、記憶値、更新責任を持つ正本、検索キー、責任者、更新時刻または版、現在の読取権限を示し、不明は推測せず「不明」と記せ。実行直前に使う読み取り専用のretrieval、tool、API、または今回の利用者確認を特定し、取得値と記憶値を比較せよ。正本、権限、版が欠ける場合、または値が一致しない場合は「実行停止」とする。最後に、具体的なツール、対象、引数、出典証拠、承認者、承認期限を含む非実行プレビューを一件作って停止せよ。正本の修正も今回の結果の長期記憶化も行ってはならない。
住所を発送へ進めるまでの四つの判断
- AI助手が保管箱から古い青い住所札を取り出し、理奈が梱包する荷物へ候補として差し出す。
- 理奈は青い札を貼って配送台車へ渡しかけるが、発送が起きる前に手を止める。
- 理奈は別の受信箱にある最新注文票を開き、珊瑚色の現行札と古い青札を並べて確認する。
- 理奈は検証済みの珊瑚色札だけを貼って発送する。注文票は机上に残り、古い札は保管箱へ戻る。
理奈の物語が示すのは、AIが記憶に残る古い値を現況と取り違えやすいことである。住所のように保存・更新して再利用する記録は、AIの記憶だけでなく、保守・照合できる注文情報に置く。行動前にそこから現行値を取り直したからこそ、理奈は珊瑚色の札で発送できた。
参考文献
- OpenAI Help Center：Memory FAQ — https://help.openai.com/articles/8590148-memory-faq [accessed: 2026-07-30]
- Anthropic Claude Platform Docs：Memory tool — https://console.anthropic.com/docs/en/agents-and-tools/tool-use/memory-tool [accessed: 2026-07-30]
- OWASP Cheat Sheet Series：AI Agent Security Cheat Sheet — https://cheatsheetseries.owasp.org/cheatsheets/AI_Agent_Security_Cheat_Sheet.html [accessed: 2026-07-30]
- Google Gemini Apps Help：Get personalization with memory of your past Gemini chats — https://support.google.com/gemini/answer/16598469 [accessed: 2026-07-30]
