
AI 記得你的地址,不代表現在就能拿來寄件
地址、金額、預約時段這類要拿來行動的資料,AI 記憶裡的值可能已經過期。記憶只能提醒「這裡需要一個地址」,值本身要在行動前,從負責更新它的正本,例如這一筆訂單,重新讀取;兩邊不一致就停下來。
tag
把同一個主題的微課集中閱讀,從最新文章開始補齊上下文。
lessons
標籤導讀
這裡聚焦資料、同意、保存與撤回權利,適合先建立使用 AI 服務前的基本警覺。

地址、金額、預約時段這類要拿來行動的資料,AI 記憶裡的值可能已經過期。記憶只能提醒「這裡需要一個地址」,值本身要在行動前,從負責更新它的正本,例如這一筆訂單,重新讀取;兩邊不一致就停下來。

AI 會議筆記開啟時跳出的通知,只代表工具顯示了一個狀態,不代表大家同意了紀錄的去向。開始之前先說清楚四件事:從哪一段開始記、誰能喊停、會後誰收到、存在哪裡。議程轉進敏感話題時,就先停。

英國內政部測試用臉部年齡估算協助判斷尋求庇護者的年齡,強調最後一律由官員決定。調查報導卻指出,系統容易把未成年人估成成人,在部分族群誤差更大。AI 判斷會改變人的待遇時,要先設計好誰能推翻、需要什麼證據、當事人知不知道。

競品分析工具 Klue 被入侵,攻擊者拿走客戶連到 Salesforce 的授權權杖,直接查詢並帶走 CRM 資料。供應商的漏洞你修不了,你能控制的是三件事:當初給它多少讀取權限、看不看得到異常查詢、出事時多快撤銷。

Android 的假來電偵測能確認電話是不是從熟人的手機打來,卻無法確認電話那頭是不是本人,也攔不到「我換了新號碼」的說法。真正可靠的防線是一條家規:要錢、要驗證碼的請求,不在來電中完成,掛斷後用你原本知道的號碼回撥。

常駐 AI 助理在你不在時也會動手。供應商說高風險動作會先問你,但「高風險」的範圍是它定的。接上主信箱、行事曆和雲端硬碟之前,先寫好自己的停手清單:哪些只能讀、哪些只能草擬、哪些一定要等你點頭。

紐約一家新創提供免費到府清潔,條件是讓清潔人員戴著攝影機錄下過程,影片匿名化後授權給 AI 和機器人公司訓練。模糊處理遮得住臉和文件,遮不住你家的格局和生活習慣;授權出去之後,你也不一定刪得掉。答應之前,先問清楚授權對象和刪除方式。