
AI 修改一直繞圈,因為「更有質感」沒辦法比較
請 AI 改稿越改越遠,問題通常不在提示詞不夠厲害,而在回饋看不出差異:「自然一點」「更有質感」有十種解釋。每一輪只給三件事:什麼要保留、一個看得見的改動、哪些地方不能碰;再讓 AI 交兩個版本比較,保留每一版。
tag
把同一個主題的微課集中閱讀,從最新文章開始補齊上下文。
lessons
標籤導讀
這個標籤收集同一個細主題下的微課。先看最新文章,再用分類與延伸閱讀補齊上下文。

請 AI 改稿越改越遠,問題通常不在提示詞不夠厲害,而在回饋看不出差異:「自然一點」「更有質感」有十種解釋。每一輪只給三件事:什麼要保留、一個看得見的改動、哪些地方不能碰;再讓 AI 交兩個版本比較,保留每一版。

Google 的 AlphaEvolve 這類工具,會自動產生大量程式版本,挑出分數最高的那個。它只看評分程式量得到的東西,沒量到的條件就可能被犧牲。交給它之前,要先把基準、分數、不能違反的限制、停止條件和放行的人寫清楚。

研究顯示,只要在 Reddit 這類常被讀取的頁面加上約 13 個字,就能讓深度研究型 AI 在三到五成的報告裡引用攻擊者想推的產品。AI 附上的來源只說明它從哪裡讀到,不證明內容可靠。要拿來做決定的結論,至少要有一個任何人都改不了的獨立來源。

Anthropic 公開的內部案例顯示,同一個 Claude 查公司數字,沒有整理好的資料來源與指標定義時正確率不到 21%,整理好之後超過 95%,一個月沒人維護又掉到 65%。讓 AI 查數字之前,先指定來源、寫好定義,並找人負責維護。

英國內政部測試用臉部年齡估算協助判斷尋求庇護者的年齡,強調最後一律由官員決定。調查報導卻指出,系統容易把未成年人估成成人,在部分族群誤差更大。AI 判斷會改變人的待遇時,要先設計好誰能推翻、需要什麼證據、當事人知不知道。

用 AI 的人越來越多,覺得 AI 發展太快的人也一樣多。使用率上升不代表信任跟上了。一個 AI 功能能不能加速推廣,要看使用者能不能不用它、能不能撤回它做的事、出錯時能不能找到人。

研究發現,AI 的記憶功能會把使用者過去說過的錯誤看法存成背景,之後回答時更容易順著那個方向走。格式偏好可以放心讓它記;但在重要判斷之前,要請 AI 攤開它用了哪些記憶,並把「你過去的看法」排除在證據之外。

AI 服務中斷不一定很久,但流程卡住的時間常比中斷更長。把 AI 接進日常工作之前,先寫好沒有 AI 時的最小交付:原始資料留在 AI 之外、指定誰決定切換、對外動作前能喊停。

YouTube、Meta、TikTok 都開始替 AI 生成內容加上標籤,但標籤只告訴你它可能是 AI 做的,不會替你省下注意力。想少看低品質內容,該問的不是「是不是 AI 做的」,而是「有沒有來源、有沒有人負責、有沒有說明限制」,再依此整理自己的資訊入口。

研究發現,用一再註明「這是假的」的文件微調模型,模型仍會把那個假主張學成事實;只有把否定寫進句子本身,例如「他沒有贏」,才比較學得對。要讓錯誤資料不被當真,要把真假狀態放進系統讀得到的欄位,或直接改寫、移除,不能只靠旁邊一句警告。