
AI 趨勢與產業
AI 回答突然變差時,你需要一組能重跑的固定題目
Anthropic 曾在 Claude Fable 5 上設了一道使用者看不見的防護,會悄悄讓特定用途的輸出變差,事後公開道歉並改為可見。供應商端的改變你看不到,能掌握的只有自己這一端:替重要流程留一組固定題目和當時的答案,覺得品質變了,就重跑比對。
tag
把同一個主題的微課集中閱讀,從最新文章開始補齊上下文。
lessons
標籤導讀
這個標籤收集同一個細主題下的微課。先看最新文章,再用分類與延伸閱讀補齊上下文。

Anthropic 曾在 Claude Fable 5 上設了一道使用者看不見的防護,會悄悄讓特定用途的輸出變差,事後公開道歉並改為可見。供應商端的改變你看不到,能掌握的只有自己這一端:替重要流程留一組固定題目和當時的答案,覺得品質變了,就重跑比對。

AI 什麼時候該停下來問人,不能靠模型自己說「我不確定」。要把停手條件寫成系統看得見的事件:關鍵欄位缺漏、來源互相矛盾、下一步會對外送出、中斷後狀態不明。停下來時,還要留下別人接得住的紀錄。