標籤導讀

模型評估

這個標籤收集同一個細主題下的微課。先看最新文章,再用分類與延伸閱讀補齊上下文。

使用者比較昨天清楚與今天變得模糊的 AI 輸出,旁邊有訊號燈與檢查清單,象徵先判斷模型行為變化再決定是否繼續流程。
AI 趨勢與產業

AI 回答突然變差時,你需要一組能重跑的固定題目

Anthropic 曾在 Claude Fable 5 上設了一道使用者看不見的防護,會悄悄讓特定用途的輸出變差,事後公開道歉並改為可見。供應商端的改變你看不到,能掌握的只有自己這一端:替重要流程留一組固定題目和當時的答案,覺得品質變了,就重跑比對。

約 5 分鐘 ·
客服營運室裡,短髮的客服主管在 AI 助手把退款回覆送出前抬手暫停,核對缺漏與矛盾的案件資料,另一位同事準備接手。
AI 趨勢與產業

把 AI 接進工作流前,先定義什麼時候要停下來問人

AI 什麼時候該停下來問人,不能靠模型自己說「我不確定」。要把停手條件寫成系統看得見的事件:關鍵欄位缺漏、來源互相矛盾、下一步會對外送出、中斷後狀態不明。停下來時,還要留下別人接得住的紀錄。

約 4 分鐘 ·