開發與技術
只在錯誤資料旁寫「這是假的」，AI 還是可能當真
研究發現，用一再註明「這是假的」的文件微調模型，模型仍會把那個假主張學成事實；只有把否定寫進句子本身，例如「他沒有贏」，才比較學得對。要讓錯誤資料不被當真，要把真假狀態放進系統讀得到的欄位，或直接改寫、移除，不能只靠旁邊一句警告。
tag
模型安全
把同一個主題的微課集中閱讀，從最新文章開始補齊上下文。
1
lessons
標籤導讀
模型安全
這個標籤收集同一個細主題下的微課。先看最新文章，再用分類與延伸閱讀補齊上下文。
tag
把同一個主題的微課集中閱讀，從最新文章開始補齊上下文。
lessons
標籤導讀
這個標籤收集同一個細主題下的微課。先看最新文章，再用分類與延伸閱讀補齊上下文。
研究發現，用一再註明「這是假的」的文件微調模型，模型仍會把那個假主張學成事實；只有把否定寫進句子本身，例如「他沒有贏」，才比較學得對。要讓錯誤資料不被當真，要把真假狀態放進系統讀得到的欄位，或直接改寫、移除，不能只靠旁邊一句警告。