開発と技術
誤ったデータの横に「これは偽」と書くだけでは、AI は本当だと思い込みうる
「これは偽」と何度も書いた文書でモデルを微調整しても、モデルはその偽の主張を事実として覚えうる、という研究がある。比較的正しく学べたのは、「彼は勝っていない」のように否定を文そのものに入れたときだけだ。誤ったデータを本当だと思わせないには、真偽の状態をシステムが読める欄に置くか、書き換えるか、取り除く。横の一言の警告に頼らない。
tag
モデル安全性
同じトピックのミニクラスをまとめて読み、最新記事から文脈を補えます。
1
lessons
タグ導読
モデル安全性
このタグは同じ細かな主題のミニクラスを集めています。まず最新の記事を読み、カテゴリーと関連リンクで文脈を補えます。