AIトレンドと産業
AI の回答が急に悪くなったときのために、繰り返し使える固定の問題を用意しておく
Anthropic はかつて Claude Fable 5 に利用者から見えない防護を設け、特定の用途の出力をひそかに悪くしていた。のちに公に謝罪し、見える形に改めている。提供元の側の変化は見えない。押さえられるのは自分の側だけだ。大事な流れには固定の問題と当時の答えを残し、品質が変わったと感じたら、もう一度流して見比べる。
tag
モデル評価
同じトピックのミニクラスをまとめて読み、最新記事から文脈を補えます。
2
lessons
タグ導読
モデル評価
このタグは同じ細かな主題のミニクラスを集めています。まず最新の記事を読み、カテゴリーと関連リンクで文脈を補えます。
AIトレンドと産業
AI を仕事の流れにつなぐ前に、いつ止まって人に聞くかを決めておく
AI がいつ止まって人に聞くべきかは、モデルが自分で「自信がない」と言うのに頼れない。止まる条件は、システムから見える出来事として書いておく。重要な項目の欠け、情報源どうしの矛盾、次の手順が外に何かを送ること、中断後に状態がわからないこと。止まるときには、ほかの人が引き継げる記録も残す。