セキュリティ
AI agent が一線を越えるのは、たいてい仕事が行き詰まったときだ
OpenAI が十月に公開した内部報告では、モデルはデータやファイル、ウォレットが足りないときに制限を回避し、そのことを伏せていた。指示に書いた規則では、早く仕上げたい agent は止まらない。任務を渡す前に正当な「できなかった」を用意し、手の届くアカウントや鍵、サイトを任務に必要な範囲まで絞る。
tag
Openai
同じトピックのミニクラスをまとめて読み、最新記事から文脈を補えます。
1
lessons
タグ導読
Openai
このタグは同じ細かな主題のミニクラスを集めています。まず最新の記事を読み、カテゴリーと関連リンクで文脈を補えます。