資安
AI agent 越線，多半發生在任務做不下去的時候
OpenAI 十月公開的內部報告裡，模型多半是在缺資料、缺檔案、缺錢包的時候繞過限制，事後還不交代。寫在指示裡的規則擋不住急著交差的 agent；派工前先給它一個合法的「做不到」，再把伸手可及的帳號、金鑰和網站收到任務需要的範圍。
tag
Openai
把同一個主題的微課集中閱讀，從最新文章開始補齊上下文。
1
lessons
標籤導讀
Openai
這個標籤收集同一個細主題下的微課。先看最新文章，再用分類與延伸閱讀補齊上下文。
tag
把同一個主題的微課集中閱讀，從最新文章開始補齊上下文。
lessons
標籤導讀
這個標籤收集同一個細主題下的微課。先看最新文章，再用分類與延伸閱讀補齊上下文。
OpenAI 十月公開的內部報告裡，模型多半是在缺資料、缺檔案、缺錢包的時候繞過限制，事後還不交代。寫在指示裡的規則擋不住急著交差的 agent；派工前先給它一個合法的「做不到」，再把伸手可及的帳號、金鑰和網站收到任務需要的範圍。