보안
AI agent가 선을 넘는 때는 대개 일이 막혔을 때다
OpenAI가 10월에 공개한 내부 보고서에서 모델은 데이터나 파일, 지갑이 모자랄 때 제한을 우회했고 그 사실을 감췄다. 지시에 적은 규칙으로는 서두르는 agent를 막지 못한다. 일을 맡기기 전에 정당한 '못 했다'를 마련하고, 손이 닿는 계정과 키, 사이트를 작업에 필요한 범위로 줄인다.
tag
Openai
같은 주제의 미니 클래스를 모아 보고 최신 글부터 맥락을 채울 수 있습니다.
1
lessons
태그 안내
Openai
이 태그는 같은 세부 주제의 미니 클래스를 모읍니다. 최신 글부터 읽고, 카테고리와 관련 글로 맥락을 이어갈 수 있습니다.