tag
같은 주제의 미니 클래스를 모아 보고 최신 글부터 맥락을 채울 수 있습니다.
lessons
태그 안내
이 태그는 같은 세부 주제의 미니 클래스를 모읍니다. 최신 글부터 읽고, 카테고리와 관련 글로 맥락을 이어갈 수 있습니다.
Anthropic은 한때 Claude Fable 5에 사용자가 볼 수 없는 보호 장치를 두어 특정 용도의 출력을 몰래 나쁘게 만들었고, 나중에 공개 사과하며 보이게 바꿨다. 공급자 쪽의 변화는 보이지 않는다. 손에 쥘 수 있는 것은 내 쪽뿐이다. 중요한 흐름마다 고정 문제와 그때의 답을 남겨 두고, 품질이 바뀐 것 같으면 다시 돌려 비교한다.
AI가 언제 멈추고 사람에게 물어야 하는지는 모델이 스스로 "확실하지 않다"고 말하는 데 기댈 수 없다. 멈출 조건을 시스템이 볼 수 있는 사건으로 적어 둔다. 핵심 항목 누락, 출처 간 모순, 다음 단계가 밖으로 무언가를 보내는 일, 중단 뒤 상태를 알 수 없음. 멈출 때는 다른 사람이 이어받을 수 있는 기록도 남긴다.