AI 도구와 활용
AI 수정이 계속 맴도는 이유는 "좀 더 세련되게"를 비교할 수 없어서다
AI에게 수정을 맡길수록 점점 멀어진다면, 원인은 대개 프롬프트가 아니라 차이가 보이지 않는 피드백에 있다. "더 자연스럽게", "더 세련되게"에는 해석이 열 가지쯤 있다. 매번 세 가지만 준다. 남길 것, 눈에 보이는 변경 하나, 건드리면 안 되는 곳. 그리고 AI에게 두 버전을 내게 해 비교하고, 모든 버전을 남겨 둔다.
tag
평가
같은 주제의 미니 클래스를 모아 보고 최신 글부터 맥락을 채울 수 있습니다.
10
lessons
태그 안내
평가
이 태그는 같은 세부 주제의 미니 클래스를 모읍니다. 최신 글부터 읽고, 카테고리와 관련 글로 맥락을 이어갈 수 있습니다.
개발과 기술
AI에게 더 빠른 코드를 자동으로 찾게 하기 전에, 무엇이 "더 나은" 것인지부터 적어 둔다
Google의 AlphaEvolve 같은 도구는 코드 버전을 대량으로 자동 생성하고 점수가 가장 높은 것을 고른다. 평가 프로그램이 재는 것만 보기 때문에, 재지 않은 조건은 희생될 수 있다. 맡기기 전에 기준, 점수, 어겨서는 안 될 제약, 중단 조건, 승인할 사람을 적어 둬야 한다.
AI 트렌드와 산업
AI 리서치 보고서에 붙은 출처는 어디서 읽었는지 보여 줄 뿐, 그것이 사실이라고 보여 주지 않는다
Reddit처럼 자주 읽히는 페이지에 13단어 정도만 덧붙여도, 딥 리서치형 AI가 보고서의 38~51%에서 공격자가 밀고 싶은 제품을 인용했다는 연구가 있다. AI가 붙인 출처는 어디서 읽었는지 보여 줄 뿐 내용이 믿을 만하다는 증거가 아니다. 결정에 쓸 결론에는 누구도 고칠 수 없는 독립 출처가 적어도 하나 있어야 한다.
워크플로 자동화
AI에게 회사 숫자를 묻게 할 때, 정확도는 정의를 관리하는 사람이 있느냐에 달렸다
Anthropic이 공개한 내부 사례에서 같은 Claude라도 데이터 출처와 지표 정의가 정리되지 않았을 때는 정답률 21% 이하, 정리한 뒤에는 95% 이상, 한 달 관리하지 않자 약 65%로 떨어졌다. AI에게 숫자를 묻기 전에 출처를 정하고, 정의를 쓰고, 관리할 사람을 정해야 한다.
AI 트렌드와 산업
AI가 나이를 판단할 때, "마지막은 사람이 정한다"는 실제로 뒤집을 수 있어야 의미가 있다
영국 내무부는 얼굴로 나이를 추정하는 AI로 망명 신청자의 나이 판단을 돕는 시험을 하며, 마지막은 늘 공무원이 정한다고 강조한다. 하지만 탐사 보도에 따르면 이 시스템은 미성년자를 성인으로 보기 쉽고, 일부 집단에서는 오차가 더 크다. AI의 판단이 사람의 대우를 바꾼다면, 누가 뒤집을 수 있는지, 어떤 증거가 필요한지, 당사자가 아는지를 먼저 설계한다.
AI 트렌드와 산업
AI 도입을 얼마나 서둘러도 되는지는 사용자가 되돌아갈 수 있느냐에 달렸다
AI를 쓰는 사람은 늘었지만, AI가 너무 빨리 발전한다고 느끼는 사람도 그만큼 많다. 사용률 상승이 곧 신뢰는 아니다. AI 기능 확산을 서둘러도 되는지는 쓰지 않을 선택, AI가 한 일의 취소, 실패 시 사람에게 넘길 길이 있느냐로 정해진다.
AI 도구와 활용
AI가 내 생각을 기억하면, 내 말에 맞장구치기 쉬워진다
연구에 따르면 AI의 기억 기능은 사용자가 예전에 말한 잘못된 생각을 배경으로 저장해, 이후 답변을 그 방향으로 기울게 한다. 서식 선호는 안심하고 기억하게 둬도 되지만, 중요한 판단 전에는 AI가 쓴 기억을 펼쳐 보이게 하고 "내 과거의 생각"을 증거에서 빼게 해야 한다.
워크플로 자동화
AI가 멈췄을 때 일이 얼마나 멈출지는 대비책이 정한다
AI 서비스 장애는 짧을 수 있지만, 업무 흐름이 멈추는 시간은 장애보다 길어지기 쉽다. AI를 일상 업무에 연결하기 전에 AI 없이도 내는 최소 결과물을 정해 둔다. 원본 자료는 AI 바깥에 두고, 누가 전환을 결정할지 정하고, 외부 작업 전에 멈출 수 있게 한다.
AI 트렌드와 산업
AI 콘텐츠 표시는 대신 걸러 주지 않는다, 물어야 할 것은 출처와 책임이다
YouTube, Meta, TikTok 모두 AI 생성 콘텐츠에 표시를 붙이기 시작했지만, 표시가 알려 주는 것은 AI로 만들었을 수 있다는 사실뿐이고 주의력을 아껴 주지는 않는다. 질 낮은 콘텐츠를 줄이려면 "AI가 만들었나" 대신 "출처가 있나, 책임지는 사람이 있나, 한계를 밝혔나"를 묻고, 그에 따라 내 정보 입구를 정리한다.
개발과 기술
잘못된 데이터 옆에 "이건 거짓"이라고 적기만 하면, AI는 그래도 사실로 믿을 수 있다
"이건 거짓"이라고 거듭 적은 문서로 모델을 미세 조정해도 모델이 그 거짓 주장을 사실로 배울 수 있다는 연구가 나왔다. 비교적 제대로 배운 것은 "그는 이기지 않았다"처럼 부정을 문장 자체에 넣었을 때뿐이었다. 잘못된 데이터를 사실로 믿지 않게 하려면 참거짓 상태를 시스템이 읽을 수 있는 항목에 두거나, 고쳐 쓰거나, 지운다. 옆에 붙인 경고 한 줄에 기대지 않는다.