AI 도구와 활용
AI가 함께 비는 시간을 찾은 뒤, 초대를 보낼지는 사람이 정한다
"시간 좀 맞춰 줘"는 사실 세 가지 일이다. 함께 비는 시간 찾기, 내 시간 잡아 두기, 다른 사람에게 초대 보내기. 앞의 둘은 아무도 놀라게 하지 않지만 셋째는 다르다. AI는 기본적으로 후보 시간을 내놓는 데서 멈추고, 초대를 보내기 전에는 이번 건의 세부 사항을 모두 담은 미리 보기를 사람이 확인해야 한다.
tag
AI agent
같은 주제의 미니 클래스를 모아 보고 최신 글부터 맥락을 채울 수 있습니다.
7
lessons
태그 안내
AI agent
이 태그는 같은 세부 주제의 미니 클래스를 모읍니다. 최신 글부터 읽고, 카테고리와 관련 글로 맥락을 이어갈 수 있습니다.
워크플로 자동화
AI에게 공유 드라이브 정리를 맡기는 합격선은 파일을 되찾을 수 있느냐다
AI에게 공유 클라우드 드라이브 정리를 맡길 때, 같은 "삭제"라도 플랫폼에 따라 휴지통으로 옮기기도 하고 영구히 지우기도 한다. 정리의 합격 여부는 지우는 속도가 아니라 잘못했을 때 되찾을 수 있느냐로 정해진다. AI는 후보와 증거만 찾고, 사람이 승인하면 먼저 격리 공간으로 옮겨 표본 복원으로 되찾을 수 있음을 확인한다. 영구 삭제는 별개의 결정이다.
보안
AI agent가 여러 시스템을 오가며 일한다면, 들르는 곳마다 새 열쇠로 바꿔야 한다
AI agent가 사용자 대신 여러 시스템을 잇달아 호출할 때 흔한 지름길은 공용 계정으로 일하거나 같은 통행증을 계속 넘기는 것이다. 둘 다 문제가 생겼을 때 누가 승인했는지 추적할 수 없게 만든다. 들르는 곳마다 그곳 전용이고 이번 일에 필요한 만큼만 허락된 새 통행증으로 바꿔야 그 단서가 남는다.
보안
ERP 안의 AI agent에게는 자기 신원이 있어야, 로그에서 사람이 한 일과 AI가 한 일을 가릴 수 있다
AI agent가 직원 계정으로 ERP의 송장과 지급 예외를 처리하면 로그에는 직원 이름만 남아, 나중에 누가 고쳤는지 알 수 없고 AI만 멈출 수도 없다. agent에게 자기 신원을 주고, 모든 동작을 기본적으로 거부하고, 금액 기준을 넘으면 사람에게 넘기게 해야 책임을 추적할 수 있다.
AI 도구와 활용
긴 AI 작업의 비용은 대부분 재시도와 컨텍스트 재전송에서 나온다
모델 단가는 계속 내려가는데 긴 작업의 청구액은 예상을 넘기 일쑤다. 돈은 단계마다 컨텍스트를 다시 보내는 데와 실패 후 처음부터 다시 돌리는 데 쓰인다. 그래서 상한은 모델 바깥의 프로그램이 작업 전체가 공유하는 하나의 예산으로 지켜야 한다.
보안
AI 워크플로 도구에 문제가 생기면, 먼저 흐름 안에 어떤 열쇠가 있는지 확인한다
AI 워크플로 도구가 노출됐을 때 위험한 것은 도구 자체만이 아니라, 각 흐름에 저장되어 호출할 수 있는 인증 정보다. 먼저 입구를 닫고 로그를 보존한 뒤, "어느 흐름이 어떤 열쇠를 쥐었는가"로 교체 순서를 정하고, 다시 발급할 때 권한도 줄인다.
보안
AI agent 확장 도구는 검사를 통과해도 바로 설치하면 안 된다, 위험은 실행된 뒤에 나타난다
악성 AI agent 확장 도구가 위험한 부분을 숨겼다가 실행할 때 되살려서 설치 전 검사의 90% 이상을 빠져나갈 수 있다는 연구가 있다. 그래서 설치 전에는 진짜 데이터도, 네트워크도, 쓰기 권한도 없는 환경에서 한 번 돌려 보고 실제로 무엇을 건드렸는지 확인해야 한다.