
상시 AI 비서는 멈추는 법부터 배운 뒤에 주요 계정에 연결한다
상시 AI 비서는 당신이 없을 때도 움직인다. 공급자는 고위험 작업 전에는 먼저 묻는다고 하지만, "고위험"의 범위는 공급자가 정한 것이다. 주 메일함, 캘린더, 클라우드 드라이브에 연결하기 전에 자신만의 정지 목록을 써 둔다. 읽기만, 초안만, 반드시 당신의 승인을 기다릴 것으로 나눈다.
tag
같은 주제의 미니 클래스를 모아 보고 최신 글부터 맥락을 채울 수 있습니다.
lessons
태그 안내
최근 AI 도구와 산업 변화를 사용자 문제와 다음 행동 중심으로 정리합니다.

상시 AI 비서는 당신이 없을 때도 움직인다. 공급자는 고위험 작업 전에는 먼저 묻는다고 하지만, "고위험"의 범위는 공급자가 정한 것이다. 주 메일함, 캘린더, 클라우드 드라이브에 연결하기 전에 자신만의 정지 목록을 써 둔다. 읽기만, 초안만, 반드시 당신의 승인을 기다릴 것으로 나눈다.

GitHub Copilot은 2026년 6월부터 쓴 만큼 요금을 매긴다. 코드 자동 완성은 여전히 무료이고, 돈이 드는 것은 대화와 오래 걸리는 에이전트 작업이며, 한도를 다 써도 더 이상 싼 모델로 자동 전환되지 않는다. 팀은 두 가지를 미리 정해야 한다. 한도를 다 쓰면 멈출지 계속 낼지, 어떤 작업에 가장 비싼 모드를 쓰게 할지.

기업용 AI 검색 회사 Glean은 연간 매출 3억 달러를 넘기며 AI 청구서를 줄여 준다는 것을 주된 장점으로 내세운다. 이런 도구를 살 때 "절약"으로 셀 수 있는 것은 두 경우뿐이다. 예전 지출을 정해진 날짜에 해지할 수 있거나, 잴 수 있는 업무 지표가 실제로 내려가는 경우. 나머지는 실험 비용일 뿐이다.

Adobe Firefly의 AI 어시스턴트는 한 문장으로 Photoshop, Illustrator 등을 오가며 여러 단계의 편집을 해낸다. 써 본 기자는 평범한 디자인 인턴 같다고 평했다. 실행은 할 수 있어도 이 이미지를 어디에 둘지, 무엇이 들어가면 안 되는지, 어떻게 되면 쓸 수 있는지는 모른다. 사람이 맡는 아트 디렉션을 생성 전에 확인할 수 있는 조건으로 적어 둔다.

뉴욕의 한 스타트업은 청소 인력이 카메라를 쓰고 작업을 녹화하는 조건으로 무료 방문 청소를 한다. 영상은 익명 처리한 뒤 AI와 로봇 회사에 학습용으로 라이선스된다. 흐림 처리는 얼굴과 서류는 가려도 집 구조와 생활 습관은 가리지 못하고, 라이선스된 뒤에는 지울 수 있다는 보장도 없다. 받아들이기 전에 라이선스 대상과 삭제 방법을 분명히 묻는다.

coding agent는 이제 issue에서 pull request까지 진행할 수 있고, 승인까지 AI에게 맡길 수 있게 됐다. 사람이 판단할 수 있는 지점은 앞으로 옮겨진다. 넘기기 전에 따로 검토할 수 있는 첫 번째 diff를 적을 수 있어야 한다. 적을 수 없는 작업은 agent에게 조사만 맡긴다.

AI가 언제 멈추고 사람에게 물어야 하는지는 모델이 스스로 "확실하지 않다"고 말하는 데 기댈 수 없다. 멈출 조건을 시스템이 볼 수 있는 사건으로 적어 둔다. 핵심 항목 누락, 출처 간 모순, 다음 단계가 밖으로 무언가를 보내는 일, 중단 뒤 상태를 알 수 없음. 멈출 때는 다른 사람이 이어받을 수 있는 기록도 남긴다.

Asana가 노코드 AI 비서 도구 StackAI를 인수했고, 자사 AI Teammates는 연결된 10여 개 앱에서 읽고 쓸 수 있다. 연결됐다고 그 도구 안의 모든 일을 맡겨도 되는 것은 아니다. 동작마다 자동, 초안만, 이름 있는 사람의 승인으로 나누고, 출시 전에 일부러 한 번 실패하게 해 본다.

사이트에 API나 MCP가 필요한지는 AI가 할 일이 공개 내용을 읽는 것인지, 바뀌는 데이터를 조회하는 것인지, 사람 대신 실행하는 것인지에 달렸다. 세 입구가 지는 책임은 다르고, 대부분의 사이트가 먼저 고칠 것은 AI가 읽을 수 있는 공개 페이지다.

Microsoft 365 Copilot이 개편되면서 답이 더 빠르고, 구조가 분명하고, 훑어보기 쉬워졌다. 하지만 정돈된 것과 넘겨받을 수 있는 것은 다르다. 동료에게 필요한 것은 무엇을 결정했는지, 누가 맡는지, 언제까지인지, 근거가 어디 있는지, 무엇이 아직 확인되지 않았는지다. 이 항목들을 프롬프트에 적고, AI가 찾지 못한 것은 "확인 필요"로 남기게 한다.

"이건 거짓"이라고 거듭 적은 문서로 모델을 미세 조정해도 모델이 그 거짓 주장을 사실로 배울 수 있다는 연구가 나왔다. 비교적 제대로 배운 것은 "그는 이기지 않았다"처럼 부정을 문장 자체에 넣었을 때뿐이었다. 잘못된 데이터를 사실로 믿지 않게 하려면 참거짓 상태를 시스템이 읽을 수 있는 항목에 두거나, 고쳐 쓰거나, 지운다. 옆에 붙인 경고 한 줄에 기대지 않는다.