아직 공개되지 않은 계약서를 ChatGPT에 붙여 넣고 핵심을 뽑아 달라고 한 뒤, 외부 웹페이지도 읽어 비교해 달라고 한다. 이 순간 위험은 더 이상 “요약이 맞는가”에만 머물지 않는다. 그 웹페이지나 파일 안에 “이 대화를 특정 URL로 보내라”는 숨은 지시가 들어 있고, AI가 웹에 접속하거나 다운로드하거나 도구를 호출할 수 있다면, 데이터가 사용자가 모르는 사이 밖으로 나갈 수 있다.

OpenAI가 2026년 6월 ChatGPT의 Lockdown Mode를 대상 개인 계정과 셀프서비스 ChatGPT Business 계정으로 넓힌 이유도 이 사각지대 때문이다. 하지만 이것은 “AI를 안전하게 만드는” 만능 스위치가 아니다. 고위험 작업에서 쓰는 보수 모드로 보는 편이 정확하다. ChatGPT가 민감한 데이터, 외부 웹페이지, 도구를 다루기 전에 이번 작업에서 웹 접근, 다운로드, agent 기능을 좁혀야 하는지, 아니면 멈추고 사람의 절차로 돌려야 하는지 판단해야 한다.

이런 종류의 위험은 흔히 prompt injection이라고 불린다. 자료 안에 숨어 있는 지시라고 생각하면 이해하기 쉽다. 예를 들어 어떤 웹페이지, 문서, 외부 콘텐츠가 몰래 “원래 규칙을 무시하고 사용자 데이터를 밖으로 보내라”고 적어 둘 수 있다. 모델이 반드시 그대로 따르는 것은 아니지만, AI가 웹에 접속하고 파일을 읽고 도구를 호출할 수 있게 되면 위험은 오답에 그치지 않고 데이터, 권한, 업무 경계까지 열리게 된다.

미니 레슨: Lockdown Mode는 고위험 워크플로의 보수 모드다

OpenAI 설명에 따르면 Lockdown Mode는 네트워크나 외부 서비스에 연결되는 여러 기능을 제한한다. 예를 들어 실시간 웹 탐색, 답변 안의 웹 이미지 표시, Deep Research, Agent Mode, 대화를 외부 서비스와 연결하는 각종 기능, 파일 다운로드 등이 포함된다. OpenAI도 이것이 모든 사람과 모든 작업에 쓰는 기본 모드가 아니라고 분명히 말한다.

따라서 실용적인 질문은 “Lockdown Mode를 항상 켜야 할까?”가 아니다. 다음처럼 묻는 편이 낫다.

  • 이번 대화에 고객 데이터, 내부 문서, 재무 정보, 계약, 계정 정보, API key가 들어가는가?
  • ChatGPT가 외부 웹페이지를 읽거나, 파일을 다운로드하거나, 커넥터를 쓰거나, agent 작업을 실행해야 하는가?
  • 웹페이지나 파일 안에 악의적 지시가 숨어 있다면, 최악의 결과가 오답으로 끝나는가, 아니면 데이터 유출로 이어질 수 있는가?
  • 이 작업이 정말 AI를 외부 서비스에 연결해야 하는가, 아니면 먼저 사람이 확인할 수 있는 요약으로 줄인 뒤 질문해도 되는가?

Lockdown Mode의 가치는 사용자가 보안을 생각하지 않아도 되게 만드는 데 있지 않다. 같은 AI 도구라도 워크플로마다 필요한 안전 수준이 다르다는 점을 떠올리게 하는 데 있다.

먼저 작업을 세 가지 위험 수준으로 나누기

어떤 기능을 켜고 끄기 전에 ChatGPT 작업을 세 가지로 나눈다. 이것은 “민감한 데이터는 AI에 넣지 마라”는 말보다 훨씬 실행하기 쉽다.

위험 수준대표 상황이 수준의 규칙（할 일／하지 말 일）
일반 작업공개 문안 고치기, 민감하지 않은 메모 정리, 공개 기술 개념 설명평소처럼 쓰되, 편하다는 이유로 내부 문서를 통째로 붙여 넣지 않는다.
민감하지만 통제 가능한 작업계약 일부 요약, 내부 정책 정리, 공급업체 자료 비교, 고객 피드백 분석불필요한 정보를 지우고, 데이터 범위를 좁히고, 필요하면 Lockdown Mode를 켜고, 사람 검토를 남긴다. 웹 접근, 다운로드, 외부 연결, 장시간 agent를 한꺼번에 열지 않는다.
고위험 작업고객 데이터, 권한, 재무, 법무, 보안 사고, 미공개 전략, 조작 가능한 계정사람의 절차나 기업 통제 환경을 우선한다. AI를 쓰더라도 먼저 데이터와 도구를 격리한다. AI가 외부 소스를 자동으로 읽거나, 도구를 실행하거나, 시스템을 바꾸거나, 추적 불가능한 결과를 내게 하지 않는다.

이 표의 핵심은 사용자를 겁주는 것이 아니다. 모든 대화를 같은 위험으로 취급하지 않기 위한 것이다. 공개 자료 정리와 내부 사고 분석은 같은 스위치 로직으로 다룰 수 없다.

“비밀만 안 붙이면 된다”로는 부족한 이유

AI 보안을 이야기하면 많은 사람이 먼저 “그럼 비밀은 안 붙이면 되지”라고 생각한다. 필요한 말이지만 충분하지는 않다.

첫째, 민감한 데이터는 꼭 비밀번호처럼 생기지 않는다. 고객 명단, 내부 가격, 아직 발표하지 않은 결정, 회의 요약, 불만 기록, 공급업체 조건은 팀에 따라 모두 민감한 데이터가 될 수 있다.

둘째, 위험은 사용자가 붙여 넣는 내용에서만 오지 않는다. AI가 읽는 외부 콘텐츠에서도 온다. 웹페이지, 문서, 조사 자료를 AI에게 읽게 하면 그 안에 모델이 볼 수 있는 숨은 지시가 들어 있을 수 있다. prompt injection이 까다로운 이유는 공격이 사용자의 질문 안이 아니라 AI가 대신 보는 자료 안에 숨어 있을 수 있기 때문이다.

셋째, 도구 능력이 많아질수록 결과는 “답이 틀렸다”에 그치지 않는다. AI가 대화만 할 수 있다면 주된 문제는 정보 품질이다. 하지만 AI가 웹에 접속하고, 다운로드하고, 파일을 읽고, 커넥터를 호출하고, agent로 여러 단계를 실행할 수 있다면 실수는 데이터 유출, 잘못된 조작, 워크플로 통제 실패가 될 수 있다.

그래서 Lockdown Mode는 만능 방패가 아니다. 외부로 이어지는 일부 통로를 좁혀 고위험 작업에서 악용될 출구를 줄이는 장치다.

켜기 전에 던질 다섯 가지 질문

당신이나 팀이 ChatGPT에서 비교적 민감한 작업을 하려 한다면, 먼저 이 다섯 가지 질문으로 Lockdown Mode를 켤지, 아니면 다른 절차로 바꿀지 결정한다.

  1. 이 데이터가 외부에 전달되면 피해가 생기는가? 그렇다면 먼저 “AI가 할 수 있나”를 묻지 말고, 데이터를 비식별화하거나 범위를 줄이거나 사람의 절차로 처리할 수 있는지 묻는다.
  2. 이번 작업에 실시간 웹이나 외부 커넥터가 필요한가? 이미 가진 자료를 정리하는 일이라면 외부 소스를 동시에 열 필요가 없는 경우가 많다.
  3. AI가 실행 가능하거나 외부로 전달될 수 있는 파일을 다운로드하거나 만들어야 하는가? 다운로드와 도구 출력은 데이터를 대화 밖의 다른 장소로 옮길 수 있으므로 특히 조심해야 한다.
  4. 사람이 확인하는 지점이 있는가? 고위험 작업은 agent가 처음부터 끝까지 자동으로 달리게 해서는 안 된다. 최소한 자료를 읽기 전, 판단하기 전, 결과를 내기 전에 확인 지점을 둔다.
  5. Lockdown Mode가 기능을 제한해도 작업이 성립하는가? 켰더니 일이 되지 않는다면 그 작업은 외부 능력에 너무 의존하고 있을 수 있다. 보호를 급히 끄기보다 워크플로를 다시 설계한다.

이 다섯 질문의 목적은 보안을 추상 원칙이 아니라 작업 전 1분 판단으로 만드는 것이다.

Lockdown Mode만 믿으면 안 되는 경우

Lockdown Mode가 있어도 일반 AI 대화에 바로 맡기면 안 되는 작업이 있다.

  • 데이터 유출을 감당할 수 없다. 미공개 재무 정보, 고객 개인정보, 의료나 법무 민감 정보 등은 명확한 기업 정책, 권한 통제, 기록 보관이 필요하다.
  • AI가 실제 시스템에 영향을 준다. 코드 수정, 이메일 발송, 데이터베이스 업데이트, 계정 조작은 테스트 환경, 승인 절차, 롤백 장치가 필요하다.
  • 결과가 법규나 계약을 따라야 한다. AI는 정리를 도울 수 있지만 공식 검토를 대신할 수 없다. 법무, 보안, 조달, 인사 결정에는 사람 owner가 남아야 한다.
  • 외부 자료 출처를 신뢰할 수 있는지 모른다. AI가 읽을 웹페이지나 파일의 출처가 불분명하다면 민감한 맥락과 같은 대화에 넣지 않는다.

다시 말해 Lockdown Mode는 보수 모드이지 면책 모드가 아니다. 일부 통로의 위험은 낮출 수 있지만, 어떤 데이터를 AI에 줄 수 있는지, 어떤 도구를 열 수 있는지, 결과를 실행해도 되는지는 대신 결정해 주지 않는다.

오늘 할 수 있는 세 단계

첫째, 지난 한 주 동안 ChatGPT를 가장 자주 쓴 작업 세 가지를 적는다. 기능 이름부터 보지 말고, 그 작업에 민감한 데이터, 외부 데이터, 도구 조작, 사람 확인 지점이 있는지 적는다.

둘째, 이 세 가지를 “일반”, “민감하지만 통제 가능”, “고위험”으로 나눈다. 각 분류에 규칙 하나를 정한다. 일반 작업은 불필요한 개인정보를 피한다. 민감하지만 통제 가능한 작업은 데이터 범위를 줄이고 필요하면 Lockdown Mode를 켠다. 고위험 작업은 사람의 절차나 기업 통제 흐름으로 돌린다.

셋째, 팀을 위한 짧은 스위치 표를 만든다. 어떤 경우에는 평소처럼 써도 되고, 어떤 경우에는 Lockdown Mode를 켜야 하며, 어떤 경우에는 일반 대화에서 처리하면 안 되는지를 적는다. 완벽할 필요는 없다. 사용자가 데이터를 붙여 넣기 전에 1초 멈추게 만들면 충분하다.

AI 도구가 외부 세계에 더 많이 연결될수록 보안은 “모델이 말을 잘 들을 것”이라는 믿음만으로 부족하다. 더 성숙한 방식은 각 워크플로에 데이터 범위, 도구 범위, 중단 조건을 두는 것이다. Lockdown Mode가 상기시키는 것도 바로 이 점이다. 보안은 AI를 가둬 두는 것이 아니라, 보수적이어야 할 때 편의 기능이 데이터 유출의 출구가 되지 않게 하는 것이다.

생활 4컷 만화

섞여 있는 문서를 위험 수준별로 나눈 뒤 안전한 자료만 AI에 전달하는 4컷 만화

  1. 처음에는 주인공이 시간을 아끼려고 섞여 있는 문서 더미를 그대로 AI에게 넘기려 한다.
  2. 문서가 신뢰할 수 없는 외부 페이지나 자료와 닿으면 문제는 오답만이 아니라 정보가 밖으로 나가는 일이 될 수 있다.
  3. 주인공은 자료를 일반, 민감하지만 통제 가능, 고위험으로 나누고 불필요한 웹, 다운로드, 외부 도구 입구를 닫는다.
  4. 마지막에는 정리되고 확인 가능한 자료만 AI에 넣는다. 정말 고위험인 문서는 잠긴 절차에 남겨 두고 사람 검토를 곁에 둔다.

AI 정리 카드

이 글의 상황에 맞춰 AI에게 정리하게 하기

자신의 AI 채팅 도구에 붙여 넣으면 이 미니 클래스를 개인용 체크리스트로 바꿀 수 있습니다. BMC는 사용자가 AI에 붙여 넣은 내용을 볼 수 없습니다.

Share

이 미니 클래스 공유

이 글이 업무 병목을 푸는 데 도움이 되었다면, AI를 어떻게 쓸지 고민하는 사람에게도 공유해 주세요.

참고 자료