보고서 하나가 매우 전문적으로 보입니다. 제목은 완전하고, 문단은 매끄럽고, 인용은 가지런히 정리되어 있으며, 대형 기관 사례까지 들어 있습니다. 그러면 이제 말투를 다듬고, 도표를 보충하고, 상사에게 확인을 보내면 된다고 생각하기 쉽습니다.

하지만 인용 자체가 틀렸다면, 멋진 문장은 오히려 오류를 더 쉽게 믿게 만듭니다.

2026년 6월, KPMG는 앞서 공개했던 AI 도입 보고서 《Redefining excellence in the age of agentic AI》를 내렸습니다. 여러 매체는 GPTZero의 조사를 인용해 보고서 안의 많은 인용과 사례가 출처와 정확히 맞지 않는다고 전했습니다. TechCrunch도 UBS, 영국 NHS, 스위스 연방철도, Transport for London 등이 보고서에 나온 자사 AI 사용 현황 설명이 부정확하거나 오해를 부를 수 있다고 밝혔다고 보도했습니다. KPMG는 보고서를 삭제하고 조사에 착수했으며, 책임 있는 AI 사용에는 사람의 감독, 내용 검증, 독립 출처 확인이 필요하다고 강조했습니다.

이 사건은 단지 “컨설팅 회사도 실수할 수 있다”는 이야기가 아닙니다. 일반 업무 담당자에게 더 실용적인 교훈은 이것입니다. AI가 도와 쓴 내용이 보고서, 발표 자료, 백서, 제안서, 외부 공개 글이 된다면 검토의 핵심은 문장이 자연스러운지가 아니라 인용, 사례, 책임을 원자료까지 되짚을 수 있는지여야 합니다.

AI 보고서에서 가장 위험한 오류는 본문에 숨어 있지 않을 수 있습니다

많은 사람은 AI가 만든 문서를 확인할 때 먼저 세 가지를 봅니다. 오탈자가 있는지, 논리가 자연스러운지, 회사 말투처럼 들리는지입니다. 모두 중요하지만, 신뢰 손실을 가장 크게 일으키는 지점은 아닙니다.

진짜 문제는 “근거가 있어 보이는” 오류입니다. 예를 들면 다음과 같습니다.

  • 인용된 글이나 연구는 실제로 존재하지만 제목, 저자, 연도, 결론이 왜곡될 정도로 바뀌어 있습니다.
  • 사례 속 회사는 실제로 존재하지만, 보고서가 말한 일을 한 적은 없습니다.
  • 숫자는 그럴듯해 보이지만 원본 표, 조사 방법, 발표일을 찾을 수 없습니다.
  • 각주는 많지만, 그 각주가 앞 문장을 뒷받침하는지 누가 열어 확인한 적은 없습니다.

GPTZero는 이런 현상을 일종의 “느낌으로 하는 인용”에 가까운 문제라고 설명했습니다. 겉으로는 인용처럼 보이지만 실제로는 진짜 출처, 가짜 제목, 잘못된 저자, 과도한 추론이 뒤섞여 있을 수 있다는 뜻입니다. 독자에게는 아예 인용이 없는 경우보다 더 발견하기 어렵습니다. 문서 표면상으로는 이미 검증을 마친 것처럼 보이기 때문입니다.

따라서 AI가 보고서 작성 흐름에 들어온 뒤에는 “그럴듯하게 썼는가”만 물어서는 안 됩니다. 더 먼저 물어야 할 질문은 이것입니다. “이 문서에서 사람들이 인용이나 사례를 보고 믿게 될 문장은 무엇인가?”

먼저 보고서를 세 가지 검증 가능한 재료로 나누기

보고서 전체를 처음부터 끝까지 읽으면 매끄러운 문장에 쉽게 끌려갑니다. 더 안전한 방법은 검증해야 할 재료를 먼저 분리하는 것입니다.

재료 유형확인할 것흔한 위험
인용 출처글, 연구, 보고서, 법규, 공식 문서가 실제로 존재하는지, 바로 앞 문장을 뒷받침하는지출처는 존재하지만 결론을 AI가 너무 멀리 바꾸었거나, 인용 형식은 진짜 같지만 세부 정보가 틀림
실명 사례회사, 정부기관, 고객, 제품이 문서에 묘사된 일을 실제로 했는지파일럿을 정식 도입처럼 쓰거나, 단일 기능을 전체 프로세스처럼 표현함
숫자와 시간비율, 금액, 사용자 수, 발표일, 버전명을 원자료까지 추적할 수 있는지오래된 숫자를 최신 상태처럼 쓰거나, 서로 다른 시장의 자료를 섞어 씀

이 표의 목적은 모두를 연구자로 만들려는 것이 아니라, 보고서를 보내기 전에 한 번 멈추게 하는 것입니다. 어떤 문단이 예산, 구매, 계약, 고객 신뢰, 공개 평판에 영향을 준다면 AI가 만든 “그럴듯함”만 믿어서는 안 됩니다.

간단한 방법은 담당자가 모든 인용, 회사명, 숫자를 하나의 검증 표에 복사하게 하는 것입니다. 각 행에는 최소한 네 칸이 있어야 합니다. 원문 문장, 출처 링크, 출처 안의 대응 문장, 검증 상태입니다. 대응 문장이 없다면 그 문장은 정식 문서에 남기지 마세요.

세 단계로 판단하기: 문구 수정, 재작성, 공개 불가

모든 오류의 심각도가 같지는 않습니다. 위험을 단계별로 나누어야 사소한 수정에 시간을 쓰느라 실제로 문제가 될 문단을 놓치지 않습니다.

단계예시다음 조치
수정 가능인용 형식이 불완전함, 날짜 형식이 틀림, 출처 링크를 보충해야 함수정한 뒤 다시 열어 확인합니다. 전체를 되돌릴 필요는 없습니다
반드시 다시 작성사례 설명의 원출처를 찾을 수 없거나, 출처가 주장 일부만 뒷받침함작성자나 AI 생성 흐름으로 돌려보내 출처가 뒷받침할 수 있는 버전으로 다시 씁니다
공개 불가실명 기관이 부인함, 숫자가 사업 판단에 영향을 줌, 의료/법률/재무/보안 결론을 증명할 수 없음공개를 중단하고 책임자가 삭제, 재작성, 관련자 통보, 정정 기록 보관 여부를 결정합니다

여기서 “책임자”는 명목상 문서 소유자가 아닙니다. 문서를 외부에 낼지, 고객에게 알릴지, 수정 비용을 부담할지 결정할 수 있는 사람입니다. AI는 자료 정리를 도울 수 있지만 잘못된 인용이 만든 신뢰 손실을 회사 대신 책임질 수는 없습니다.

팀에서 보고서의 최종 정리를 맡고 있다면 프로세스에 한 문장을 넣을 수 있습니다. AI가 도와 만든 외부 공개 문서는 출처의 대응 문장이 없는 인용과 사례를 정식본에 넣지 않는다. 이 문장은 “AI 환각을 조심하세요”보다 훨씬 실행하기 쉽습니다.

어떤 상황에서는 AI가 곧장 최종본까지 쓰게 하면 안 됩니다

어떤 문서는 AI가 먼저 초안을 정리하고 사람이 빠르게 다듬어도 됩니다. 내부 회의 요약, 설문 문항 초안, 인터뷰 핵심 정리 같은 문서입니다. 원자료가 남아 있고, 독자가 그것이 초안임을 알고 있다면 위험은 비교적 통제 가능합니다.

하지만 아래 상황에서는 AI가 초안에서 최종본까지 그대로 흘러가게 해서는 안 됩니다.

  • 외부 공개 백서, 연구 보고서, 컨설팅 제안서, 보도자료.
  • 고객, 협력사, 정부기관, 경쟁사 이름을 나열하는 문서.
  • 구매, 투자, 예산, 감원, 컴플라이언스 의사결정을 뒷받침하는 발표 자료.
  • 언론, 고객, 상사, 법무팀이 다시 인용할 수 있는 숫자와 결론.

이런 문서에는 AI를 첫 정리 단계에 활용할 수 있습니다. 다만 중간에 반드시 “출처 확인”과 “책임 확인”이라는 두 관문이 있어야 합니다. 출처 확인은 각 핵심 문장이 원자료로 돌아갈 수 있는지 보는 것이고, 책임 확인은 누가 그 문장을 외부에 말해도 된다고 결정할 권한이 있는지 확인하는 것입니다.

시간이 부족하다면 검증하지 않은 멋진 사례를 많이 남기기보다 보고서 범위를 줄이는 편이 낫습니다. 사례가 없는 정직한 보고서는 대개 틀린 사례로 가득한 완성형 보고서보다 안전합니다.

다음 AI 보고서를 전달하기 전에 검증 페이지를 하나 추가하기

가장 실용적인 변화는 모든 사람에게 “더 조심하라”고 요구하는 것이 아니라 문서 전달 패키지에 검증 페이지 한 장을 추가하는 것입니다. 이 페이지는 복잡할 필요가 없습니다. 핵심 주장마다 다섯 가지 신호만 남기면 됩니다.

  • 핵심 문장: 인용되거나, 재전달되거나, 의사결정에 쓰일 문장.
  • 원출처: 공식 문서, 연구, 뉴스, 계약서, 내부 자료, 인터뷰 기록.
  • 대응 증거: 출처 안에서 이 문장을 실제로 뒷받침하는 문단, 페이지 번호, 스크린샷 위치.
  • 검증자: 출처를 실제로 열어 확인한 사람.
  • 공개 판단: 유지, 재작성, 삭제, 다시 작성, 공개 중단.

이 검증 페이지는 AI 보고서 검토를 “보기 좋고 자연스러운가”에서 “근거가 버틸 수 있는가”로 바꿉니다. 책임도 더 분명해집니다. AI는 작성자, 검토자, 발행자가 아닙니다. 자료 정리를 돕는 도구일 뿐입니다. 마지막에 내용을 밖으로 내보내는 것은 여전히 팀입니다.

KPMG의 이번 사건은 AI 환각이 채팅창 안에서만 나타나는 것이 아니라 보고서, 각주, 사례로 포장되어 실제 비즈니스 의사결정 안으로 들어갈 수 있음을 보여 줍니다. 다음에 AI가 도와 만든 멋진 문서를 보게 된다면 효율적이라고 칭찬하기 전에 먼저 더 중요한 질문을 던지세요. 이 인용과 사례는 정말 확인할 수 있는가?

생활 4컷 만화

AI가 만든 보고서를 보내기 전에 인용과 사례를 확인하는 4컷 만화

  1. AI가 보고서를 깔끔하게 만들어도, 보내기 전에는 먼저 인용과 숫자를 따로 꺼내 확인해야 합니다.
  2. 출처가 있어 보인다고 안전한 것은 아닙니다. 링크가 앞 문장을 실제로 뒷받침하는지 직접 열어 봐야 합니다.
  3. 회사명, 고객 사례, 의료·법률·재무·보안 관련 결론처럼 틀리면 피해가 큰 내용은 책임자가 공개 여부를 판단해야 합니다.
  4. 좋은 AI 보고서 검토는 문장을 예쁘게 다듬는 일이 아니라, 각 주장 뒤에 실제 근거와 책임자가 있는지 확인하는 일입니다.

AI 정리 카드

이 글의 상황에 맞춰 AI에게 정리하게 하기

자신의 AI 채팅 도구에 붙여 넣으면 이 미니 클래스를 개인용 체크리스트로 바꿀 수 있습니다. BMC는 사용자가 AI에 붙여 넣은 내용을 볼 수 없습니다.

Share

이 미니 클래스 공유

이 글이 업무 병목을 푸는 데 도움이 되었다면, AI를 어떻게 쓸지 고민하는 사람에게도 공유해 주세요.

참고 자료