2026년 5월 말, 기업용 AI 검색 회사 Glean은 연간 반복 매출이 3억 달러를 넘었다고 발표했다. 15개월 전의 약 세 배다. TechCrunch의 기사 제목은 지금 이 회사의 주된 판매 포인트를 짚었다. 기업의 AI 예산을 줄여 준다는 것이다. 최고경영자 Arvind Jain은 고객들이 Glean이 AI 청구서를 크게 줄여 준다는 점을 아주 좋아한다고 말한다. 그의 설명은 AI가 Glean이 정리한 회사 데이터를 통해 필요한 정보를 얻으면, 각 시스템을 직접 읽을 때보다 소비하는 글자 양(토큰)이 훨씬 적다는 것이다.

이 말은 맞을 수도 있고, 당신의 회사에는 해당하지 않을 수도 있다. 하나로 묶어 줄 것 같은 도구라도 산다고 바로 돈이 절약되지는 않는다. 예전 도구를 끌 수 없고, 데이터를 다시 정리해야 하고, 권한을 다시 설정해야 하고, 직원이 새로 익혀야 한다면, 새 도구는 구독 하나가 더 늘어난 것일 수 있다.

그러니 사기 전에 물어야 할 것은 실제로 어떤 비용을 대신하느냐다. “절약"으로 셀 수 있는 것은 두 경우뿐이다. 예전 지출을 정해진 날짜에 해지할 수 있거나, 잴 수 있는 업무 지표가 실제로 내려가는 경우. 나머지는 실험 비용일 뿐이다.

영업 자료의 절감률은 다른 회사의 조건으로 계산한 것이다

판매 자료의 절감 수치는 대개 다른 회사의 조건으로 계산된 것이다. 우리 회사에 끌 수 있는 같은 예전 도구가 있는지, 데이터가 정리돼 있는지, 직원들이 정말 자료 찾는 습관을 바꿀지가 모두 결과를 바꾼다.

더 자주 과소평가되는 것은 도입 자체의 비용이다. 새 라이선스와 배포 비용, 데이터를 AI가 쓸 수 있는 상태로 정리하는 일, 누가 무엇을 볼 수 있는지 다시 정하는 일, 직원 교육, 틀린 답 처리. 대부분 새로 생기는 지출이고, 도구가 똑똑하다고 사라지지 않는다.

네 가지 비용을 한 표에 놓는다

도구 라이선스: 지금 검색, 지식 베이스, 문서 도우미에 얼마를 내고, 실제로 얼마나 쓰는지. 예전 도구를 끌 수 있어야 비로소 절약이다.

데이터 정리와 권한: 문서를 정리하고 권한 그룹을 관리하는 인력. AI 검색을 도입하면 이 부분은 대개 늘어난다. AI는 데이터의 어지러움을 더 빨리 드러내고, 권한을 잘못 설정하면 보면 안 되는 사람에게 보일 수도 있다.

직원 시간: 자료 찾기, 같은 질문에 되풀이해 답하기, 도구 사이를 오가는 시간. 먼저 지금 상태를 재고, 시범 뒤에 줄어든 것을 확인해야 절약이다.

위험과 유지보수: 틀린 답, 오래된 데이터, 권한 유출에는 모두 책임자가 필요하다. 이 책임자를 비용 0으로 볼 수는 없다.

표를 만들었다면 세 가지 질문으로 정한다. 어떤 예전 지출을 정해진 날짜에 해지할 수 있는가. 어떤 업무 지표가 내려가고, 얼마나 내려가야 성공인가. 데이터 품질, 권한, 틀린 답은 누가 책임지는가. 세 가지 모두 답할 수 있어야 시범 운영할 가치가 있다. 답하지 못한다면 연간 계약은 미룬다.

광고

시범 이야기 전에 지금 상태부터 잰다

클라우드 비용 관리를 알리는 FinOps Foundation은 “비즈니스 가치가 기술 결정을 이끈다"를 원칙 중 하나로 꼽는다. AI 도구에 적용하면, 어떤 가치를 얻고 싶은지 먼저 분명히 한 다음 얼마를 쓸지 정한다는 뜻이다.

시범 전에 한두 주 동안 지금 상태를 잰다. 직원들이 매주 자료 찾는 데 얼마나 시간을 쓰는지, 같은 질문이 몇 번 나오는지. 지금 수치가 없으면 시범이 끝났을 때 가치가 있었는지 감으로 판단할 수밖에 없다. AI 도구의 사용량 청구에 예산 안전장치를 두는 방법은 Copilot이 사용량 과금으로 바뀌었다면, 먼저 한도를 다 썼을 때 멈출지 낼지 정한다를 참고하자.

이 표에 담기지 않는 가치

이 표가 세는 것은 눈에 보이는 비용이다. 신입이 더 빨리 적응하고, 지식이 몇몇 사람 머릿속에만 남지 않게 되는 것 같은 가치는 숫자로 바꾸기 어렵다. 평가에 적을 수는 있지만 그대로 “아낀 돈"으로 환산해서는 안 된다.

또 지금 도구들이 흩어져 있어도 싸고, 담당자가 분명하고, 문제를 고치기 쉽다면 서둘러 바꿀 필요는 없다. AI 검색이 맞는 팀은 자료 찾기의 어려움이 분명하고, 반복 문의 비용이 크고, 데이터를 정리하고 권한을 관리할 역량이 있는 팀이다. 비용 이상을 누가 처리해야 하는지는 AWS FinOps Agent는 비용이 급증한 이유를 찾아낸다, 담당자를 찾는 것은 미리 적어 둔 것에 달렸다를 참고하자.

AI 정리 카드

기업용 AI 검색이나 지식 도구를 검토하고 있는데, 공급자는 비용을 줄여 준다고 한다. 그 절약이 정말 성립하는지 먼저 확인하고 싶다.
판단 방법은 이 글에서 가져왔다: https://boosterminiclass.com/ko/posts/enterprise-ai-search-needs-cost-audit/
글의 관점은 이렇다. "절약"으로 셀 수 있는 것은 두 경우뿐이다. 예전 지출을 정해진 날짜에 해지할 수 있거나, 잴 수 있는 업무 지표가 실제로 내려가는 경우. 나머지는 실험 비용일 뿐이다. 도입 자체의 라이선스, 데이터 정리, 권한 설정, 교육은 대부분 새로 생기는 지출이다.

먼저 나에게 물어 달라. 지금 어떤 검색, 지식 베이스, 문서 도구를 쓰는지, 각각의 비용과 사용률, 그리고 공급자가 약속한 절약 항목.
그다음:
1. 비용표를 만들 것. 도구 라이선스, 데이터 정리와 권한, 직원 시간, 위험과 유지보수 네 가지로 나누고, 각각 지금 비용, 도입 뒤 늘어나는 비용, 해지 가능 여부를 적을 것;
2. 어떤 절약이 "확실"(분명히 해지할 수 있는 지출이 있음)이고, 어떤 것이 "가능"(지표 하락으로 증명해야 함)이고, 어떤 것이 "상상"일 뿐인지 표시할 것;
3. 시범 전에 잴 지금의 지표와 시범 성공 기준을 제안할 것;
4. 담당자를 정해야 할 항목을 적을 것. 데이터 품질, 권한, 틀린 답.
숫자가 없는 곳은 "자료 보충 필요"로 표시하고, 마음대로 추정하지 말 것.
광고

Share

이 미니 클래스 공유

이 글이 업무 병목을 푸는 데 도움이 되었다면, AI를 어떻게 쓸지 고민하는 사람에게도 공유해 주세요.

참고 자료