다음 달 시카고 회의에 가야 하는 영업 담당자가 브라우저의 AI 에이전트에게 항공권 예약을 맡겼다고 하자. AI 에이전트란 스스로 웹페이지를 열고 양식을 채우며 일을 한 단계씩 처리하는 AI 비서를 말한다. 담당자는 항공사 회원 계정의 아이디와 비밀번호를 넘겼고, 신용카드도 브라우저에 저장해 두었다. 에이전트가 결제 단계에 이를 때마다 확인 창이 떴고, 담당자는 매번 동의를 눌렀다.

담당자 입장에서 이 예약은 모든 단계에서 승인을 거쳤다. 문제는 그 동의를 항공사가 인정한다는 보장이 없다는 점이다.

내가 누른 동의를 항공사가 인정하는 것은 아니다

유나이티드항공(United)은 11월 11일 보도자료를 내고 제3자 AI 에이전트의 예약 시스템 이용을 제한한다고 발표했다. 대상은 유나이티드의 웹사이트와 앱이고, 예약·발권·유통 정책을 고쳐 여행사와 가격 비교 예약 사이트까지 넓힌다.

유나이티드가 든 이유는 세 가지였다. 첫째, 개인용 제3자 AI 비서에게 계정 로그인 정보를 넘기면 민감한 정보가 새어 나갈 수 있다. 둘째, 에이전트가 예상하지 못한 구매를 하거나 계정을 바꾸거나 MileagePlus 마일을 쓸 수 있다. MileagePlus는 유나이티드의 상용 고객 프로그램이다. 셋째, 자동화된 조작이 미국 연방항공청과 교통부 규정에 어긋날 수 있다. 보도자료가 든 예는 체크인으로, 수하물에 금지 물품이 없다는 확인은 승객 본인이 해야 한다.

눈여겨볼 것은 단어 선택이다. 유나이티드가 금지하겠다고 한 대상은 ‘승인받지 않은 제3자 개인용 AI 에이전트나 비서’다. 여기서 승인이란 유나이티드의 승인을 뜻한다. 승객 본인이 동의하면 예외가 된다는 문장은 보도자료 어디에도 없다. 미국 방송사 CBS News도 같은 날, 유나이티드 항공권은 Kayak이나 Google Flights 같은 비교 사이트에 계속 나온다고 보도했다. 항공권을 찾기가 어려워지는 것은 아니다. 막히는 것은 에이전트가 대신 구매를 마치고 계정을 조작하는 부분이다.

가장 강한 반론: 다른 항공사는 에이전트 예약을 허용한다

유나이티드만 보면 ‘항공사가 AI를 막고 있다’고 결론 내리기 쉽고, 다른 항공사로 바꾸면 그만이라고 생각하게 된다. 반론에도 힘이 있다. 에이전트는 실제로 수고를 덜어 주고, 모든 단계를 직접 보고 동의했으며, 모든 회사가 유나이티드처럼 나오는 것도 아니다.

이 반론은 사실로도 뒷받침된다. 테크 매체 Engadget은 사우스웨스트항공(Southwest)이 ChatGPT 안에서 항공권을 예약할 수 있는 플러그인을 내놓았다고 전했다. ChatGPT는 OpenAI의 대화형 AI다. 델타항공(Delta)의 웹사이트 이용약관도 문을 닫아걸지는 않았다. 조항에는 제3자 AI 비서를 쓰거나 허락하는 경우 그 위험은 이용자가 지며, 에이전트가 한 지시와 요청, 거래에 대해서도 계속 이용자가 책임진다고 적혀 있다.

여기까지 오면 문제는 ‘허용하는 항공사를 고르는 것’처럼 보인다. 그런데 델타의 이 조항을 끝까지 읽으면 결론은 반대 방향으로 간다.

광고

막든 허용하든 위험은 나에게 온다

델타 약관은 ‘위험은 이용자가 진다’는 문장 뒤에 세 가지를 더 적어 두었다. 이용자가 에이전트를 허락했다고 해서 델타가 허락하거나 승인한 것은 아니다. 델타는 어떤 제3자 에이전트든 인식하거나 상대하거나 서비스하기를 거부할 권리를 가진다. 그리고 이용자의 에이전트 사용 때문에 누군가 델타에 배상을 청구하면 이용자가 델타에 이를 보상한다.

나란히 놓고 보면 유나이티드와 델타의 입장은 겉보기만큼 멀지 않다. 유나이티드는 에이전트를 들이지 않는다. 델타는 들이지만 에이전트가 한 일을 모두 이용자 몫으로 돌리고, 언제든 서비스를 멈출 수 있다. 어느 쪽도 에이전트의 실수에 대한 책임은 지지 않는다.

앞의 영업 담당자가 누른 동의는 두 경우 모두 같은 효과밖에 없다. 본인이 원했다는 증거는 되지만 항공사가 책임을 나눠 지게 만들지는 못한다. 에이전트가 날짜를 잘못 고르거나 환불되지 않는 운임을 사거나 본인이 모르는 사이에 마일을 쓰면, 유나이티드에서는 애초에 에이전트가 마쳐서는 안 될 예약이었다는 사실부터 마주해야 한다. 델타에서는 그것이 본인의 거래라고 약관에 이미 적혀 있다.

항공권을 잘못 사는 것보다 더 신경 쓸 일이 있다. 대신 결제하려면 에이전트는 로그인 정보와 결제 수단을 받아야 하는데, 계정에는 보통 이 항공권 한 장보다 훨씬 많은 것이 들어 있다. 쌓아 둔 마일, 저장된 신용카드, 여권 번호, 자주 함께 여행하는 사람의 정보다. 비밀번호를 넘기면 에이전트가 닿는 범위는 이번 주문이 아니라 계정 전체가 된다. 상시 AI 비서를 주요 계정에 연결하기 전에 정해 둘 일은 〈상시 AI 비서는 멈추는 법부터 배운 뒤에 주요 계정에 연결한다〉에서 더 자세히 다뤘다.

맡길 수 있는 것은 아이디와 비밀번호가 필요 없는 단계다

그러니 선은 ‘AI를 쓰느냐’에 그을 것이 아니다. ‘그 단계에 내 계정, 결제 수단, 포인트가 필요한가’에 긋는다.

항공편 검색, 환승 시간 비교, 후보 일정 세 개 정리, 수하물 요금을 포함한 총액 계산은 로그인이 필요 없고 틀려도 손해가 없으니 에이전트에게 맡겨도 된다. 승객 정보 입력이나 좌석 지정처럼 로그인한 뒤의 조작은 판매자 약관이 허용하고 브라우저에 카드가 저장되어 있지 않을 때만 맡긴다. 결제 버튼 누르기, 예약 변경이나 취소, 마일 교환, 체크인 때의 각종 신고는 직접 한다.

예외는 판매자가 직접 만든 AI 창구다. 사우스웨스트항공과 ChatGPT의 연동은 항공사가 직접 만들고 직접 인정한 입구다. 에이전트가 내 비밀번호로 공식 사이트에 로그인하는 것과는 다른 일이다. 앞의 경우 판매자는 모든 단계에서 에이전트가 조작하고 있다는 것을 알고 받아들이기로 했다. 뒤의 경우 판매자의 시스템 안에서 에이전트는 나 본인으로만 보인다. 웹사이트 쪽에서 이런 입구를 열지 말지 어떻게 정하는지는 〈사이트에 AI용 입구가 필요한지는 그 일이 읽기, 조회, 실행 중 무엇이냐로 정해진다〉를 참고하면 된다.

이 선은 항공권에만 해당하지 않는다. 같은 Engadget 기사는 JP모건 체이스와 Amazon도 비슷한 보안·개인정보 이유로 AI 에이전트를 막고 있다고 전했다. 은행 송금, 온라인 쇼핑 결제, 음식 배달 주문도 같은 방식으로 판단하면 된다.

에이전트 쇼핑은 아직 초기이고, 약관은 또 바뀐다

이 판단에도 한계가 있다. 에이전트를 통한 쇼핑은 아직 매우 드물다. Engadget은 차량 호출 플랫폼 Uber의 3분기 실적 발표에서 나온 말을 인용했다. 핼러윈 주간에 AI 에이전트를 거친 것은 Uber Eats 배달 주문 500건과 차량 호출 4건뿐이었고, 같은 주 Uber의 운행과 배달은 모두 3억 2천만 건이었다. 약관은 이렇게 작은 이용량 아래에서 쓰였고, 앞으로 1~2년 안에 다시 바뀔 가능성이 크다. 유나이티드도 개인용 AI 비서가 자사 서비스와 어떻게 상호작용하는지 계속 검토하겠다고 했고, 공식 사이트의 디지털 신뢰 센터를 고쳐 새 제한이 승객에게 무슨 뜻인지, 에이전트가 의도하지 않은 조작을 했을 때 어디서 도움을 받는지 설명하겠다고 밝혔다.

또 하나의 한계는 편의다. 매번 결제를 직접 누르면 에이전트가 아껴 주는 시간은 그만큼 줄어든다. 무료로 취소할 수 있는 소액 주문이라면 이 수고가 값어치를 못 할 수도 있다. 다만 위험의 크기는 주문 금액만으로 정해지지 않는다. 넘겨주는 계정에 무엇이 들어 있느냐로도 정해진다. 신용카드가 연결되고 마일이 수만 마일 쌓인 계정이라면 싼 항공권 한 장을 사더라도 에이전트가 닿는 범위는 계정 전체다.

다음에 에이전트에게 결제를 맡기기 전에 그 사이트의 이용약관을 열고 agent, automated, AI라는 단어를 검색한다. ‘위험은 이용자가 진다’가 보이면 결제 단계는 직접 남겨 둔다. ‘금지’나 ‘취소할 수 있다’가 보이면 에이전트는 결제 페이지 앞까지만 가게 한다. 아무것도 없으면 고객센터에 질문 하나만 보낸다. 에이전트가 내 계정으로 낸 주문에 문제가 생기면 어떻게 처리하느냐고.

AI 정리 카드

AI 에이전트에게 어떤 사이트에서의 거래를 대신 마치게 하고 싶다. 항공권 예약, 호텔 예약, 온라인 쇼핑 같은 것이다. 그 전에 어떤 단계를 맡겨도 되는지 판단하고 싶다.
판단 방법은 이 글에서 가져왔다: https://boosterminiclass.com/ko/posts/ai-agent-checkout-needs-the-sellers-consent/
글의 관점: 내가 누른 동의는 나 자신에게만 유효하다. 판매자 약관이 에이전트를 인정하지 않으면 실수의 비용은 나에게 온다. 내 로그인 정보, 결제 수단, 포인트가 필요 없는 단계는 에이전트에게 맡겨도 되고, 결제와 계정 변경, 포인트 교환은 직접 한다. 단, 판매자가 직접 인정하는 AI 창구가 있다면 예외다.

먼저 나에게 질문 3개를 해 줘:
1. 거래는 어느 사이트나 앱에서 완료되는지, 그 이용약관에서 AI, 자동화, 제3자 에이전트에 관한 부분을 읽어 봤는지;
2. 에이전트가 일을 하려면 내 어떤 로그인 정보, 저장된 결제 수단, 마일이나 포인트가 필요한지, 계정에는 그 밖에 어떤 정보가 저장되어 있는지;
3. 이 거래는 무료로 취소할 수 있는지, 기한은 언제까지인지.

내 답을 바탕으로 다음을 내 줘:
- 단계 배분: 에이전트에게 맡길 것, 로그인 뒤에 하므로 약관에 달린 것, 반드시 내가 직접 누를 것;
- 약관에서 찾아야 할 문장과, 표현마다 무엇을 뜻하는지;
- 약관에 아무 내용이 없을 때 고객센터에 그대로 보낼 수 있는 질문 하나;
- 이 판매자가 공식 AI 창구를 제공할 가능성과 어디서 확인하면 되는지;
- 한 줄 판단: 결제 페이지 앞까지 에이전트에게 맡겨도 됨 / 에이전트는 검색과 비교만 / 이 거래는 전부 직접 함.
내가 준 정보만으로 판단하고, 나 대신 로그인하거나 입력하거나 결제하지 말 것. 에이전트에게 맡길지는 내가 정한다.
광고

Share

이 미니 클래스 공유

이 글이 업무 병목을 푸는 데 도움이 되었다면, AI를 어떻게 쓸지 고민하는 사람에게도 공유해 주세요.

참고 자료