"부모님과 함께 묵을 숙소를 찾아줘. 계단이 적고, 병원에서 가깝고, 취소할 수 있는 곳이면 좋겠어." AI는 객실과 이동 경로를 비교해 준다. 한 걸음 더 나아가 빈방이 나오면 예약하고, 결제하고, 일정이 바뀌면 취소하는 것이 AI 에이전트다. 소비자가 검색과 비교에 쓰는 시간은 줄어든다. 그만큼 중요한 질문이 생긴다. AI가 내가 정한 조건을 어기고 결제했다면, 그 거래를 어떻게 바로잡을 수 있을까.

캐나다의 에어캐나다 챗봇 사건은 잘못된 안내가 어떻게 실제 손해로 이어지는지 보여준다. 조모상을 당한 소비자에게 항공사 챗봇은 여행을 마친 뒤에도 유가족 할인운임을 신청할 수 있다고 안내했다. 소비자는 이를 믿고 항공권을 샀지만, 항공사의 실제 정책은 사후 적용을 허용하지 않았다.

2024년 브리티시컬럼비아주 민사분쟁해결심판소는 항공사가 자사 챗봇의 안내를 정확하게 관리할 주의의무를 다하지 않았다고 보고 손해배상금 650.88캐나다달러를 인정했다. 같은 웹사이트의 다른 페이지에 정확한 정보가 있었다는 사정만으로 소비자에게 두 안내를 대조할 책임을 돌릴 수는 없다고 보았다.

에이전트가 결제까지 맡으면 안내의 정확성에 더해 위임 범위가 쟁점이 된다. 소비자가 "총액 30만 원 이내에서 전액 환불이 가능한 객실만 예약해 달라"고 했는데 에이전트가 25만 원짜리 환불 불가 객실을 결제했다고 하자. 예산은 지켰지만 소비자가 정한 또 하나의 필수조건을 어겼다.

이때 숙박업체와 맺은 예약을 취소할 수 있는지, 에이전트 운영사가 지시를 어겨 발생한 손해를 배상해야 하는지는 각각 살펴야 한다. 소비자가 실제로 어떤 권한을 부여했고, 서비스가 결제 전에 어떤 조건을 보여주었는지가 그 판단의 출발점이다.

"AI는 틀릴 수 있습니다"라는 문구만으로는 소비자가 눈앞의 거래를 판단하기 어렵다. 결제 전에 배송비나 수수료를 포함한 총액과 환불 조건을 보여주고, 소비자가 필수로 정한 조건과 충돌하면 실행을 멈춰야 한다. 소비자는 자동예약을 중지하거나 조건을 고칠 수 있어야 하고, 분쟁이 생겼을 때는 자신이 내린 지시와 실제 주문 내역을 확인할 수 있어야 한다.

소비자단체의 비교시험도 실제 거래 과정까지 살펴야 한다. 같은 예산과 조건을 주고 제휴상품을 우선 추천하는지, 위약금을 빠뜨리는지, 결제를 거절한 뒤에도 구매를 재촉하는지 시험할 수 있다. 고령자와 장애인이 중지·수정 기능을 실제로 쓸 수 있는지도 확인해야 한다. 소비자가 안심하고 AI에 일을 맡기려면, 어디까지 맡길지 스스로 정하고 그 범위를 벗어난 거래를 멈추거나 바로잡을 수 있어야 한다.

*박정인 교수(법학박사)는 대통령 국가지식재산위원회 본위원회 위원, 문체부 저작권보호심의위원회 심의위원, 문체부 여론집중도조사위원회 상임위원, 인터넷주소분과위원회, 웹콘텐츠 활성화위원회 자문위원, 강동구 공직자윤리위원회 심의위원, 경찰청 사이버범죄 강사 등 여러 국가 위원을 역임했다. 공공기관 대상 법령입안강의를 하며, 대학에서 특허법, 저작권법, 산업보안법, 과학기술법, 정보보안법, 디지털증거법, ICT트러스트공학, 일반 산업안전, 중대재해법 등을 강의한다. 한국인터넷진흥원, 한국콘텐츠진흥원, 인텔리콘 메타연구소, 해인예술법연구소, 숙명여대 초빙교수, 단국대 연구교수 등을 역임했다.