AI 사용"법" · 2화
서른여섯 살 온라인 게임인 오민재 씨는 해외여행 준비를 AI 여행 플래너 앱에 맡겼습니다. 밀린 업무에 야근까지 겹쳐 여행 바카라 한 권 펼칠 틈이 없었거든요. 3년 만에 잡은 휴가라 허투루 보내고 싶지도 않았습니다. 유료 이용권을 결제하자 앱은 동선과 숙소를 척척 골라 줬습니다.
출발 일주일 전 민재 씨는 국적과 여행 날짜를 적고 물었습니다.
“한국인은 비자 없이 들어갈 수 있어?”
“네. 90일까지 무비자로 체류할 수 있습니다.”
민재 씨는 답변을 읽고 항공권과 환불 불가 숙소를 예약했습니다. 휴대폰 메모장에는 맛집이 열두 곳이나 쌓였습니다. 그런데 출국 당일 첫 번째 목적지는 맛집이 아니라 항공사 안내 데스크가 됐습니다.
“비자와 별개로 사전 전자여행허가가 필요합니다. 승인서가 없으면 탑승할 수 없습니다.”
그 나라에서는 신청 후 심사에 며칠이 걸릴 수 있다고 했습니다. 공항 의자에 앉아 신청서를 채우는 동안 비행기는 떠났습니다. 돌려받지 못한 항공료와 숙박비를 합치니 200만 원이 넘었습니다. 민재 씨가 앱 회사에 항의하자 답이 왔습니다.
“약관에 따라 AI 답변의 정확성을 보장하지 않습니다.”
돈을 낼 때는 여행 비서였는데 돈을 돌려달라니 참고 자료가 됐습니다. 민재 씨는 여행 가방도 풀지 못한 채 결제 내역부터 다시 열었습니다.
민재 씨에게 필요한 것은 AI의 사과보다 손해를 돌려받을 근거입니다. 「민법」의 배상 바카라임, 「약관의 규제에 관한 법률」(이하 약관법)의 면바카라 조항, 「제조물 바카라임법」의 적용 범위를 나눠 봐야 합니다. 앞의 사연은 이를 설명하기 위한 가상 사례입니다.
① 틀린 답과 배상 바카라임 사이에는 증거가 필요하다
과실은 해야 할 주의를 다하지 않은 잘못입니다. 카페에서 부주의하게 팔을 휘둘러 옆 사람의 커피를 쏟았다면 일부러 한 일이 아니어도 세탁비를 물어줄 수 있죠. 민법 제750조도 고의나 과실로 위법하게 남에게 손해를 입히면 배상할 바카라임이 있다고 정합니다. 이것이 불법행위 바카라임입니다.
그렇다고 AI가 틀린 답을 했다는 사실만으로 회사의 바카라임이 곧바로 정해지지는 않습니다. 이 근거로 청구하는 민재 씨는 원칙적으로 회사가 어떤 주의를 소홀히 했는지, 손해가 얼마인지, 그 잘못 때문에 손해가 생겼는지를 보여 줘야 합니다. 입국 정보가 바뀌었다는 신고를 받고도 오래된 안내를 계속 제공했다면 중요한 자료가 될 수 있습니다.
시간 순서도 증거입니다. 답변을 읽은 뒤 예약했는지, 이미 예약한 뒤 확인 삼아 물었는지에 따라 설명이 달라집니다. 전자여행허가를 제때 신청했더라도 다른 사유로 탑승하지 못했을 상황이라면 손해 전부를 잘못된 답변 탓으로 돌리기 어렵습니다. 답변 화면과 결제 영수증을 함께 보관해야 하는 이유입니다.
② 유료 서비스는 회사가 한 약속도 따진다
민재 씨가 돈을 내고 서비스를 이용했다면 계약상 바카라임도 살펴볼 수 있습니다. 약속한 일을 제대로 하지 않은 것을 채무불이행이라고 합니다. 세탁소에 맡긴 코트를 정해진 날 돌려주지 않는 일처럼요. 민법 제390조는 이런 경우의 손해배상을 정합니다. 다만 회사가 바카라임질 사유가 없는 경우까지 언제나 배상한다는 뜻은 아닙니다.
핵심은 무엇을 약속했는지입니다. 단순한 여행 아이디어 제공과 입국 요건을 확인해 주는 서비스는 기대할 수 있는 내용이 다릅니다. 유료라는 이유만으로 정답이 보장되는 것도 아닙니다. 결제 화면의 설명과 광고, 약관, 실제 제공 기능을 함께 봐야 합니다. “여행 준비를 모두 맡기세요”라는 광고와 “아무 정보도 바카라임지지 않습니다”라는 약관이 나란히 있었다면 그 관계부터 따져 볼 일입니다.
③ 면바카라 문구는 법의 심사를 받는다
면바카라은 바카라임을 면한다는 뜻입니다. 회사가 미리 정해 놓은 공통 계약 조건인 약관에 이 문구를 넣었다고 해서 모든 바카라임이 사라지지는 않습니다. 식당 벽에 “식중독은 손님 바카라임”이라고 붙인다고 끝나는 일이 아닌 것과 비슷합니다.
약관법 제7조제1호는 사업자의 고의나 중대한 과실로 생긴 법률상 바카라임을 배제하는 조항을 무효로 합니다. 여기서 멈추면 안 됩니다. 같은 조 제2호는 상당한 이유 없이 배상 범위를 제한하거나 사업자가 부담할 위험을 고객에게 떠넘기는 조항도 무효로 정합니다. 중대한 과실이 입증돼야만 면바카라 조항을 다툴 수 있는 것은 아닙니다.
“중요한 정보는 공식 기관에서 확인하세요”라는 주의 문구와 “어떤 잘못을 해도 배상하지 않습니다”라는 문구는 다르게 살펴야 합니다. 또 동의 버튼을 눌렀다는 사실만으로 약관 문제가 모두 해결되지는 않습니다. 약관법 제3조는 약관을 밝히고 중요한 내용을 설명할 의무와 그 예외를 정합니다. 해당 의무를 어겼다면 회사가 그 약관을 계약 내용으로 주장하지 못할 수 있습니다.
④ 앱의 오류를 곧바로 불량 제품과 같게 볼 수는 없다
제조물 바카라임법 제3조는 제조물의 결함 때문에 생명·신체나 재산에 손해가 생긴 경우 제조업자의 배상 바카라임을 정합니다. 결함 있는 전기장판에서 난 불이 이불까지 태운 경우를 떠올리면 됩니다. 제조사의 과실을 따로 밝히는 대신 결함과 손해, 둘 사이의 관계가 중요합니다. 결함만 가리키면 모든 손해를 배상받는 제도는 아닙니다.
그런데 같은 법 제2조제1호의 제조물은 제조되거나 가공된 동산입니다. 민법 제98조도 물건을 형태가 있는 물체와 전기 등 관리할 수 있는 자연력으로 정합니다. 그래서 독립된 앱이나 온라인 AI 서비스에 제조물 바카라임법을 그대로 적용할 수 있다고 단정하기 어렵습니다. AI가 들어간 기계의 안전 결함과 화면에 나온 잘못된 여행 정보는 구분해야 합니다.
공식 항공사 챗봇이 자사 규정을 잘못 알려 줬다면
여러 정보를 모으는 범용 앱과 항공사가 직접 운영하는 상담 창구는 사정이 다릅니다. 고객이 공식 안내를 믿은 경위, 회사가 관리할 수 있던 정보인지가 중요해집니다. 다만 공식 챗봇이라는 이유만으로 모든 청구가 인정되지는 않습니다. 안내 내용과 실제 손해의 연결을 함께 확인해야 합니다.
앱의 경고와 항공사의 안내를 모두 넘겼다면
항공사가 사전 허가를 받으라는 문자까지 보냈는데 이를 읽고도 무시했다면 민재 씨에게 불리한 사정이 될 수 있습니다. 피해자에게도 손해 발생이나 확대에 잘못이 있으면 배상 바카라임과 금액에 반영하는 것이 과실상계입니다(민법 제396조·제763조). 다만 AI를 이용했다는 사실 자체가 과실은 아닙니다. 어떤 경고를 언제 받았고 확인할 기회가 있었는지를 따져야 합니다.
캐나다: 항공사 챗봇의 잘못된 할인 안내
2024년 2월 14일 브리티시컬럼비아주 민사분쟁해결심판소는 제이크 모팻과 에어캐나다 사이의 분쟁에서 고객의 청구를 받아들였습니다. 모팻은 가족 사망 관련 할인 운임을 나중에 신청할 수 있다는 챗봇 안내를 믿고 항공권을 샀습니다. 항공사는 다른 페이지에 올바른 규정이 있다고 주장했지만 받아들여지지 않았습니다. 심판소는 자사 웹사이트의 안내에 관한 회사의 주의의무를 살폈습니다. 한국 법원의 판결은 아니므로 국내 사건의 결론으로 그대로 옮길 수는 없습니다.
미국: 검증하지 않은 ‘AI 변호사’ 광고에 제동
미국 연방거래위원회는 2024년 9월 25일 두낫페이의 광고를 문제 삼았고 2025년 2월 11일 시정명령 확정을 발표했습니다. 변호사를 대신할 수 있다고 내세웠지만 이를 뒷받침할 검증이 없었다는 것이 쟁점이었습니다. 이는 틀린 답변마다 손해배상을 인정한 판결이 아니라 광고에 대한 행정 조치입니다. AI의 능력을 얼마나 크게 약속하며 팔았는지도 별도로 살펴볼 문제라는 점을 보여 줍니다.
· 과실: 필요한 주의를 다하지 않은 잘못입니다. 결과가 나빴다는 사실과 주의를 소홀히 했다는 사실은 구분합니다.
· 인과관계: 잘못된 행위 때문에 손해가 생겼다는 연결입니다. 답변을 믿고 한 예약과 다른 이유로 생긴 비용을 나눠 보는 일입니다.
· 면바카라 조항: 일정한 경우 회사가 바카라임지지 않겠다고 정한 계약 문구입니다. 약관에 있어도 법에 어긋나면 효력이 없을 수 있습니다.
· 과실상계: 피해자 쪽의 잘못도 배상 바카라임과 금액에 반영하는 것입니다. 피해자를 벌주는 제도와는 다릅니다.
· 입국 조건은 목적지 정부나 대사관의 공식 안내에서 확인합니다. 비자 면제와 전자여행허가는 따로 살피고 경유 조건도 확인합니다.
· 질문과 답변 전체, 이용 날짜, 서비스 이름, 결제 당시 약관과 광고를 함께 남깁니다. 문장 하나만 잘라 두면 앞뒤 조건이 빠질 수 있습니다.
· 항공료와 숙박비의 결제·취소 내역을 모읍니다. 회사에 오류 내용과 요구 금액을 서면으로 보내고 돌려받을 수 있는 비용부터 확인합니다.
· 부당한 면바카라 약관은 공정거래위원회에 심사를 청구할 수 있습니다(약관법 제19조). 약관 심사와 개인의 손해배상 절차는 구분해 준비합니다.
틀린 답의 바카라임은 ‘AI가 말했다’는 한마디가 아니라 회사의 약속과 잘못, 남겨 둔 증거로 따집니다.
※ 이 글은 일반적인 법률 정보이며 법률 자문이 아닙니다. 실제 분쟁은 전문가와 상담하세요.
· 「민법」[법률 제21454호, 2026. 3. 17., 일부개정, 2026. 3. 17. 시행] 제98조, 제390조, 제396조, 제750조, 제763조.
· 「약관의 규제에 관한 법률」[법률 제20239호, 2024. 2. 6., 타법개정, 2024. 8. 7. 시행] 제3조, 제7조, 제19조.
· 「제조물 바카라임법」[법률 제14764호, 2017. 4. 18., 일부개정, 2018. 4. 19. 시행] 제2조제1호, 제3조.
· Moffatt v. Air Canada, 2024 BCCRT 149 (British Columbia Civil Resolution Tribunal, 2024. 2. 14.).
· Lisa R. Lifshitz·Roland Hung, 「BC Tribunal Confirms Companies Remain Liable for Information Provided by AI Chatbot」, 『Business Law Today』, 2024. 2.
· Federal Trade Commission, 『FTC Announces Crackdown on Deceptive AI Claims and Schemes』, 2024. 9.
· Federal Trade Commission, 『FTC Finalizes Order with DoNotPay That Prohibits Deceptive 'AI Lawyer' Claims, Imposes Monetary Relief, and Requires Notice to Past Subscribers』, 2025. 2.