AI는 왜 자신 있게 틀릴까

AI에게 어린이집 준비물을 물었습니다.

답은 또렷했습니다. 준비 시간과 챙길 물건까지 보기 좋게 정리돼 있었습니다. 그런데 마지막에 적힌 제출 날짜가 달랐습니다.

원문은 금요일, AI의 답은 목요일.

문장 전체가 자연스러워서 처음에는 잘못된 부분이 눈에 들어오지 않았습니다. AI 답변이 위험한 순간은 엉뚱한 말을 할 때만이 아닙니다. 맞는 말 사이에 작은 오류 하나가 섞이면 알아채기가 더 어렵습니다.

AI는 답을 찾기보다 답을 만듭니다

AI는 질문에 이어질 법한 문장을 만들어냅니다. 최신 정보를 검색하거나 출처를 보여주는 기능이 붙어 있어도 읽고 요약하고 연결하는 과정에서 오류가 생길 수 있죠.

그래서 말투의 자신감은 정확성의 증거가 아닙니다. 길고 자세한 답도 마찬가지입니다.

저는 한국어·영어·베트남어 육아 상담 데이터 25만5천 건을 직접 가공하고 라벨링하는 과정에서, AI 답변이 흔들리는 지점을 반복해서 보았습니다. 육아 질문에서는 다음 부분을 특히 살펴봐야 합니다.

숫자와 날짜

나이, 체온, 복용량, 발달 수치, 신청 기간처럼 숫자가 들어간 내용은 원문을 다시 확인합니다. 숫자가 구체적일수록 더 정확해 보이지만, 바로 그 숫자 하나가 틀릴 수 있습니다.

존재하는지 알 수 없는 출처

연구 제목이나 기관 이름이 적혀 있다고 실제 자료라는 뜻은 아닙니다. 링크가 열리는지, 제목과 내용이 일치하는지 확인합니다. 건강 정보는 병원이나 공공기관의 원문으로 돌아갑니다.

빠진 상황

같은 행동도 아이 나이와 장소, 지속 기간에 따라 의미가 달라질 수 있습니다. AI가 필요한 정보를 묻지 않고 곧바로 결론을 내린다면 일단 멈춥니다.

우리 집과 맞지 않는 전제

AI는 가족 구성, 주거 환경, 학교 문화, 돌봄 여건을 저절로 알지 못합니다. 실행하기 어려운 조언이 나오면 부모의 의지가 부족한 것이 아니라 질문에 중요한 조건이 빠졌을 수 있습니다.

되묻는 것은 점검이지 검증이 아닙니다

이렇게 물으면 답의 약한 부분을 찾는 데 도움이 됩니다.

방금 답에서 숫자·날짜·고유명사를 따로 표시해줘.
내가 원문이나 공식 자료에서 직접 확인해야 할 항목도 골라줘.
확실하지 않은 부분은 추측하지 말고 불확실하다고 표시해줘.

하지만 같은 AI가 자기 답을 다시 설명했다고 사실 확인이 끝난 것은 아닙니다. AI는 두 번째 답에서도 같은 오류를 반복할 수 있습니다.

검증은 답변 밖에서 해야 합니다.

- 알림장은 원본 문서와 비교합니다.
- 학교 일정은 학교가 보낸 공지에서 확인합니다.
- 건강 정보는 의료진과 공공기관 자료를 확인합니다
- 제품 정보는 제조사 설명서와 공식 안전 기준을 확인합니다.

모든 문장을 확인할 필요는 없습니다. 행동을 바꾸게 만드는 정보부터 확인하면 됩니다. 날짜를 바꾸거나, 약을 먹이거나, 돈을 쓰거나, 아이를 평가하게 만드는 내용이 먼저입니다.

오늘 하나만 기억하세요

AI 답변에서 숫자, 날짜, 출처가 보인다면 잠깐 멈춰볼 때입니다.

자연스러운 문장은 믿을 이유가 아니라, 확인하기 쉽게 정리된 초안입니다.

AI를 의심해서 쓰지 않는 것이 아닙니다. 어디를 확인해야 하는지 알고 쓰는 것입니다.