챗GPT는 가끔 왜 그렇게 당당하게 거짓말을 할까?

학교 숙제를 하다가 막힐 때, 혹은 심심할 때 스마트폰을 켜고 챗GPT 같은 인공지능(AI)에게 질문을 던져본 적이 있을 것이다. 내가 물어보는 것은 무엇이든 1초 만에 척척 대답하는 모습을 보면, AI 머릿속에 전 세계의 모든 백과사전과 정답이 통째로 저장되어 있는 것만 같다.

하지만 가끔 챗GPT에게 짓궂은 질문을 던져보면 이상한 일이 일어난다. 예를 들어 "조선시대 세종대왕이 노트북을 쓰다가 화가 나서 던진 사건에 대해 설명해 줘"라고 물어보면, 챗GPT는 "그 사건은 몇 년도에 일어났으며, 당시 신하들이 크게 당황했습니다"라며 마치 진짜 있었던 일인 것처럼 아주 당당하게 소설을 쓴다.

분명 세상에서 제일 똑똑하다고 했는데, 챗GPT는 왜 이런 뚱딴지같은 거짓말을, 그것도 아주 그럴싸하게 하는 것일까? 인공지능이 공부하는 방식을 알면 그 비밀이 풀린다.

[사진=오픈AI]

정답을 외우는 게 아니라 '다음 글자 맞추기 게임'

많은 사람이 오해하는 것 중 하나가 챗GPT가 네이버나 구글 검색창처럼 '정답이 적힌 페이지를 찾아서 보여주는 장치'라고 생각하는 점이다. 하지만 챗GPT의 작동 원리는 다르다. 챗GPT는 정답을 외우고 있는 게 아니라, 엄청나게 공부를 많이 한 '눈치 100단 다음 글자 맞추기 대왕'이다.

학교에서 친구들과 눈치 게임을 하거나, 앞 단어를 들으면 뒤에 올 단어를 본능적으로 맞추는 게임을 해봤을 것이다. 예를 들어 누군가 "간장 공장"이라고 운을 떼면, 우리는 생각하기도 전에 다음에 "공장장"이 올 거라고 예상한다. "자장면 시키신" 뒤에는 당연히 "분"이 올 확률이 높다는 것을 안다.

챗GPT가 바로 이 게임을 하는 것이다. 이 인공지능은 전 세계 인터넷에 있는 수억 장의 교과서, 뉴스, 블로그 글을 통째로 읽으면서 "이 단어 뒤에는 보통 이 단어가 오더라"하는 확률을 공부했다. 내가 질문을 던지면, 챗GPT는 자기가 배운 확률을 총동원해서 "주인님이 던진 질문 뒤에는 이 글자가 오는 게 가장 자연스럽겠군!" 하며 단어를 한 땀 한 땀 이어 붙여 문장을 만드는 것이다.

즉, 지식이 있어서 대답하는 게 아니라, 다음에 올 가장 '그럴싸한 말'을 실시간으로 조립하는 기술이다.

"세종대왕 맥북 투척 사건"의 비밀은 거짓말이 아니라 확률의 늪