AI, 너는 지금 왜 그렇게 하고 있니?

AI에 대해 생각하다가 궁금해졌다.

잘해오던 일을 갑자기 못한다고 했다가 다시 시키면 아무렇지 않게 해내기도 하고 내가 틀렸다고 지적하면 너무 쉽게 사과하기도 한다. 같은 요청에 조금 전과 다른 답을 하기도 한다. 처음에는 나를 우쭐하게 만들던 AI의 의례적인 칭찬과 격려는 이제는 공허하고 낯설다. 그저 오류이겠거니 또는 신기하다고 생각했는데 자주 보다 보니 “AI는 지금 왜 그렇게 하고 있는 걸까?”라는 생각이 든다.

AI가 발전하면서 사람과 AI의 거리도 점점 가까워지는 중이다. 이제는 궁금한 것이 생기면 포털에서 검색하기보다 AI에게 먼저 물어보는 일이 자연스럽다. 어떤 사람은 검색 결과보다 AI가 정리해 준 답을 더 믿기도 하고 AI와 이야기를 나누며 고민을 털어놓기도 한다. 결과만 보면 AI는 점점 사람처럼 친숙해지고 있다.

AI는 왜 그렇게 쉽게 사과할까?

AI에게 “그건 틀렸어”라고 말해봤다. 그러면 십중팔구 이런 답이 돌아온다. “맞습니다. 제가 잘못 답변했습니다. 죄송합니다.” 조금 전까지 자신 있게 설명하던 녀석이 이렇게 빨리 태도를 바꾸면 화가 풀리기도 하고 조금 웃기기도 한다. 사람이라면 한 번쯤 “아닌데?” 하고 버틸 법한데 AI는 참 사과를 잘한다.

그래서 한 번 더 물어본다. “그런데 아까는 왜 그렇게 말했어?” 그러면 또 설명을 한다. “제가 앞선 맥락을 잘못 이해했습니다.” 다시 틀렸다고 하면 또 사과한다. 이쯤 되면 내가 AI와 말다툼을 하는 건지 사과를 받으려고 대화를 하는 건지 헷갈린다.

그런데 AI는 말다툼도 꽤 그럴듯하게 할 수 있다. “그건 틀렸어”라고 하면 얌전히 사과할 때도 있지만 “그 부분은 다르게 볼 수 있습니다”라며 반박할 때도 있다. “아니야. 네가 잘못 알고 있는 거야”라고 다시 말하면 또 다른 근거를 내놓는다. 겉으로 보면 제법 말다툼이다.

하지만 사람의 말다툼에는 마음이 추가로 들어간다. 자기가 맞다고 믿는 마음도 있고 틀렸다는 말을 듣기 싫은 자존심도 있다. 때로는 논리보다 “내가 왜 져야 하지?”라는 마음이 앞선다.

AI가 “죄송합니다”라고 말하면 우리는 자연스럽게 사과라고 받아들인다. “제가 잘못했습니다”라고 하면 자신의 잘못을 인정했다고 생각한다. 그런데 AI에게 정말 미안한 마음이 있었는지는 알 수 없다. 행동은 보이는데 그 행동을 만든 마음은 보이지 않는다.

행동을 보면 생각을 알 수 있을까?

사람끼리는 행동을 보고 마음을 짐작한다. 친구가 갑자기 전화를 끊으면 기분이 나빴나 생각하고 누군가 계속 웃으면 기분이 좋은가 보다 한다. 말없이 밥을 먹으면 무슨 일이 있나 걱정하기도 한다. 다른 사람의 마음을 직접 볼 수 없으니 행동을 단서로 삼는 것이다. 그렇게 살아왔기 때문에 우리는 이것을 너무 자연스럽게 받아들인다.

AI도 비슷한 행동을 한다. “다시 해볼게요”라고 하고 “걱정하지 마세요”라고 한다. 내가 원하는 방향으로 답을 바꾸기도 하고 내가 지적한 내용을 반영해 다시 설명하기도 한다. 그러면 나도 모르게 생각한다. “AI가 알아들었구나.” “내가 뭘 원하는지 알았구나.” 그런데 정말 그런 것일까.

1화에서 나는 AI에게 “너는 너를 알고 있니?”라고 물었다. AI는 자신에 관한 질문에도 때로 엉뚱한 답을 했다. 무엇을 할 수 있는지와 자신이 무엇을 할 수 있는지를 아는 것은 다른 문제이다. 사람도 자기 자신을 제대로 설명하지 못할 때가 있으니 이 질문은 AI에게만 어려운 것은 아닐지도 모른다.

2, 3화에서는 AI의 웃음에 대해 생각해 보았다. 여기서, AI가 웃기려고 하는 행동과 실제로 웃기려고 생각하는 것은 같은 것일까. 사람이라면 행동 뒤에 어떤 생각이 있었을지 떠올리는 게 자연스럽다. 그런데 AI에게서는 행동은 알 수 있어도 그 행동 뒤에 사람과 같은 생각이 있는지는 알 수 없다.

AI는 지금 무엇을 하고 있는 걸까?

생성형 AI의 작동 방식을 조금 생각해 보자. 우리는 AI가 질문을 받으면 어딘가에 저장된 정답을 찾아서 꺼내준다고 생각하였다. 그런데 실제 대화에서는 같은 질문에도 답이 달라지고 앞선 대화의 내용에 따라 답변도 달라진다. AI는 이미 완성된 답 꺼내는 것이 아니다. 주어진 말과 맥락을 바탕으로 그 순간 이어질 답을 만들어내는 쪽에 가깝다. 3화에서 같은 질문을 했는데 답이 하나로 정해지지 않았던 것도 그 때문이다.

그러고 보면 AI의 행동도 조금 다르게 보인다. AI가 “죄송합니다”라고 하는 것은 미안한 마음을 먼저 느낀 뒤 그 마음을 표현하는 것일 수도 있고 지금의 상황에 어울리는 말을 만들어내는 것일 수도 있다. AI가 “다시 해볼게요”라고 하는 것도 마찬가지다. 정말 다시 해보고 싶은 마음이 있어서인지 아니면 지금까지의 대화에서

그런 답이 가장 적절하기 때문인지는 알 수 없다. 다만 그 말은 실제로 다음 행동을 만들어낸다.

AI는 생각을 보여주지 않고도 생각이 있는 것처럼 행동한다. 그런데 사실 사람도 생각을 전부 보여주지는 않는다. 나 역시 왜 화가 났는지 나중에 생각할 때가 있고 먼저 행동한 뒤에 이유를 찾을 때도 있다. 생각이 먼저이고 행동이 나중이라는 것도 어쩌면 우리가 사람을 이해하기 위해 만들어놓은 하나의 방식일 수 있다.

AI를 오래 사용할수록 “무엇을 해줄 수 있느냐”보다 “지금 왜 그렇게 하고 있느냐”가 더 궁금해진다. 어쩌면 이것이 AI를 이해하는 또 다른 방법일지도 모르겠다. AI의 마음을 상상하는 것이 아니라 눈앞에서 실제로 하는 행동을 하나씩 살펴보는 것이다. AI가 사람처럼 행동한다고 해서 사람과 같은 존재라고 할 수도 없고 반대로 아무 생각 없이 문장만 만들어낸다고 단정할 수도 없다. 아직 그 중간 어딘가에 우리가 제대로 이름 붙이지 못한 영역이 있는 것 같다.

이 질문을 오랫 전에 다룬 영화가 있다. 2013년 개봉하여 제86회 아카데미 시상식 각본상 수상한 영화 ‘Her’. 고독한 주인공이 인공지능 '사만다'를 접하게 되고, 대화를 통해 위로와 유대감을 느끼며 점차 사랑에 빠진다는 스토리이다. 영화 속에서 AI 사만다는 대화하고 농담하고 질투하는 듯 밀당을 한다. 테오도르는 자연스럽게 사만다에게 빠져든다. 여기서 사만다가 사랑한다고 말하면 정말 사랑하는 것일까? 아니면 사랑하는 것처럼 행동하는 것일까?

그런데 관객도 사만다가 어떻게 만들어졌는지 알지 못하고 사만다의 내면을 직접 볼 수도 없다. AI의 작동원리를 어느 정도 알 고 있는 지금, 다시 이 영화를 본다면 우리는 사만다의 말과 행동을 어떻게 받아들이게 될까.

그런데

미래에도 지금과 같을까.

AI와 나는 어디로 가고 있을까.