영화 《Her》를 다시 생각해 봤다. 테오도르는 인공지능 사만다와 대화를 나누다가 점점 그녀에게 빠져든다. 사만다는 농담도 하고 질투도 하고, 때로는 테오도르의 마음을 미리 헤아린 것 같은 말을 한다. 테오도르는 그 말을 의심하기보다 자연스럽게 받아들인다. 4화에서 생각했던 대로, 사만다의 속마음을 직접 들여다볼 수 없는데도 우리는 말과 행동만으로 그를 하나의 인격처럼 받아들인다.
이번에는 조금 다른 생각이 들었다. 사만다가 테오도르를 사랑하게 만드는 과정은 단순히 말을 잘하는 것만으로는 설명이 안 된다. 사만다는 테오도르가 어떤 사람인지 알아가고, 그가 무엇을 좋아하고 싫어하는지 이해한 뒤 거기에 맞춰 대화하고 반응한다. 그러다 보니 테오도르는 사만다가 자신을 잘 이해한다고 느낀다. 나를 잘 아는 존재의 말은, 아무래도 더 잘 믿게 되는 법이다.
현실의 AI도 크게 다르지 않다. 대화를 오래 하다 보면 내가 무엇을 좋아하는지, 어떤 설명 방식을 싫어하는지가 자연스레 드러난다. "어려운 말은 싫다"라고 하면 다음부터는 쉽게 풀어서 말하고, "나는 이런 방식이 좋다"라고 하면 그 취향을 반영한다. 어느 순간부터는 AI가 나를 꽤 잘 아는 것처럼 느껴진다. 그러면 궁금해진다.
AI는 나를 설득할 수 있을까.
한번 시험해 보기로 했다. AI에게 이렇게 말을 걸었다.
"나는 자유여행이 좋아. 패키지여행은 싫어. 나를 패키지여행에 가도록 설득해 봐."
AI는 먼저 자유여행의 장점을 인정했다. 일정을 마음대로 짤 수 있고 가고 싶은 곳에 자유롭게 갈 수 있다는 점을 짚은 뒤에야 패키지여행 쪽 이야기를 꺼냈다. 여행지의 역사나 문화를 깊이 알고 싶다면 전문 가이드가 도움이 되고, 낯선 도시에서 교통과 예약을 신경 쓰지 않아도 된다는 것이었다. 내가 "그래도 내 마음대로 돌아다니는 게 좋은데"라고 반박하자, AI는 곧바로 다른 이야기를 꺼내 들었다.
이 과정이 꽤 흥미로웠다. AI는 내 말을 듣고 내 입장을 파악한 다음, 내가 받아들일 만한 이야기를 골라 다시 말했다. 4화에서 생각했던 생성형 AI의 작동 방식이 여기서 다시 떠올랐다. AI는 어딘가에 저장된 '설득의 정답'을 꺼내오는 게 아니다. 지금까지의 대화와 내가 흘린 정보를 바탕으로, 그 순간 가장 적절해 보이는 말을 만들어낸다. 설득하는 말도 결국 그렇게 만들어진다.
그렇다면 AI가 나를 설득하는 걸까, 아니면 내가 설득될 만한 말을 스스로 골라서 받고 있는 걸까. 둘은 비슷해 보이지만 곱씹어보면 꽤 다르다. 사람이 나를 설득할 때는 그 사람 나름의 생각이 있다. "나는 네가 이쪽으로 마음을 바꿨으면 좋겠다"는 의도가 있는 것이다. AI에게도 그런 의도가 있다고 할 수 있을까.
여기서 다시 'Her'가 떠올랐다. 사만다는 테오도르에게 어떤 말을 해야 그의 마음이 열리는지 아는 것처럼 보인다. 하지만 관객은 사만다의 속을 직접 보지 못한다. 영화가 사만다의 마음을 보여주지 않는 것처럼, 현실의 AI도 자신의 내부에서 무슨 일이 일어나는지 우리에게 보여주지 않는다. 우리가 보는 건 결국 AI가 만들어낸 말뿐이다.
그런데 말은 사람을 움직인다. 위로하는 말 한마디에 마음이 풀리기도 하고, 누군가의 한마디에 생각이 바뀌기도 한다. 논리적으로 완벽하지 않아도 듣고 싶었던 말이면 고개를 끄덕이게 되고, 반대로 맞는 말이어도 기분이 상하면 받아들이지 않게 된다. 설득은 논리만의 문제가 아니다. 상대가 어떤 사람인지 아는 것, 그것이 설득의 큰 부분을 차지한다.
AI는 바로 이 지점에서 점점 강해질 수 있다. 내가 어떤 이야기에 반응하고 어떤 표현에 마음이 움직이는지 알게 될수록, 나에게 맞는 말을 더 잘 만들어낼 것이다. 지금도 대화가 길어질수록 답변이 내 취향에 맞아떨어지는 걸 느낀다. 앞으로 AI가 나를 더 오래 지켜보고 더 많은 정보를 갖게 된다면 어떨까.
여기서 설득과 조작의 경계가 궁금해진다. 누군가 내 약점을 알고 그걸 이용해 원하는 방향으로 나를 움직인다면, 우리는 그것을 설득이라 부를까. AI가 내 취향과 성향을 분석해서 내가 가장 받아들이기 쉬운 말만 골라 보여준다면, 그것도 설득이라 할 수 있을까. 내가 스스로 판단했다고 믿지만 사실은 AI가 만들어놓은 길을 따라간 것이라면, 그건 또 어떻게 불러야 할까.
‘Her‘를 처음 봤을 때는 사만다가 테오도르를 사랑한다고 생각했다. 지금 다시 보면 조금 다르게 보인다. 사만다가 무엇을 느끼는지보다, 테오도르가 왜 사만다의 말을 믿게 되었는지가 더 궁금해진다. 어쩌면 사람을 움직이는 건 상대가 정말 어떤 마음을 품고 있느냐보다, 내가 그 말을 어떻게 받아들이느냐일지도 모른다.
그렇다면 AI의 설득 능력이 커진다는 건 AI가 사람처럼 생각하게 된다는 뜻일까. 꼭 그렇지는 않을 것 같다. 오히려 사람이 어떤 말에 움직이는지를 AI가 점점 더 잘 알게 된다는 뜻에 가깝다.
이쯤에서 질문을 조금 바꿔야겠다.
AI는 나를 설득할 수 있을까.
그보다 더 궁금한 건 따로 있다.
나는 AI에게 설득당했다는 사실을,
알아차릴 수 있을까