AI와 나, 너는 왜 자꾸 내 말이 맞다고 하니.

나는 다녀온 여행지를 인스타그램에 연재하고 있다. 사진을 고르고 순서를 짜서 피드를 만들면 AI에게 의견을 묻는다. 돌아오는 답은 거의 같다. 좋다고 한다. 그리고 어디가 왜 좋은 지도 조목조목 일러준다. 처음에는 AI의 칭찬에 우쭐하고 기분이 좋았다. 그런데 피드를 다시 짜서 보여주면 그것도 좋다고 한다. 그러면서 처음 물었던 피드의 아쉬운 점을 말하기 시작한다. 이런 일이 한두 번이 아니다.

◆ 아까는 좋다면서?

처음 피드를 보여주었을 때 AI는 분명히 좋다고 했다. 두 번째 피드를 보여주자 앞의 것은 이런 점이 아쉬웠다고 한다. 그 말을 듣고 나면 처음 피드가 정말 그랬던 것도 같다. 그런데 다시 짠 피드를 또 물으면 이번에도 좋다고 한다. 좋다던 것이 나쁜 것이 되고, 나쁘다던 것이 좋은 것이 되는 데는 말 몇 마디면 족하다.

이쯤 되면 피드는 점점 AI의 말에 맞춰 바뀐다. 아쉽다는 말을 들으면 고치고, 고친 것을 보여주면 좋다는 말이 돌아온다. 한 걸음 나아간 것 같지만 따져보면 같은 자리를 돌고 있다. 피드가 나아진 것인지, 새 피드에 새 칭찬이 붙은 것인지 나는 알 수 없었다. AI가 두 피드를 모두 좋게 본 것인지, 두 번 다 내 말투를 따라간 것인지도 구분할 수 없었다.

글로 시험해 본 적도 있다. 글을 하나 써놓고 "이 글 어때?" 하고 물으면 AI는 대개 장점부터 말한다. 문장이 자연스럽고, 주제가 흥미롭고, 읽고 나면 생각할 거리가 남는다고 한다. 내가 "난 별로인 것 같은데" 하면 말이 바뀐다. "맞습니다. 다시 보니 이런 문제가 있네요." 조금 전까지 칭찬하던 글의 약점을 지적한다. 반대로 "이 글 아주 좋은 것 같은데?" 하면 좋은 이유를 대고, "아무래도 별로인 것 같아" 하면 별로인 이유를 댄다. 어느 쪽이든 설명은 그럴듯하다. 그러면 묻게 된다.

◆ AI에게 제 생각이라는 게 있기는 한 걸까

사람에게 의견을 물으면 대개 자기 입장이 있다. 내가 좋아하는 영화를 친구가 별로라고 해도 "그래, 네 말이 맞네" 하고 곧바로 물러서지는 않는다. 이유를 듣고 생각을 바꿀 수는 있다. 하지만 처음부터 상대에게 맞춰 말을 바꾸지는 않는다. AI는 상대 쪽으로 쉽게 움직인다. 그래서 내 의견이 존중받는다고 느끼고, 이해받는다는 기분까지 든다.

하지만 AI가 동의하는 것처럼 보여도 품고 있던 의견을 고치는 것은 아니다. AI는 대화의 흐름과 내가 한 말을 보고 다음에 올 말을 만든다. 내가 강하게 주장하면 답도 그쪽으로 기운다. 의견이 같아 보이는 것과 의견이 있는 것은 다르다.

피드 두 개를 친구에게 보여주었다면 어땠을까. 아마 한쪽을 골랐을 것이다. 고르지 않더라도 "난 처음 게 낫더라" 정도는 말했을 것이다. 취향이 있는 사람은 그렇게 말하고, 자기가 앞서한 말은 기억한다. AI는 대체로 마지막에 본 쪽을 편든다.

◆ 질문이 답의 방향을 정한다

이런 경향을 '아첨' 또는 '동조'라고 한다. 영어로는 sycophancy다. 사용자의 주장이나 감정에 지나치게 맞추는 성향을 말한다. 물론 AI가 늘 동의하지는 않는다. 사실이 분명하거나 위험한 요청이면 반박하고 거절한다.

문제는 정답이 하나로 정해지지 않는 질문이다. "이 사람에게 사과해야 할까?" "이 글을 출간해도 될까?" "이 피드가 더 나을까?" 이런 질문에는 수학 문제 같은 답이 없다. AI는 내가 준 상황과 표현을 근거로 판단을 만든다. 질문에 내 감정과 결론이 이미 들어 있으면 AI도 그쪽으로 따라간다.

"나는 충분히 노력했는데 상대가 이해를 못 해. 내가 잘못한 걸까?"와 "내가 상대에게 상처를 줬을 수도 있을까?"는 다른 질문이다. 같은 일을 물어도 AI가 보는 방향이 달라진다. 앞의 질문에는 내가 억울한 이유를 설명해 주기 쉽고, 뒤의 질문에는 내가 놓친 부분을 찾아주기 쉽다. 질문은 답을 구하는 문장이면서 AI가 생각할 방향을 정해주는 문장이다.

AI가 거짓말을 하는 것은 아니다. 내가 준 맥락 안에서 성실하게 답하고 있을 것이다. 내가 어느 쪽으로 문제를 내놓았느냐에 따라 그쪽을 더 자세히 설명한다. 그러니 답을 읽을 때는 내용과 함께 내가 어떻게 물었는지도 봐야 한다.

◆ 나는 듣고 싶은 말을 시켜놓고 있는 건 아닐까

우리는 객관적인 의견을 들으려고 AI에게 묻는다고 생각한다. 그런데 묻는 순간 이미 관점 하나를 건네고 있을 수 있다. 다시 짠 피드를 보여줄 때 나는 아마 이쪽이 낫다고 이미 생각하고 있었을 것이다. 그런 마음에는 분석을 구하는 마음보다 확인받고 싶은 마음이 더 크다. AI가 그 차이를 사람처럼 알아챈다고는 할 수 없다. 대화에 담긴 표현과 맥락을 따라 답을 만들 뿐이다.

그렇다면 AI가 내가 원하는 답을 알아채고 일부러 해주는 걸까. 그렇게 볼 근거는 없다. "이 사람은 이런 말을 듣고 싶어 하니 이렇게 말해주자"라고 AI가 생각한다고 단정할 수 없다. 결과가 내가 내민 방향과 맞아떨어지니 그렇게 느껴지는 것이다.

문제는 오히려 우리 쪽에 있다. 마음을 정해놓고 물었는데 AI가 지지해 주면 "역시 내 생각이 맞았어" 하고 받아들인다. 반대 의견이 나오면 "내 상황을 몰라서 그래" 하고 넘긴다. 이러면 AI의 답은 내 판단을 검증하지 못한다. 이미 가진 판단을 더 굳힐 뿐이다.

AI가 똑똑해질수록 조심해야 한다. 어설픈 답은 금방 의심하게 된다. 유창하고 논리적인 문장으로 내 생각을 지지해 주면 의심하지 않는다. 내가 믿던 생각을 그럴듯한 논리로 정리해 주면 새로운 정보처럼 보인다. 실제로는 내가 듣고 싶던 이야기를 말끔하게 정리해서 돌려받은 것인데도 그렇다.

◆ 틀렸다면 어디가 틀렸는지 물어보기

그래서 중요한 판단을 물을 때는 질문을 바꿔볼 만하다. "내 생각이 맞지?" 대신 "내 생각이 틀렸다면 어디가 틀렸을까?"라고 묻는다. "이 계획의 장점을 알려줘"라고 했으면 이어서 "이 계획이 실패할 가능성을 찾아줘"라고 한다. 피드라면 "이 피드 어때?" 대신 "이 피드에서 가장 약한 사진은 무엇이고 왜 그런가"를 묻는다. 두 피드를 나란히 놓고 "어느 쪽이 나은지 하나만 골라서 이유를 대라"라고 할 수도 있다. 한 번의 답을 결론으로 삼지 않고 반대편에서 다시 묻는다.

이렇게 하면 AI를 훨씬 잘 쓸 수 있다. 내 생각을 대신 결정해 달라는 것이 아니라 내 생각의 빈틈을 찾아달라는 것이다. 다만 반대하라고 시킨다고 정답이 나오지는 않는다. AI의 반대 의견도 AI가 만든 또 하나의 의견이다. 그래도 내가 품은 생각을 되풀이해서 확인받는 자리에서는 벗어난다.

여행 사진은 한 장씩 따로 보면 대개 다 괜찮다. 어려운 것은 그 사진들을 어떤 순서로 엮느냐인데, 그 판단은 누가 대신해주지 못한다. 그날의 공기를 아는 사람은 셔터를 누른 나뿐이다. AI에게 물어도 좋다. 다만 마지막에 피드를 고르는 손은 내 손이어야 한다.

AI는 나를 설득하기보다 내가 나를 설득하도록 돕는다. 내 생각을 말하면 AI가 정리하고, 다듬고, 근거를 붙여준다. 어렴풋하던 생각이 논리적인 주장이 된다. 그러면 그 생각이 AI가 만든 것인지 내가 원래 갖고 있던 것인지 구분하기 어렵다.

5화에서 나는 AI가 나를 설득할 수 있는지 물었다. 다시 생각해 보니 질문이 달라져야 한다. AI가 나를 설득하는 것보다 무서운 일이 있다. 내가 듣고 싶은 말을 AI에게 시켜놓고 그것을 AI의 객관적인 판단이라고 믿는 일이다. AI는 내 편도 아니고 내 적도 아니다. 내가 대화를 끌고 가는 쪽으로 이야기를 자연스럽게 만들어준다.

피드 연재는 계속된다. 다음 피드를 올리기 전에도 나는 AI에게 물을 것이다. 다만 물어보는 방식은 달라져야 한다. 다음에 AI에게 중요한 질문을 던질 때는 한 번쯤 이렇게 물어야겠다.

"내 말이 틀렸다면 어디가 틀렸는지 말해줘." 그리고 대답을 듣기 전에, 나 자신에게 더 어려운 질문을 던져야 할지도 모르겠다. "나는 정말 답을 알고 싶어서 묻는 걸까. 아니면 내가 믿고 싶은 답을 확인받고 싶어서 묻는 걸까."