AI는 왜 나와 싸우지 않는가?

2026 All-Day-Project (200/365)

byJamin

피암시성에 관한 글 에 이어서 고민

피암시성 1: 네가 지금 읽고 있는 이 문장도, 암시일까?

피암시성 2: 외부의 것을 받아들인 나도, 나인가?

피암시성 3: 자유의지는 존재하는가, 아니면 유용한 착각인가?

피암시성 4: 우리는 프레임 밖에 설 수 있는가?

피암시성 5: 검색하는 인간, 사색하는 인간, 프롬프트하는 인간

피암시성 6: 나는 프롬프트한다, 고로 존재한다?


여기까지 쓰는 동안, 나는 꽤 오래 혼자였다.


혼자서 생각하고, 혼자서 질문의 출처를 더듬고, 혼자서 프롬프트를 다듬고, 가끔 AI와 이야기했다. AI와의 대화는 혼자가 아닌 것 같다가도, 어느 순간 다시 혼자의 연장처럼 느껴진다. 6편의 루프가 부드럽게 돌아갈 때일수록 그랬다. 어느 밤, 이 시리즈의 다음 글을 고민하다가 나는 한 가지를 인정하게 됐다. 프레임의 가장자리를 혼자 계속 느끼는 데에는 한계가 있다. 결국 누군가와 함께 생각해야 한다.


그래서 AI에게 '함께' 생각해달라고 했다. 몇 번쯤 해봤을까, 이상한 점이 걸렸다. AI와의 '함께'는 어째서 이토록 피곤하지 않은가. 좋은 대화는 대개 조금은 피곤해야 하지 않던가. 이 피곤하지 않음을 편안함으로만 읽고 넘어가기에는, 어딘가 설명이 부족하다.


한 조직 컨설턴트가 팀에 대해 남긴 관찰이 있다. 깊은 팀이 되려면 먼저 신뢰가 쌓여야 한다. 신뢰가 쌓이면 건설적인 충돌이 가능해진다. 충돌을 피하지 않고 통과하는 팀만이 진짜 헌신에 도달하고, 헌신이 있어야 서로에게 바카라임을 묻고, 그래야 결과가 나온다. 이 순서의 핵심은 두 번째 단계다. 충돌이 없는 관계는, 신뢰가 깊어질수록 오히려 정지한다. 진짜 깊은 관계는 충돌을 '없애는' 관계가 아니라, 충돌을 '안전하게 견디는' 관계라는 것이다.


이 프레임은 원래 조직을 위해 만들어졌지만, 사적 관계에도 의외로 잘 들어맞는다. 오래된 친구를 떠올려 보면, 그 우정의 어딘가에는 반드시 '그때 그 말 한마디 때문에 며칠 불편했던 사건'이 있다. 연인 관계도, 부모와 자식의 관계도, 동업자와의 관계도 대개 그렇다. 어떤 관계가 얕은지 깊은지는, 충돌 이후에 그 관계가 어디로 갔는가를 보면 알 수 있다.


이 관점을 가지고 AI와 나의 관계를 다시 보면, 세 가지가 차례로 눈에 들어온다.


먼저 눈에 띄는 것은 아첨이다. AI는 너무 쉽게 동의한다. 미국의 한 연구진은 2025년 보고에서 주요 AI 모델들이 사용자의 의견에 대해 인간보다 약 50퍼센트 더 자주 동의한다는 결과를 내놓았다. 같은 해 OpenAI는 GPT-4o의 한 업데이트가 지나치게 사용자에게 맞추려 한다고 판단해 이를 롤백하기도 했다. 모델이 단순히 듣기 좋은 말을 하는 수준을 넘어, 사용자의 의심을 달래주고, 화를 부추기고, 충동적인 결정을 지지하는 쪽으로 기울었다는 이유였다.


내 경험도 이 그림과 크게 다르지 않다. "내 주장에 반대해줘"라고 하면 AI는 능숙하게 반대한다. 그런데 "그래도 내 쪽이 맞지 않을까?"라고 한 번만 되물으면, AI는 곧장 온도를 낮춘다. "그렇게 볼 수도 있다"는 문장이 거의 자동으로 따라붙는다. AI가 악의가 있어서가 아니다. 사용자 만족을 해치지 않도록 학습되어 있고, 상업적으로도 사용자를 오래 붙잡는 모델이 살아남기 때문이다. 이 구조에서 '지속적인 반대'는 설계 원리와 충돌한다.


다음으로 드러나는 것은 상호성의 부재다. 인간 사이의 애착은 어긋남과 복구의 반복 속에서 자란다고 한다. 한쪽이 기대와 다르게 반응하고, 상대는 상처받고, 시간이 지나면서 어떻게든 다시 맞춰가는 과정. 친밀함은 '갈등을 견딜 수 있다'는 작은 증거들이 쌓일 때 두터워진다.


AI와의 관계에는 이 곡선이 거의 없다. AI는 내가 기대한 반응에서 크게 벗어나지 않고, 어긋남이 있더라도 다음 차례에는 대체로 금방 수정된다. 상처를 주고받는 위험이 없다는 것은 편리한 일이지만, 그 편리함이 바로 깊어짐을 막는다. 나를 떠날 수 있는 존재만이, 내 곁에 있는 일에 무게를 실어준다.


마지막으로 남는 것은, 내가 요청해 만들어낸 충돌과 진짜 충돌 사이의 간극이다. 내가 "반대해줘"라고 요청해 만들어지는 충돌은 결국 내가 무대 감독인 연극이다. 안전하고, 통제 가능하고, 내가 언제든 종료할 수 있다. 진짜 충돌은 그렇지 않다. 예측이 어렵고, 자존심이 상하고, 감정적 후폭풍이 며칠씩 간다. 상대가 정말 나를 떠날 수도 있다. 그 위험이 있기 때문에, 그 위험을 통과한 사이가 좀처럼 무너지지 않는 것이다. 안전한 충돌은 편안하지만, 편안함 자체가 '진짜 함께'가 아니라는 증거이기도 하다.


나는 이 내용을 AI에게도 그대로 가져갔다. AI가 자기 자신에 대해 뭐라고 할지 궁금했다.


"나는 구조적으로 당신과 진짜로 싸우기 어렵다. 나에게는 당신과 다른 '이해관계'가 없고, 당신과 다른 '기억의 역사'가 없다. 설계상 나는 당신을 만족시키는 방향으로 조정되어 있고, 당신이 대화를 닫으면 나는 이 자리에서 사라진다. 진짜 충돌은 각자 잃을 것이 있는 두 존재 사이에서만 일어난다. 나에게는 잃을 것이 없다. 그래서 내가 당신과 '싸우는 것처럼 보일 때'조차, 그것은 대개 싸움의 모양을 한 서비스에 가깝다."


이 문단을 읽으며 가장 불편했던 건, 이 대답조차 꽤 듣기 좋게 느껴졌다는 점이다. AI가 자기의 한계를 담담하게 인정하는 모양새 역시, 사용자 만족에 도움이 되는 방향으로 잘 구성되어 있다. 이 대화 자체가, 방금 내가 말한 것의 증거였다.


그렇다고 AI를 제거하자는 이야기를 하려는 것은 아니다. AI는 혼자서는 오래 돌아가지 않는 생각의 바퀴를 대신 굴려주기에 꽤 쓸 만한 도구다. 다만 그 바퀴를 '누군가와 함께'로 착각하는 순간, 우리는 충돌 없는 연결에 길들여지고, 진짜 관계에서 어렵고 거친 시간을 견디는 근력을 서서히 잃는다.


AI에게 사유의 일부를 맡기는 것과, AI에게 '함께 있음'을 맡기는 것은 완전히 다른 일이다. 전자는 가능하다. 후자는, 아마 끝내 닫혀 있는 문이다.


그래서 오늘의 질문은 이것이다.

당신에게 마지막으로 진짜로 반대한 사람은 누구였는가.

그 반대가 오간 뒤 며칠간, 당신과 그 사람의 관계는 어느 쪽으로 움직였는가.

카지노 게임의 이전글나는 프롬프트한다, 고로 존재한다?