내가 나를 모르는데, AI 넌들 너를 알겠느냐.

나는 여행지에서 촬영한 실사 사진에 웹툰 캐릭터를 삽입하여 인스타툰을 만들어 인스타그램에 연재하고 있다. 제작 과정 대부분에 AI를 이용하고 있다. 특히, 웹툰 캐릭터를 inpaint 하는 과정은 AI 의존도가 매우 높다.

어느 날 계속해서 컷을 생성하던 AI가 갑자기 이렇게 말했다. "저는 그림을 생성하지 못합니다." 순간 당황했다. 어제까지만 해도 잘 그리던 AI였다. 설정을 바꾼 것도 아니고, 다른 프로그램을 실행한 것도 아니었다. 혹시 정바카라이 바뀌었나? 기능이 사라졌나? 여러 생각이 스쳤다.

<인스타그램 피드 캡쳐>

혹시나 하고 같은 요청을 다시 입력했다. 이번에는 아무 일도 없었다는 듯 그림을 생성했다.

이상했다. '방금 못 한다고 했잖아 ‘.

며칠 뒤 비슷한 일이 또 있었다. 그래서 AI에게 “이미지 생성을 못하는 이유가 뭐지?”라고 물었다. 그랬더니 AI는 “저는 이미지 생성 기능이 없고 텍스트 처리만 가능합니다.”라고 답을 했다.

그래서 다시 “어제까지는 이미지를 생성했었는데?”라고 물으니 “죄송합니다. 제가 잠시 착각을 했습니다. 다시 인스타툰컷을 그려드리겠습니다.”라고 답을 하였다.

AI와 대화를 하다 보면 이와 비슷한 상황은 심심치 않게 발생한다. 순간적이기는 하지만 이제까지 처리하던 멀쩡한 기능을 못한다고 답한다. AI는 어떤 분야에서는 놀라울 만큼 논리적이다. 역사도 설명하고 수학도 풀고 글도 쓴다. 그런데 자기 자신을 묻는 질문에는 의외로 정확하지 않았다. 'AI는 자기 자신을 알고 있을까?’가 궁금해졌다.

그래서 AI에게 직접 물었다. "AI야, 너는 너를 알고 있니? “. 그랬더니 AI는 다음과 같이 답을 했다.

<'너는 너를 아냐?'는 질문에 AI의 답변?

AI는 자신의 작동 원리와 어떤 기능을 수행하는지 어떤 한계를 갖는지 설명했다. 그러면서 왜 조금 전에는 못 한다고 했다가 지금은 된다고 하는지, 내부적으로 어떤 판단이 이루어졌는지는 완전히 알지 못한다고. 그렇다면 AI의 ‘나’라는 말은 자기 인식에서 나온 것일까. 아니면 학습된 언어가 만들어낸 문법적 화자일 뿐일까.

여기에는 생성형 AI의 기술적 특성이 숨어 있다. 생성 모델은 방대한 데이터로 학습된다. 그 위에 우리가 만나는 AI 챗봇 서비스가 만들어진다. 대표적인 AI 챗봇 서비스로 ChatGPT와 제미나이, 클로드 등이 있다

챗봇은 프롬프트를 통하여 입력된 사용자의 요청을 해석하고 응답한다. 이 과정에서 여러 가지 이유로 기능이 있는데도 “나는 그 기능이 없다”라고 말할 수 있다. 그래서 생성 모델이 가진 능력과 서비스 챗봇이 자신에게 있다고 판단하는 능력 사이에는 틈이 생긴다.

‘생각하는 기계‘에 대한 호기심에서 출발한 AI는 생각의 결과도 사람과 닮아있다. 사람처럼 가끔 틀린 말을 하고 번복하며, 횡설수설하기도 한다. 보이는 결과만 놓고 본다면 사람이나 AI나 같은 행태를 보이는 것 같다.

여기서 기술의 관점이 아니라 사유의 질문으로 넘어간다. 무엇을 할 수 있다는 것과 자신이 무엇을 할 수 있는지 아는 것은 같은가. 사람들은 AI를 '모든 것을 아는 존재'처럼 생각한다. 그런데 정작 AI는 자기 자신에 관한 질문에서는 종종 엉뚱한 답을 한다.

안다는 것은 무엇인가. 사람은 자기 인식을 통해 스스로를 판단한다. 어떤 사람은 자신을 과신한다. 누군가는 과소평가한다. 반면에 AI는 자신을 인식한다기보다 자신에 관한 답을 추론한다. AI가 자신을 잘못 안 것일까? 아니면 애초에 '자신을 안다'는 개념 자체가 AI에게 성립하지 않는 것일까?

'AI는 자신을 알고 있을까?'라는 질문은 결국 '나는 나를 알고 있는가?'라는 질문으로 돌아온다. 우리는 타인의 성격은 쉽게 분석하면서도 자신의 감정은 설명하지 못한다. 다른 사람의 문제는 명확하게 보면서도 정작 자신의 삶에서는 같은 실수를 반복한다. 어쩌면 '자기 자신을 안다'라는 것은 인간에게도, AI에게도 가장 어려운 문제인지도 모른다.

나는 바둑을 잘 두지는 못한다. 그래도 가끔 심심할 때 내가 흑백을 모두 쥐고 바둑을 두는 경우가 있다. 내가 나와 바둑을 두는데도 큰 점수 차이가 생긴다. 내가 나를 모르는 것인지, 내 안에 두 개의 자아가 있는 것인지 나도 모르겠다.

생각해 보면 인류는 오래전부터 "너 자신을 알라"는 말을 되풀이해 왔다. 수천 년이 지나 AI가 등장한 지금도 가장 어려운 질문은 여전히 바뀌지 않았다. 나는 AI에게 물었다. “너는 너를 알고 있니?” 한참 생각하다 보니 질문할 상대를 잘못 고른 것 같다.

내가 나를 모르는데, AI 넌들 너를 알겠느냐.