누구의 평균인가

도구가 내놓는 결과를 두고 우리는 평균이라는 말을 자주 씁니다. 무난하다, 어디서 본 것 같다, 중간값이다. 그 말에는 은근한 전제가 하나 깔려 있습니다. 도구가 인류가 만들어온 것들의 한가운데를 보여주고 있다는 전제. 그런데 그것은 인류의 평균이 아닙니다. 인터넷에 올라온 것들의 평균입니다. 이 둘의 차이가 생각보다 큽니다.

올릴 수 있었던 사람들

무언가가 학습 재료가 되려면 몇 개의 문턱을 통과해야 합니다. 먼저 기록되어야 합니다. 사진으로 찍히거나 스캔되거나 어떤 형태로든 파일이 되어야 합니다. 다음으로 올려져야 합니다. 올릴 장비와 회선과 시간이 있어야 하고, 무엇보다 올릴 이유가 있어야 합니다. 그리고 설명이 붙어야 합니다. 그것이 무엇인지 적힌 문장이 없으면 학습에 잘 쓰이지 않습니다.

이 세 개의 문턱은 중립적이지 않습니다. 어느 시기에 살았는지, 어느 나라에 살았는지, 어떤 직업을 가졌는지에 따라 통과 여부가 갈립니다. 이십 년 전 서울의 간판 글씨를 찍어 올린 사람은 드물고, 지난주 카페의 라테를 찍어 올린 사람은 수만 명입니다. 유럽의 미술관 소장품은 고해상도로 스캔되어 있고, 어느 지방 사찰의 단청은 관광객이 찍은 흐릿한 사진 몇 장으로 남아 있습니다.

그러니 도구가 학습한 것은 세상이 아닙니다. 세상 중에서 기록되고 올려지고 설명된 부분입니다. 그리고 그 부분은 특정 시기, 특정 지역, 특정 계층 쪽으로 크게 기울어 있습니다. 평균이라는 말이 오해를 부르는 이유가 그것입니다. 평균은 중립적으로 들립니다. 아무 편도 들지 않는 한가운데처럼 들립니다. 그런데 표본이 기울어 있으면 평균은 한가운데가 아니라 기울어진 쪽의 한가운데입니다.

목록이 세계가 된다

이런 일에는 오래된 전례가 있습니다.

고전이라 불리는 목록은 가장 좋은 작품들의 모음이 아닙니다. 살아남은 작품들의 모음입니다. 그리스 비극 작가들이 수백 편을 썼지만 지금 남은 것은 서른 편 남짓입니다. 남은 이유는 뛰어나서가 아니라 필사되었기 때문이고, 필사된 이유는 어느 시기 학교에서 가르쳤기 때문입니다. 우리가 그리스 비극이라고 부르는 것은 사실 어느 시기 교육과정의 잔여물입니다.

그런데 후대 사람들은 그 목록을 보고 그리스 비극이란 이런 것이라고 배웠습니다. 남은 것이 전부인 줄 알았고, 전부라고 믿는 순간 그것이 기준이 되었습니다. 사라진 것들은 열등해서 사라진 것이 아니라 그냥 사라졌는데, 남은 것들이 우월했던 것으로 사후에 설명되었습니다.

기록은 언제나 이런 식으로 힘을 갖습니다. 무엇이 좋은지 정하는 것이 아니라, 무엇이 존재했는지 정하는 방식으로.

지금 벌어지는 일도 같은 모양입니다. 다만 규모와 속도가 다릅니다. 남은 것으로 새것을 만드는 일이 매일 수억 번 일어나고, 그렇게 만들어진 것이 다시 올라가서 다음 재료가 됩니다. 기울어진 표본이 스스로를 재생산하는 순환이 시작된 것입니다.

없는 것은 요청되지 않는다

이 구조에서 가장 조용히 진행되는 일은 부재가 부재로 인식되지 않는다는 것입니다.

도구가 어떤 것을 잘 만들어내면 우리는 그것이 흔한 것이라고 짐작합니다. 반대로 아무리 요청해도 이상하게 나오는 것이 있으면, 대개 요청이 잘못됐다고 생각합니다. 표현을 바꾸고, 참조를 붙이고, 그래도 안 되면 포기합니다.

그런데 그 실패의 상당수는 요청의 문제가 아닙니다. 그 자리에 재료가 없는 것입니다. 학습된 세계 안에 그 감각이 충분히 존재하지 않아서 나오지 않는 것인데, 우리 쪽에서는 그것을 알 방법이 없습니다. 도구는 없다고 말해주지 않고 언제나 무언가를 내놓기 때문입니다. 비슷한 것으로 채워서 돌려줍니다.

없다는 사실이 없음으로 드러나지 않고 어설픈 있음으로 드러나는 것. 이것이 이 도구들의 가장 다루기 어려운 성질입니다. 빈칸이면 빈칸인 줄 알겠는데, 빈칸이 아니라 흐릿한 무언가가 채워져 옵니다. 그래서 우리는 없는 것을 없다고 인식하지 못한 채, 그저 잘 안 되는 것으로 처리하고 지나갑니다.

지나가면 요청하지 않게 됩니다. 요청하지 않으면 실현되지 않고, 실현되지 않으면 기록되지 않고, 기록되지 않으면 다음 세대의 재료에서도 빠집니다. 처음의 기울어짐이 조금씩 더 기울어집니다.

잘 안 되는 것의 목록

그러니 실무에서 해둘 만한 일이 하나 있습니다. 잘 안 되는 것들을 기록해두는 것입니다. 몇 번을 시도해도 원하는 대로 나오지 않은 질감, 아무리 설명해도 엉뚱하게 착지하는 분위기, 참조 이미지를 넣어도 겉모양만 흉내 내는 무엇. 대개 짜증스러운 실패로 기억되고 곧 잊힙니다. 그런데 그 목록은 실패의 기록이 아니라 지도입니다. 학습된 세계의 빈칸이 어디인지 알려주는 지도.

빈칸은 두 가지를 뜻합니다. 하나는 도구로 가는 길이 막혀 있다는 것이고, 다른 하나는 아직 아무도 그 자리를 채우지 않았다는 것입니다. 도구가 잘 만들어내는 것은 이미 세상에 충분히 있는 것이고, 도구가 못 만들어내는 것은 세상에 아직 드문 것입니다. 만드는 사람에게 값이 붙는 자리가 어느 쪽인지는 분명합니다.

물론 그 자리를 채우는 일은 번거롭습니다. 한 번에 나오지 않으니 여러 번 나눠 만들고, 이어 붙이고, 손으로 고쳐야 합니다. 번거로워서 대부분 하지 않습니다. 그리고 대부분 하지 않기 때문에, 하는 사람의 것이 남습니다.

평균에서 벗어나야 한다는 말은 이제 상투어가 되었습니다. 다만 벗어나려면 먼저 그 평균이 누구의 것인지 알아야 합니다. 세상의 한가운데에서 벗어나는 일과, 기록될 수 있었던 것들의 한가운데에서 벗어나는 일은 난이도가 다릅니다. 후자는 생각보다 가까이 있습니다.

말뭉치(corpus) 세상의 표본이 아니라 기록되고 올려지고 설명될 수 있었던 것들의 목록. 그 목록이 세계의 평균 행세를 하는 동안, 목록에 없는 것은 열등해서가 아니라 존재하지 않아서 나오지 않는다.

말뭉치 (Corpus) AI Artwork by Lim Jongmin (임종민)

생성형 AI가 학습한 세계는 현실 전체가 아니다. 기록되고, 업로드되고, 언어로 설명될 수 있었던 것들의 세계다. 어떤 것은 수백만 번 기록되어 선명하게 남지만, 어떤 문화와 장소, 감각은 몇 장의 흔적으로만 존재하거나 아예 기록되지 않는다. 결국 AI가 보여주는 평균은 세상의 한가운데가 아니라, 기록될 수 있었던 것들의 한가운데에 가깝다.