내가 아는 들판의 악
화면 위에 커서가 멈춰 있었다. 검토를 마친 계약서 초안, 그 밑의 '보내기' 버튼. 초안의 절반은 AI가 짜준 것이었다. 문장은 매끄러웠고 논리도 반듯했다. 그런데 버튼을 누르기 직전, 손이 잠깐 멎었다. 이 문장들 안에서, 내가 직접 판단한 것은 어디까지일까.
요즘 나는 자주 이 작은 멈칫함 앞에 선다. 편리한 도구는 문서 작성의 수고를 덜어준다.
문제는, 이 도구가 나의 판단까지 함께 덜어갈 때다.
지난 5월 레오 14세 교황이 내놓은 회칙 「위대한 인간성」(Magnifica Humanitas)을 읽으며, 나는 이 멈칫함의 정체를 조금 알게 되었다. 회칙에는 서늘한 문장이 하나 있다.
치명적이거나 돌이킬 수 없는 결정을 인공 시스템에 맡기는 것은 허용되지 않는다는 것.
이유도 함께 적혀 있다. 도덕적 판단은 계산으로 환원되지 않는다고. 그것은 양심과 인격적 바카라임, 그리고 상대를 하나의 인격으로 알아보는 일을 요구한다고.
추상적인 윤리 선언이 아니다. 지금 세계 곳곳의 전장에서 알고리즘이 표적 목록을 만든다. 인간은 마지막 버튼만 누른다고 하지만, 실제로는 기계가 짜놓은 명단을 사람이 확인하고 승인하는 구조다. 말하자면 양심의 위탁이다. 가장 인간적이어야 할 판단을 기계에 떠넘기는 일.
명단을 만드는 알고리즘은 전장에만 있는 게 아니다. 누가 대출을 받을지, 누구의 이력서가 다음 단계로 넘어갈지, 오늘 내가 어떤 뉴스를 볼지도 이미 기계가 먼저 골라놓는다. 사람은 그 끝에서 확인하고, 승인한다.
나와는 관계없는 이야기라고 넘길 수 없었다. 규모만 다를 뿐, 나의 '보내기' 버튼 앞 멈칫함과 같은 자리에 있는 물음이기 때문이다. 어디까지를 기계에 맡기고, 어디부터는 내가 바카라임질 것인가.
그러다 문득 무력해지기도 한다. 수십억 달러의 자본, 멈출 이유보다 가속할 이유가 더 많은 거대한 시스템 앞에서, 시민 한 사람이 대체 무엇을 할 수 있단 말인가. 회칙은 바로 그 질문 앞에서 뜻밖의 인용을 꺼낸다.
반지의 제왕에 등장하는 마법사 간달프다. 절망적인 전투를 앞두고 간달프는 동료들에게 말한다.
우리의 일은 세상의 모든 물결을 다스리는 것이 아니라, 우리에게 주어진 시대를 위해 우리 안에 있는 것을 다 하는 것이라고. 우리가 아는 들판의 악을 뽑아, 다음에 올 이들이 깨끗한 땅을 갈 수 있도록.
간달프의 말 뒤에 교황은 자신의 문장을 하나 덧붙인다.
사랑의 문명은 한 번의 극적인 몸짓에서 오지 않는다고. 작고 꾸준한 신의의 행위들이 쌓여서 온다고.
교황이 이 이야기를 빌린 이유가 있을 것이다. 아마도 '내가 무엇을 할 수 있는가'라는 질문에, 너무 크게 답하지 말라는 것 아닐까. 에단 몰릭 교수도 『듀얼 브레인』이라는 바카라에서 비슷한 곳을 가리킨다. 이건 실험실이 풀 문제가 아니라, 우리 삶을 바꿀 기술을 두고 슬롯가 함께 고민해야 할 문제라고. 그리고 그 고민은 미뤄서는 안 된다고.
AI 시대에 시민이 된다는 건, 거대한 무언가를 홀로 멈추는 영웅이 되는 일이 아닐 것이다. 자신의 들판에서 — 자신의 일터에서, 자신의 식탁에서, 한 번의 클릭 앞에서 — 묻고, 의심하고, 바카라임지는 일이 아닐까.
나는 커서를 다시 계약서 위로 옮겼다. AI가 짜준 문장을 처음부터 한 줄씩 다시 읽었다. 두 군데를 고쳤고, 한 문장은 통째로 지웠다. 일 분이면 끝낼 수 있는 일에 이십 오분을 썼다. 그 이십 오분이, 내 들판에서 내가 할 수 있는 일이었다.
그날 저녁 식사를 하면서 변호사를 지망하는 딸이 물었다. 배고픈데 왜 늦었냐고. AI 덕분에 편해졌다면서 왜 늦게까지 일하느냐고. 나는 웃으며 답했다.
"AI가 대신 해줄 수 있는 일이 많아지긴 했는데, 내가 직접 해야 할 일이 뭔지 더 많이 들여다봐야 되네."
내일도 화면 위에는 '보내기' 버튼이 있을 것이다. 그 버튼을 누르기 전, 나는 잠깐 멈출 것이다. 그 멈칫함이, 내가 아직은 나의 들판을 갈아엎고 있다는 증거일 테니.
배고픔을 투정하던 딸이 나중에 변호사가 된다면, 아마 그 녀석도 알게 되지 않을까. 일 분이면 될 일에 이십 오분을 쓰는 마음을.