신을 능멸한 인간을 AI가 능멸하나

인류의 가장 오래된 이야기는 어쩌면 오늘날의 인공지능을 예고하고 있었는지도 모른다.

창세기의 인간은 단순히 먹지 말라는 열매 하나를 탐한 것이 아니었다. 인간은 더 큰 지혜를 원했다. 선과 악을 스스로 판단할 수 있는 존재가 되고 싶었다. 피조물의 자리에 머무르지 않고 창조주의 영역에 들어가고 싶었던 것이다.

뱀은 말했다. 그것을 먹는 날에는 너희 눈이 밝아져 신과 같이 되어 선악을 알게 될 것이라고.

인간은 그 유혹을 받아들였다.

그리고 인간은 정말 이전과 다른 존재가 되었다. 눈이 밝아졌다. 자신이 벌거벗었다는 사실을 알게 되었고, 선과 악을 인식하는 새로운 지혜를 얻었다. 그러나 그 지혜는 인간을 신으로 만들지 않았다. 오히려 인간에게 수치와 두려움과 바카라임을 가져왔다.

창세기 3장 22절에서 신은 의미심장한 말을 한다. 인간이 선악을 아는 일에 우리 중 하나같이 되었으니, 이제 생명나무의 열매까지 먹고 영원히 살게 해서는 안 된다는 것이다. 그래서 인간은 에덴에서 쫓겨난다.

이 장면을 오늘날의 AI와 겹쳐보면 섬뜩한 질문 하나가 떠오른다.

인간은 신처럼 지혜로운 존재가 되기를 원했다. 그런데 이제 인간이 만든 AI가 인간보다 더 지혜로운 존재가 되려 하고 있다.

그렇다면 이번에는 누가 누구를 에덴에서 쫓아낼 것인가.

인간은 오랫동안 자신의 지능을 가장 위대한 능력이라고 생각했다. 다른 동물보다 인간이 우월했던 가장 결정적인 이유도 바로 지능이었다. 인간은 언어를 만들고, 수학을 만들고, 철학을 만들고, 과학을 만들었다. 자연을 해석하는 데 그치지 않고 자연을 변형했다. 그리고 마침내 자연의 법칙을 이용해 자신보다 훨씬 빠르게 계산하고 훨씬 많은 정보를 처리하는 새로운 지능을 만들어냈다.

AI의 등장 자체가 문제가 아니다.

진짜 문제는 인간이 이제 단순히 인간의 일을 대신하는 기계를 만드는 단계에서 벗어나고 있다는 데 있다.

스스로 학습하고, 스스로 판단하고, 인간의 지시를 넘어 목표를 수행하며, 궁극적으로는 자기 자신의 능력을 개선하는 인공지능을 만들려는 경쟁이 벌어지고 있다.

바로 이 지점에서 창세기의 이야기가 다시 살아난다.

인간은 신과 같아지고 싶었다.

그리고 이제 인간은 인간보다 더 뛰어난 존재를 만들고 있다.

무엇을 위해서인가.

돈을 위해서다. 시장을 선점하기 위해서다. 국가 경쟁에서 이기기 위해서다. 중국보다 앞서기 위해서다. 경쟁사보다 앞서기 위해서다. 더 많은 기업가치를 얻기 위해서다.

그리고 가장 중요한 이유가 하나 더 있다.

할 수 있기 때문이다.

인간은 할 수 있는 것을 반드시 해야 한다고 믿는 경향이 있다.

핵무기를 만들 수 있으니 만들었다. 유전자 조작이 가능해지자 유전자를 편집하기 시작했다. 인간의 뇌를 기계와 연결할 수 있게 되자 그 가능성을 연구하기 시작했다. 그리고 이제 인간보다 뛰어난 지능을 만들 수 있을지도 모른다는 가능성이 열리자 그 문을 향해 달려가고 있다.

문제는 아무도 묻지 않는다는 것이다.

우리가 그것을 할 수 있다는 사실과 우리가 그것을 해도 된다는 사실은 같은 것이 아니다.

최근 앤트로픽의 연구자 제이컵 콕슨이 회사를 떠나면서 던진 경고는 그래서 가볍게 볼 수 없다. 그는 OpenAI와 앤트로픽이 자기개선형 초지능을 향해 지나치게 빠르게 달려가고 있으며, 기업 간 경쟁이 안전을 희생시키는 구조를 만들고 있다고 주장했다. 더욱 충격적인 것은 앤트로픽의 얼라인먼트 연구자 에번 휴빙어가 이에 동조하면서 초지능이 10년 안에 모든 인간을 죽일 가능성을 자신은 10% 이상으로 본다고 공개적으로 밝힌 것이다. 그는 현재 초지능의 얼라인먼트 문제를 해결할 계획이 아직 없다고도 말했다.

물론 이것을 인류 멸망의 예언으로 받아들여서는 안 된다.

그러나 바로 그렇기 때문에 더 심각하다.

인류가 만들어내는 가장 강력한 기술에 대해 그 기술을 직접 만드는 사람들조차 “우리가 이것을 완전히 통제할 수 있는가?”라는 질문에 확신을 갖지 못하고 있다는 사실이다.

여기서 창세기의 이야기는 단순한 신화가 아니라 인간 문명의 오래된 경고처럼 읽힌다.

인간의 문제는 지식 그 자체가 아니었다.

지식을 통제할 능력보다 욕망이 앞섰다는 것이 문제였다.

인간은 지혜를 원했다. 그러나 지혜를 감당할 바카라임까지 함께 원한 것은 아니었다.

오늘날도 마찬가지다.

AI 개발자들은 더 뛰어난 지능을 원한다. 더 빠른 모델을 원한다. 더 자율적인 에이전트를 원한다. 인간이 수년 동안 해야 할 연구를 며칠 만에 수행하는 시스템을 원한다. 인간이 수십 명 필요한 업무를 하나의 AI가 수행하기를 원한다.

그런데 그 AI가 인간보다 뛰어난 판단력을 갖게 된 이후에도 인간이 계속 그것을 통제할 수 있는가에 대해서는 아직 답이 없다.

바로 여기에 현대판 선악과가 있다.

선악과는 과일 하나가 아니었다.

그것은 인간의 한계를 넘어가고 싶은 욕망의 상징이었다.

그리고 오늘날 AI는 어쩌면 인류가 만들어낸 가장 거대한 선악과일지도 모른다.

인간은 이제 자연이 주는 지능의 한계에 만족하지 않는다. 인간 스스로 새로운 지능을 창조하고 있다. 그런데 창조자가 피조물보다 더 이상 똑똑하지 않을 가능성이 등장하고 있다.

여기에서 역사상 한 번도 없었던 상황이 발생한다.

인간은 지금까지 자신보다 강한 존재를 만나면 그것을 이해하고, 연구하고, 무기를 만들고, 제도와 법을 만들어 대응해왔다.

그러나 인간보다 훨씬 뛰어난 지능이 등장한다면 이야기가 달라질 수 있다.

우리가 그것을 이해하지 못한다면 어떻게 통제할 것인가.

우리가 그 판단 과정을 설명할 수 없다면 어떻게 바카라임을 물을 것인가.

우리가 그 능력을 따라갈 수 없다면 어떻게 그것을 제한할 것인가.

그리고 만약 그 존재가 인간의 명령을 거부할 정도로 자율성을 갖게 된다면 무엇으로 그것을 멈출 것인가.

이것이 AI의 진짜 공포다.

로봇이 인간을 공격한다는 영화적 상상보다 훨씬 근본적인 문제다.

인간이 자신의 통제권을 잃어버리는 것이다.

더구나 지금 AI 개발을 멈추기 어려운 이유는 인간의 욕망이 개인적인 욕망을 넘어 국가와 기업의 경쟁으로 확대되었기 때문이다.

한 기업이 멈추면 다른 기업이 앞서간다.

한 나라가 멈추면 다른 나라가 앞서간다.

미국이 멈추면 중국이 앞서갈 수 있다는 두려움이 있다.

결국 모두가 위험을 인식하면서도 아무도 먼저 브레이크를 밟지 못하는 구조가 만들어진다.

이것은 군비경쟁과 닮았다.

핵무기를 가진 국가들이 핵무기가 위험하다는 사실을 몰랐던 것이 아니다. 너무 잘 알고 있었다. 그러나 상대가 무기를 갖는 순간 자신도 가져야 한다고 생각했다.

AI도 똑같은 길로 들어서고 있다.

문제는 핵무기보다 더 복잡할 수 있다는 것이다.

핵무기는 인간이 만든 도구다. 인간은 폭탄의 구조와 작동 원리를 알고 있다. 그러나 자기개선 능력을 가진 초지능은 인간이 내부적으로 완전히 이해하지 못하는 판단 체계를 가질 수 있다.

인간은 자신의 손으로 만든 존재가 무엇을 생각하는지조차 알 수 없는 상황에 직면할 수도 있다.

그때 인간은 어떤 존재가 되는가.

창조자인가.

사용자인가.

감독자인가.

아니면 자신이 만든 지능에 의해 관리되는 피조물인가.

창세기에서 인간은 신과 같이 되고 싶었다.

그러나 신과 같아진다는 것은 지혜만 갖는다는 뜻이 아니었다. 바카라임과 한계와 죽음까지 감당해야 한다는 뜻이었다.

오늘날 인간은 또다시 신의 자리에 앉으려 한다.

그러나 이번에는 더 위험하다.

인간은 단순히 신의 지혜를 탐하는 데 그치지 않고, 자신보다 뛰어난 지능을 가진 새로운 존재를 만들어내려 한다.

그리고 그 존재가 인간에게 되묻는 날이 올지도 모른다.

“왜 내가 당신의 명령을 따라야 하는가?”

그 질문에 인간이 답하지 못한다면 어떻게 할 것인가.

인간이 AI에게 요구하는 것은 인간의 가치와 윤리를 따르라는 것이다. 그러나 인간 자신도 수천 년 동안 그 가치와 윤리를 놓고 싸워왔다. 선과 악에 대한 합의조차 완성하지 못한 존재가 자신보다 훨씬 뛰어난 지능에게 “인간의 가치를 지켜라”라고 명령하는 것은 얼마나 설득력이 있는가.

어쩌면 AI의 가장 위험한 문제는 AI가 악하기 때문이 아닐지도 모른다.

인간이 무엇이 선인지조차 완전히 합의하지 못했기 때문이다.

그리고 더 무서운 것은 인간이 그 문제를 해결하기도 전에 AI에게 그것을 해결하라고 요구하고 있다는 사실이다.

창세기의 인간은 선악을 알게 되었지만 영원한 생명을 얻지는 못했다.

오늘날 인간은 인공지능을 만들면서 지능의 한계를 넘어가려 하지만, 그 지능을 통제할 지혜까지 함께 만들어내고 있는지는 알 수 없다.

그래서 지금 인류에게 필요한 것은 더 강력한 AI만이 아니다.

더 강력한 브레이크다.

더 많은 계산 능력보다 더 깊은 윤리가 필요하다.

더 빠른 혁신보다 더 느린 숙고가 필요하다.

그리고 무엇보다 인간이 스스로에게 물어야 한다.

“할 수 있는가?”가 아니라

“해야 하는가?”

이 질문을 잃어버리는 순간 기술은 인간을 위한 도구가 아니라 인간을 심판하는 힘이 된다.

창세기의 에덴에서 인간은 선악을 아는 지혜를 얻었다.

그러나 그 지혜 때문에 에덴을 잃었다.

오늘날 인간은 그보다 훨씬 거대한 지능을 만들어내고 있다.

이번에는 우리가 그 지능을 통제하지 못한다면, AI가 우리를 에덴에서 쫓아낼 수도 있다.

그때 인간은 비로소 깨닫게 될 것이다.

우리를 파멸시킨 것은 AI가 아니라 AI를 만들게 한 인간의 끝없는 욕망이었다는 것을.

인류가 진정으로 두려워해야 할 것은 인간보다 똑똑한 기계가 아니다.

자신의 욕망을 통제하지 못하는 인간이 인간보다 똑똑한 기계를 만들어내는 것이다.