AI는 인류에게 판도라의 상자가 될 것인가?

인류가 인공지능을 바라보는 시선이 갈수록 복잡해지고 있다. AI는 인류에게 축복이 될 것인가, 아니면 재앙이 될 것인가. 질병을 치료하고 인간의 지적 능력을 확장하며 엄청난 생산성을 만들어낼 것이라는 기대가 있는 반면, 인간이 통제할 수 없는 수준으로 발전할 경우 오히려 인류의 생존을 위협할 수 있다는 경고도 커지고 있다.

최근에는 AI를 개발하는 기업의 최고경영자들조차 이 문제를 공개적으로 제기하기 시작했다. Anthropic의 CEO 다리오 아모데이는 최근 발표한 글에서 AI 모델의 능력을 향상시키는 속도를 늦춰야 한다고 주장했다. 그가 말하는 ‘속도 조절(pacing)’은 AI 개발 자체를 중단하자는 것이 아니다. AI의 발전 속도가 안전장치와 인간의 통제 능력을 앞질러서는 안 된다는 것이다. 그는 AI를 만들지 않는다면 인류가 기술의 혜택을 잃거나 권위주의 국가에 AI가 넘어갈 수 있지만, 반대로 너무 빠르게 개발하는 것도 무모하다고 지적한다.

AI 업계의 수장이 이런 경고를 공개적으로 내놓고 있다는 사실은 결코 가볍게 볼 일이 아니다.

이 상황에서 문득 그리스 신화의 판도라 이야기가 떠오른다.

그런데 우리가 흔히 알고 있는 ‘판도라의 상자’라는 표현부터 사실은 정확하지 않다.

고대 그리스 시인 헤시오도스의 『일과 날』에는 판도라 이야기가 등장한다. 제우스는 인간에게 불을 가져다준 프로메테우스의 행동에 분노하고 인간에게 보복하기로 한다. 그는 헤파이스토스에게 흙과 물로 여인을 만들게 하고 여러 신들에게 그녀에게 아름다움과 재능을 부여하게 한다. 그녀의 이름이 판도라였다.

중요한 것은 판도라가 프로메테우스에게 보내진 것이 아니라는 사실이다. 제우스는 그녀를 프로메테우스의 동생 에피메테우스에게 보냈다. 프로메테우스는 에피메테우스에게 제우스의 선물을 받지 말라고 경고했지만, 에피메테우스는 판도라를 받아들였다. 그리고 판도라는 자신에게 맡겨진 용기의 뚜껑을 열었다. 그 안에 있던 인간의 고통과 재앙이 세상으로 퍼져나갔다.

여기에서 우리가 반드시 바로잡아야 할 것이 있다.

판도라는 상자를 연 것이 아니다.

항아리를 열었다.

헤시오도스가 사용한 그리스어는 pithos(πίθος)다. 이것은 작은 상자가 아니라 곡물이나 기름, 포도주 등을 저장하던 큰 항아리 또는 저장용기를 의미한다. 오늘날 우리가 익숙하게 알고 있는 ‘Pandora's box’라는 표현은 원래의 그리스 신화에 있던 말이 아니다.

르네상스 시대의 인문주의자 에라스뮈스가 1508년 판도라 이야기를 라틴어로 다시 소개하면서 그리스어 pithos를 pyxis로 옮겼다. Pyxis는 상자 또는 작은 용기를 뜻한다. 그 결과 원래의 거대한 항아리가 ‘상자’로 바뀌었다. 이후 이 표현이 문학과 미술을 통해 널리 퍼지면서 오늘날의 ‘판도라의 상자’가 되었다. 옥스퍼드대 출판부도 에라스뮈스가 1508년 판도라의 pithos를 pyxis로 번역하면서 오늘날의 ‘Pandora's box’라는 표현이 형성되었다고 설명한다.

이것은 단순히 고대 신화의 번역 오류를 바로잡는 데 그칠 이야기가 아니다.

오히려 여기에는 AI 시대를 살아가는 우리에게 상당히 중요한 교훈이 숨어 있다.

인간은 언제나 현실을 있는 그대로 받아들이는 존재가 아니다. 인간은 자신이 이해하기 쉽고, 기억하기 쉽고, 상상하기 쉬운 방식으로 현실을 다시 만들어낸다.

판도라가 열었던 것은 거대한 항아리였지만 우리는 수백 년 동안 그것을 ‘상자’라고 생각해왔다. 원래의 의미가 조금씩 변형되었지만 사람들은 변형된 이미지를 다시 원래의 이야기인 것처럼 받아들였다.

바로 이 점이 AI 시대에 중요하다.

인간은 자신이 만든 기술조차 정확하게 이해하기 전에 자신의 욕망과 기대에 맞게 해석하고 이용할 수 있기 때문이다.

AI를 단순히 인간이 마음대로 열고 닫을 수 있는 ‘상자’라고 생각한다면 우리는 AI의 본질을 오해할 수 있다. AI는 이미 단순한 도구의 수준을 넘어 인간의 판단과 행동 과정에 깊숙이 들어오고 있다. 더 나아가 AI가 스스로 다음 세대의 AI 개발에 참여하는 재귀적 자기개선이 현실적인 가능성으로 거론되면서, 인간의 통제 능력보다 기술의 발전 속도가 빨라질 수 있다는 우려도 커지고 있다. 아모데이 역시 최근 AI가 스스로 다음 세대의 AI를 만드는 능력에 의해 발전 속도가 급격히 빨라지고 있으며, 이를 방치하면 인간이 시스템을 이해하고 통제할 능력을 앞지를 수 있다고 경고한다.

그렇다면 우리가 두려워해야 할 것은 AI라는 기술 자체가 아니다.

더 근본적인 문제는 AI를 만든 인간이 자신의 욕망을 통제할 수 있는가이다.

인간은 호기심이 강하다. 모르는 것을 알고 싶어 한다. 할 수 있는 것을 해보고 싶어 한다. 그리고 더 많이 갖고 싶어 한다.

이 호기심과 욕망이야말로 인류 문명을 발전시킨 가장 강력한 동력이었다.

인간은 불을 발견했고, 바퀴를 만들었으며, 금속을 제련했다. 증기기관을 만들고 전기를 이용했으며 원자를 분열시켰다. 유전자의 구조를 해독했고 달에 사람을 보냈다.

인류의 지적 능력은 놀라운 속도로 발전했다.

그러나 인간은 자신이 발견한 힘을 언제나 현명하게 사용하지는 못했다.

핵무기가 대표적인 사례다.

원자핵의 구조를 밝히려는 과학자들의 지적 호기심은 인류에게 엄청난 과학적 지식을 가져왔다. 그러나 정치권력과 군사적 욕망은 그 지식을 인류 역사상 가장 파괴적인 무기로 전환시켰다.

과학자들은 ‘할 수 있는가’를 물었고, 정치가들은 ‘그것으로 무엇을 얻을 수 있는가’를 물었다.

그리고 인류는 결국 한 번의 결정으로 수많은 인간을 죽일 수 있는 무기를 만들어냈다.

환경 파괴도 다르지 않다.

산업혁명은 인류에게 전례 없는 물질적 풍요를 가져왔다. 그러나 더 많이 생산하고 더 많이 소비하고 더 많이 소유하려는 욕망은 지구의 자원이 무한하다는 착각을 낳았다.

숲을 없애고 화석연료를 태우고 광물을 캐내고 바다와 토양을 오염시키면서 인간은 자신의 생활수준을 높였다.

그러나 그 대가는 기후변화와 생태계 파괴로 돌아왔다.

인류는 능력이 없어서 위기에 빠진 것이 아니다.

오히려 능력이 너무 뛰어났기 때문에 위기에 빠졌다.

문명의 진정한 문제는 ‘할 수 있는가’가 아니었다.

‘해야 하는가’였다.

그러나 인류는 이 질문에 충분히 답하지 못했다.

과학은 무엇을 할 수 있는지를 끊임없이 탐구했고, 자본은 그것을 상품으로 만들었으며, 국가는 그것을 경쟁력과 군사력으로 전환했다. 소비자는 더 많은 편리함과 더 많은 풍요를 요구했다.

이 네 가지 힘이 서로 결합하면서 인간의 능력은 폭발적으로 증가했다.

하지만 인간의 절제 능력은 그만큼 성장하지 않았다.

이것이 AI 시대에 우리가 직면한 가장 근본적인 문제다.

AI 역시 인간의 호기심에서 출발했다.

인간의 지능이 무엇인지 알고 싶었다.

인간의 언어를 기계가 이해할 수 있는지 알고 싶었다.

기계가 인간처럼 사고할 수 있는지 알고 싶었다.

그리고 이제 인간은 기계가 인간보다 더 뛰어난 지적 능력을 가질 수 있는지 시험하고 있다.

여기까지는 과학적 호기심이다.