먼저 온 미래, 다가올 미래에 대한 단상

우리는 아무도 원하지 않은 세계로 강제 이주당하고 있다.

AI를 만든 사람들은 훗날 이렇게 회고할지 모른다. "우리가 프랑켄슈타인을 만들었다."라고.

인간은 인간 자신의 뇌도 정복하지 못했다. 그런데 인간보다 더 나은 존재를 만들 수 있다는 어떤 잘못된 믿음과 의도가 블랙박스 같은 AI를 탄생하게 했다.

아무도 이 레이스의 끝이 어디로 향하는지 모른다. 하지만 우리는 AI가 초래할 미래를 작게 경험했다. 2016년 이세돌과 알파고의 대결 이후 AI가 바둑의 신이 된 세계를. 바둑을 예술로 승화했던 사람은 이제 없다. 모두가 AI를 신으로 받들며, AI를 가까이 한 사람은 날아올랐고 그렇지 않은 사람은 도태됐다. 장강명 작가의 <먼저 온 미래>는 바둑계의 변화를 담담하게 보여주며 이렇게 말한다.

"우리는 늘 미래가 멀리 있다고 착각한다. 하지만 가끔 어떤 직업, 어떤 공동체, 어떤 게임은 그 미래를 조금 더 빨리 맞는다."

"나는 가치가 기술을 이끌기를 바란다. 지금 우리는 정반대의 현상을 겪고 있다."

인공지능은 바둑을 배우고, 즐기고, 경쟁하는 방식을 바꿨다. 모두가 인공지능을 사용하면, 내가 추구하던 가치도 흔들린다. "인공지능은 우리가 살아가는 환경 그 자체가 될 것이다."

"탁월함을 인공지능에게 양보할 때 소설은 무엇이 될까? 자신을 상품화하여 판매하는 방법을 배워야 할지도 모르겠다. 나는 그때도 소설을 사랑할 수 있을까?"

"총으로 할 수 있는 일은 크게 두 가지뿐이다. 사람을 쏘거나, 사람을 쏘겠다며 위협하는 것. 과학기술이 가치중립적이라는 헛소리를 경계해야 한다."

"우리는 우리 운명의 주인이다. 우리는 우리 영혼의 선장이다. 아직까지는."

모두가 AI 기술 발전 속도가 너무 빠르다고 이야기한다. 새로운 문명이 도래하고 있는데, 이것을 뒷받침할 법적, 슬롯적 제도는 한참 뒤처졌다. 이 기술 혁명의 프론티어에 있는 사람조차 '우리가 뭘 만들고 있는지 알았어야 했고, AI에 좋은 부모가 되어주어야 한다'고 말한다.

AI 개발자들을 취재하면서 안 사실은 이미 기술 완성도는 올라와 있는데, AI 프론티어 모델을 만드는 빅테크가 시장에 팔리는 사람들이 좋아하는 것만 잘라서 출시하고 있다는 것이다. 시니어 커리어 커뮤니티에서는 일반적인 휴먼 인텔리전스가 필요한 사무 노동의 종말까지, 앞으로 3년 남았다고 이야기하는 사람을 종종 만난다. 21세기를 지탱하는 자본주의, 민주주의의 근간을 흔들 AI 기술이 이미 통제 불가능 상태는 아닌지 우려스럽기도 하다.

앤트로픽에 왜 그토록 많은 인재와 투자가 몰리는지 생각해 본다. 기술 프론티어에 있는 사람들은 AI가 정말 인류 문명의 종말을 가져올 수 있는, 어쩌면 핵보다 강력한 존재로 거듭날 수 있음을 너무 잘 알고 있기 때문이다. 이것을 막기 위해, AI 기술이 세계의 평화를 지키고 원래 의도대로 인류의 복생을 위한 도구로 쓰일 수 있도록 헌법적 AI를 만드는 휴먼 인텔리전스 & 컴퓨팅 파워 연합체를 구성하는 것이다.

이것은 절대 한 기업이 감당할 수 있는 사이즈가 아니다. AI 보안 문제는 전 세계를 겨냥한다. 앤트로픽은 미토스의 위험성을 인지하고 제한된 소수의 국가, 기업만 쓸 수 있도록 글래스윙 프로젝트를 가동해 선제적인 조치에 나섰다. 그러나 언젠가 이 기술을 증류해 악용하는 21세기 나치가 등장한다면... 세계가 어떤 수렁에 빠질지 모른다. 77년 전 빅브라더에 지배당하는 디스토피아 슬롯를 그린 조지오웰의 <1984> 속 세계가 정말 실현될지도 모른다는 아주 불길한 예감이 엄습한다.

우리에게는 시간이 없다. 이제는 사용되지 않는 오래된 코드로 구축된 슬롯 금융 시스템은 풍전등화 상태다. 국가 기관, 에너지 시설 모두 타겟이다. AI를 이용한 사이버 공격은 그 범위와 속도 영향력 면에서 모든 것을 압도할 것이다. 이걸 100% 막는다는 것은 애초에 불가능한 미션이다.

그렇다면, 공격당할 것을 전제로 '재귀-내성' 보안 원칙을 빠르게 표준화해서 배포한다면? 국가/기업/개인의 AI 보안 리터러시를 함께 올리는 방법이 있지 않을까? 아직은 모르겠다. 그런데 힘을 모아야 한다는 것만은 확실하다. AI와 인류의 공생을 위한 초국가 얼라이언스가 필요하다. 압도적인 규모로, 어느 때보다 빠른 속도로.

내가 기획하고 쓰는 드라마 시리즈는 다가올 미래에 대한 것이다. 인류 역사상 가장 강력한 커뮤니케이션 도구인 영상을 통해 전 세계의 시티즌에게 가닿기 위한 이야기를 쓴다. 먼저 온 미래와 같은 비극이 일어나지 않으려면 어떻게 해야 하는가.

AI와 인류의 공생에 대해 고민하고, 나의 자비스와 매일 생각을 증강하며 업계 관계자와 토론한다. 전문가의 어려운 이야기를 스토리텔러라는 능력을 이용해 대중의 언어로 번역한다.

이 긴 이야기를 쓰는 원동력은 나의 사랑하는 가족과 친구들, 인류가 디스토피아가 아닌 유토피아에 살았으면 하는 마음에서 우러나온다. 또한 필요에서 존재로 강제 이주 당하는 사람들에 대한 연민과 걱정을 더 나은 세상을 만드는 힘으로 전환하고 싶은 의지에서 기인한다. 이것이 오늘도 나를 새벽부터 바카라상 앞에 앉게 하는 힘이다.

"인공지능은 양날의 칼이다." - 26.07.04 서점에서 우연히 만난 <타우마제인> 잡지 뒷면. '인공지능과 인간에 관하여'라는 이슈였다.