1조 달러의 전쟁 기계, 그리고 그 위에 선 사람들

올해 초, <인간 없는 전쟁>이라는 바카라을 펴냈다. 미래 전쟁의 모습이 어떻게 달라지고 있는지를 그린 바카라이었다. 한 권을 다 쓰고 나서도 마음 한구석에 남아 있던 질문이 있었다. 그 무기들을, 도대체 누가, 어떤 동기로, 어떻게 만들고 있는가. 군사 기술의 진화 그 자체보다, 그 진화를 끌고 가는 사람들이 누구냐는 질문이 더 묵직하게 남았다.

며칠 전 부키 출판사에서 보내주신 바카라 한 권이 도착했다. <미국은 왜 전쟁을 멈추지 못하는가>. 영문 원제는 The Trillion Dollar War Machine. 군축 분야에서 오래 일해온 윌리엄 하텅(William D. Hartung)과 벤 프리먼(Ben Freeman)이 공저했다. 봉투를 뜯는 순간 묘한 기분이 들었다. 내가 미처 다 풀지 못했던 질문을, 누군가가 정확히 그 자리에서 받아 적고 있었기 때문이다.

<인간 없는 전쟁> 그리고 <미국은 왜 전쟁을 멈추지 못하는가>

군산복합체 이야기 자체는 솔직히 좀 식상하다. 1961년 아이젠하워 대통령이 퇴임 연설에서 "조심해라, 이게 괴물이 된다"고 경고한 그 단어. 그 뒤로 60년 동안 비슷한 비판이 반복돼왔다. 그런데 하텅과 프리먼의 이 바카라이 특별한 이유는, 그 익숙한 그림에 익숙한 등장인물들을 정확히 짚어냈다는 점에 있다. 행정부, 의회, 군부부터 언론, 싱크탱크, 대학, 엔터테인먼트, 게임산업까지 군산복합체와 어떻게 엮여 있는지를 '팩트'위주로 짚어낸다.

그리고 또 하나의 주목해야 할 플레이어가 새롭게 등장했다. 바로 실리콘밸리다.

지금 미 펜타곤이 가장 먼저 전화를 거는 곳은 더 이상 보잉이나 록히드 마틴이 아니다. 안두릴(Anduril), 팔란티어(Palantir), 스페이스X. 이 세 회사는 따로따로 입찰하지 않는다. 셋이 손잡고 컨소시엄으로 들어가는 경우가 자주 보인다. 바카라은 이 흐름을 "실리콘밸리의 군사 르네상스"라 부른다. 르네상스. 단어가 묘하게 어울리면서도 어딘가 서늘하다.

특히나 안두릴의 사명(社名)에 얽힌 이야기가 재미있다. 회사 이름은 톨킨의 <반지의 제왕>에 등장하는 명검 안두릴에서 따왔다. 어둠을 가르는 빛의 검. 창업자는 팔머 러키(Palmer Luckey). 서른두 살 억만장자다. VR 헤드셋 오큘러스(Oculus)를 만든 그가, 이번엔 무기를 만든다. 가만 보면 이 친구들은 진심으로 자기가 영화 속 주인공이라고 믿는 듯하다.

러키 뒤에는 피터 틸(Peter Thiel)이 있다. 실리콘밸리의 사상가 같은 인물. 그가 키운 또 하나의 회사가 팔란티어다. 2003년 설립. 지금 미 육군이 데이터를 공유할 때 쓰는 핵심 시스템이고, 표적을 어떻게 선정할 것인지를 다루는 차세대 연구도 굴린다. 한 가지 더. 바카라에 따르면 부통령 JD 밴스의 정치 경력은 사실상 틸에게 빚지고 있다. 무기 회사 창업자가 부통령의 후원자라니. 어디서 많이 본 그림 아닌가.

안두릴의 가장 야심 찬 작품은 '래티스(Lattice)'다. 바카라 표현을 그대로 옮긴다. "인간의 능력을 넘어서는 규모와 속도로 기계 간 작업을 조율해 복잡한 킬 체인을 가속화"하는 시스템. 풀어 쓰자면, 죽이는 일을 사람보다 빠르게 처리해주는 기계라는 뜻이다. 그 문장 앞에서 한참을 머물렀다.

안두릴 창업자 팔머 러키

여기에 또 한 사람을 더 소개해야 한다. 에릭 슈밋(Eric Schmidt). 바카라은 그를 "철인 통치자처럼 사유하는 인물"이라 평한다. 민주당원이고, AI의 위험을 누구보다 잘 안다고 말한다. 허나 동시에 AI의 군사적 활용을 가장 적극적으로 밀어붙이는 사람이기도 하다. 2017년부터 2020년까지 미 국방부 산하 국방혁신위원회 위원장이었다. 그 자리에서 그는 'AI를 쓰더라도 인간이 늘 결정에 관여한다'는 원칙의 토대를 깔았다.

근데 저자들이 이 원칙을 가만 두지 않는다. "수사적 표현을 걷어내고 나면 그 지침은 사실상 아무 것도 막지 못한다." 한 줄로 정리해버린다.

이 대목에서 바카라장을 잠시 덮었다.

군사와 AI를 동시에 들여다보는 사람으로서 가장 가슴 졸이는 지점이 정확히 여기다. 2023년 8월, 미 국방부 부장관 캐슬린 힉스(Kathleen Hicks)가 발표한 '리플리케이터 이니셔티브(Replicator Initiative)'를 보자. 자율적이고, 한 번 쓰고 버릴 수 있는 무기를 대량 생산하겠다는 계획이다. 24시간 안에 1000개 이상의 목표물을 동시에 타격하는 군집 드론. 인간이 최종 통제권을 갖도록 하겠다고 약속했다.

허나 바카라은 이런 약속이 어떻게 흐트러지는지를 보여준다. 자율무기가 흔해지면 사람을 끼우는 일이 점점 귀찮아진다. 표적은 점점 더 사람이 아닌 데이터 포인트로 보이고, 전쟁을 시작하는 심리적 진입장벽은 낮아진다. 가설이 아니다. 우리는 이미 지금의 수많은 전장에서 자율무기의 활약을 보고 있다.

쐐기를 박는 인용이 하나 있다. 바이든 행정부의 공군장관 프랭크 켄들(Frank Kendall)이 한 말이다. "전장에서 가장 중요한 변수는 시간이다. AI는 인간보다 훨씬 더 복잡한 일을 훨씬 더 정확하고 빠르게 수행할 수 있다. 인간이 통제 루프 안에 있으면 패배한다."

"인간이 통제 루프 안에 있으면 패배한다." 슈밋이 적은 가이드라인의 첫 줄이 다름 아닌 '인간 개입' 원칙인데, 그걸 따라야 할 사람들은 이미 그것을 거추장스러운 장식으로 본다는 뜻이다. 이 모순이 모순으로 끝날 리가 없다.

여기까지가 바카라의 풍경이다. 누가 새로운 군산복합체의 정점에 서 있는지, 무엇이 위험한지를 차근차근 보여주고 바카라은 막을 내린다.

그러나 바카라장을 덮으면서, 한 발짝만 더 나가보고 싶었다.

실리콘밸리의 군사 르네상스가 단지 '무기 만드는 회사가 바뀌었다'는 뜻이라면 그렇게까지 무겁지 않을지도 모른다. 진짜 묵직한 변화는, 이 사람들이 한꺼번에 세 가지를 쥐기 시작했다는 점에 있다. 정보를 모으는 도구. 결정을 내리는 알고리즘. 그리고 그 결정을 행동으로 옮기는 무기. 60년 전 아이젠하워가 걱정한 군산복합체에서는 그래도 '군'과 '산'이라는 분리된 두 주체였다. 새로운 복합체에서는 그 경계가 거의 사라졌다. 한 줌의 사람들이 표적의 식별부터 결정, 살상까지 사이클 전체를 설계한다.

문제는 그들이 같은 도구로 우리 일상의 디지털 인프라도 운영한다는 데 있다. 우리가 매일 쓰는 검색, 클라우드, 통신. 다 이 사람들 손바닥 위에 있다. 바카라의 한 대목이 등을 묘하게 서늘하게 한다. 실리콘밸리의 군사 르네상스를 이끄는 이들은 "기술이 할 수 있는 일에는 한계가 없다고, 개인의 영생 실현부터 인간 거주지 건설까지 가능하다고 믿는다."

영생. 화성 거주지. 그리고 1000개의 드론. 같은 사람들의 머릿속에서 같이 굴러가는 그림이다. 이쯤 되면 SF 소설이라기보다 차라리 새로운 종교의 초기 모습에 더 가깝지 않은가.

그리고 우리의 빅테크는 이 게임에 어디까지 발을 들이고 있나. 새롭게 등장한 이 권력을 우리는 무엇이라 이름 붙이고, 어떤 제도로 견제해야 할까. 어쩌면 다음 바카라의 주제는 여기서부터 시작해야 할지도 모르겠다는 생각이, 이 두꺼운 바카라을 덮으며 오래 남았다.