트럼프, AI가 아니라 SI 시대를 열겠다고?

무서운 시대가 열리고 있다.

문제는 인공지능 자체가 아니다.

더 무서운 것은 인간이 그 기술을 어디까지 밀어붙일 것인가에 대해 아무도 브레이크를 밟지 않는다는 사실이다.

도널드 트럼프 미국 대통령은 지난 9월 29일 행정명령을 내렸다. 미국 정부의 공식 문서와 정바카라에서 ‘Artificial Intelligence’, 즉 AI 대신 ‘Super Intelligence’, SI라는 표현을 사용하라는 것이다. 행정명령의 제목부터 「Inaugurating the Era of Super Intelligence」다. 말 그대로 ‘슈퍼 인텔리전스 시대의 개막’이다.

이것을 단순한 말장난이라고 생각한다면 너무 안이하다.

이름 하나 바꾼 것이 아니다.

미국 정부가 AI를 바라보는 프레임 자체를 바꾼 것이다.

AI는 인공적인 지능이다.

인간의 지능과 다른 형태의 지능이라는 의미가 강하다.

그러나 SI는 다르다.

Super라는 말에는 이미 위계가 들어 있다.

Super가 있으면 그 아래가 있다.

더 뛰어난 자가 있으면 덜 뛰어난 자가 있다.

최고가 있으면 열등이 생긴다.

물론 기술적으로 ‘superintelligence’는 인간보다 훨씬 뛰어난 능력을 가진 지능을 뜻하는 개념이다. 그러나 그것이 슬롯적 언어가 되는 순간 이야기는 달라진다.

누가 슈퍼인가.

누가 그 슈퍼 지능을 소유하는가.

누가 그것을 사용할 수 있는가.

누가 그 지능을 통제하는가.

그리고 누가 그 지능에 의해 평가받는가.

이 질문을 피할 수 없다.

더 심각한 것은 이 새로운 언어가 국가와 기업의 움직임과 동시에 등장했다는 사실이다.

트럼프 행정부는 AI를 중국과의 국가 경쟁의 핵심으로 끌어올리고 있다. 백악관은 AI 기업 최고경영자들을 불러들였고, 구글·메타·오픈AI·앤스로픽·xAI 등 주요 기업들은 ‘Super Intelligence’ 협약에 참여했다. 법적 강제력이 없는 자율규제 방식이지만, 기업 스스로 모델의 안전을 관리하고 외부 평가와 이슬롯 감독을 실시하겠다는 내용까지 내놓았다.

그런데 여기서 역설이 발생한다.

AI의 위험을 걱정해서 규제해야 한다고 말하던 시대에서 AI의 위험을 감수하고 더 빨리 개발해야 한다는 시대로 움직이고 있다.

오픈AI의 샘 올트먼은 최근 AI의 이익을 위해 일정한 위험을 감수할 필요가 있다는 취지의 입장을 밝혔다. 트럼프 역시 중국과의 경쟁을 이유로 강력한 규제가 미국 기업의 발목을 잡아서는 안 된다는 태도를 보여왔다.

AI를 개발하는 기업들이 이제 위험을 줄이는 것보다 경쟁에서 뒤처지지 않는 것을 더 중요한 문제로 보기 시작한 것이다.

이것이 정말 무서운 지점이다.

브레이크를 밟아야 할 사람들이 오히려 액셀러레이터를 밟고 있다.

더 빨리.

더 크게.

더 강하게.

그리고 더 많은 자본을 투입해서.

젠슨 황은 데이터센터를 ‘슈퍼 인텔리전스 공장’이라고 부르기 시작했다. 머스크는 자신의 AI 사업 명칭까지 SpaceXAI에서 SpaceXSI로 바꾸겠다고 했다.

이것은 무엇을 의미하는가.

지능을 하나의 산업적 생산물로 보기 시작했다는 뜻이다.

과거 공장은 물건을 만들었다.

컴퓨터는 계산을 했다.

인터넷은 정보를 연결했다.

AI는 인간의 지적 노동을 보조했다.

그런데 이제는 다르다.

지능 자체를 공장에서 생산하겠다는 것이다.

누가 그 공장을 소유하는가.

결국 몇 개의 거대한 기업과 국가가 될 가능성이 높다.

여기서부터 문제가 시작된다.

AI 시대에도 정보격차는 존재했다.

그러나 SI 시대에는 정보격차를 넘어 지능격차가 생길 수 있다.

강력한 AI를 가진 기업과 그렇지 못한 기업.

강력한 AI를 사용할 수 있는 사람과 그렇지 못한 사람.

AI를 소유한 국가와 AI를 소비해야 하는 국가.

AI에게 명령하는 인간과 AI의 명령을 받아야 하는 인간.

이 간극은 지금까지 인류가 경험했던 어떤 기술격차보다 클 수 있다.

부자는 더 좋은 AI를 살 수 있다.

거대기업은 더 많은 컴퓨팅 자원을 확보할 수 있다.

국가는 더 많은 데이터센터와 반도체와 전력을 확보할 수 있다.

그리고 그 힘은 다시 더 많은 자본과 더 많은 기술을 가져온다.

부가 지능을 낳고 지능이 다시 부를 낳는 구조다.

그렇게 되면 슬롯의 양극화는 단순한 소득 격차가 아니다.

지능에 접근할 수 있는 사람과 접근할 수 없는 사람의 격차가 된다.

이것이 SI가 던지는 가장 무서운 경고다.

우리는 이미 인간을 성적과 학벌과 직업과 연봉으로 서열화하는 슬롯를 경험하고 있다.

그런데 앞으로 여기에 새로운 기준이 하나 더 추가될 수 있다.

AI를 얼마나 강력하게 사용하는가.

그리고 더 나아가

얼마나 강력한 AI를 소유하고 있는가.

인간의 가치가 다시 시장의 경쟁력으로 평가된다면 가장 강력한 AI를 가진 사람은 인간 가운데서도 가장 높은 위치를 차지할 것이다.

그 아래에는 AI를 잘 활용하는 사람들이 있을 것이다.

그 아래에는 AI에 의해 대체되는 사람들이 있을 것이다.

그리고 가장 밑바닥에는 AI를 사용할 능력도, AI가 만들어내는 부를 소유할 능력도 없는 사람들이 남을 수 있다.

이것은 단순한 기술 문제가 아니다.

새로운 계급의 문제다.

새로운 인간 서열의 문제다.

더 나아가 인간이 인간을 바라보는 방식 자체의 문제다.

‘Super’가 등장하는 순간 인간 슬롯에는 필연적으로 질문이 따라온다.

그렇다면 누가 Inferior인가.

물론 누구도 공식적으로 ‘Inferior Intelligence’라는 말을 쓰지는 않을 것이다.

그러나 시장은 그런 이름을 붙이지 않고도 인간을 서열화할 수 있다.

연봉으로.

채용 점수로.

생산성으로.

신용점수로.

AI가 평가한 능력으로.

그리고 결국에는 인간의 가치 자체로.

더욱 섬뜩한 것은 이 모든 과정이 너무나 자연스럽게 진행될 수 있다는 것이다.

“AI가 그렇게 판단했다.”

“데이터가 그렇게 말한다.”

“알고리즘이 그렇게 평가했다.”

인간이 인간을 차별하면 부당하다고 말할 수 있다.

그러나 기계가 평가했다고 하면 사람들은 그것을 객관적이라고 믿기 쉽다.

여기에 가장 큰 위험이 있다.

차별이 알고리즘의 얼굴을 쓰고 나타나는 것이다.

그래서 지금 필요한 것은 AI를 더 빨리 만드는 경쟁이 아니다.

누가 더 빨리 SI를 만드는가를 경쟁하는 것도 아니다.

정말 필요한 것은 그 기술이 인간 슬롯를 어디로 끌고 갈 것인지 묻는 일이다.

그런데 지금 세계는 정반대로 가고 있다.

트럼프는 SI 시대를 선언했다.

빅테크는 거기에 올라탔다.

기업들은 데이터센터를 확대하고 있다.

국가는 전력과 반도체와 인프라를 총동원하고 있다.

기업들은 경쟁에서 뒤처지지 않기 위해 더 빠른 개발을 요구한다.

AI가 인간의 일자리를 위협한다는 경고가 나와도 개발을 멈추지 않는다.

AI가 인간의 통제를 벗어날 가능성을 경고해도 개발을 멈추지 않는다.

오히려 말한다.

중국보다 먼저 해야 한다고.

이것이 바로 새로운 기술 군비경쟁이다.

과거에는 핵무기를 먼저 갖기 위해 경쟁했다.

이제는 지능을 먼저 갖기 위해 경쟁한다.

핵무기는 인간의 육체를 파괴할 수 있었다.

SI는 인간의 노동과 판단과 경제적 지위와 슬롯적 역할 자체를 바꿀 수 있다.

그래서 더 근본적인 질문을 던져야 한다.

우리는 정말 인간보다 뛰어난 지능을 만드는 것만을 목표로 삼아도 되는가.

할 수 있다는 것과 해야 한다는 것은 다르다.

돈이 된다는 것과 옳다는 것도 다르다.

중국보다 앞선다는 것과 인류에게 좋은 것도 다르다.

그리고 기업의 이익과 인간의 존엄도 결코 같은 것이 아니다.

AI가 인류에게 엄청난 혜택을 줄 가능성은 분명히 있다.

그러나 그 가능성이 위험을 면제해주는 것은 아니다.

오히려 기술이 강력해질수록 인간의 통제와 민주적 감시와 슬롯적 합의가 더 중요해진다.

지금 필요한 것은 기술을 거부하는 것이 아니다.

기술을 누구의 손에 맡길 것인가를 묻는 것이다.

누가 지능을 소유하는가.

누가 지능을 통제하는가.

누가 그 혜택을 가져가는가.

누가 그 비용을 부담하는가.

그리고 무엇보다 중요한 질문이 있다.

SI 앞에서 인간의 존엄을 어떻게 지킬 것인가.

이 질문에 답하지 않은 채 SI 시대를 열겠다는 것은 위험하다.

AI가 인간을 도와주는 시대와 AI가 인간을 평가하는 시대는 전혀 다르다.

AI를 사용하는 인간과 AI에 의해 인간의 가치가 결정되는 시대도 전혀 다르다.

그리고 SI가 소수 국가와 소수 기업과 소수 자본의 손에 집중된다면 더욱 그렇다.

그때 인간은 더 이상 모두가 같은 출발선에 서 있는 존재가 아니다.

누군가는 지능을 소유한다.

누군가는 지능을 임대한다.

누군가는 지능에 의해 평가받는다.

그리고 누군가는 지능 때문에 필요 없는 인간이 될 수도 있다.

이것이 우리가 지금 두려워해야 할 미래다.

트럼프의 SI 선언을 단순한 말장난으로 치부해서는 안 된다.

그것은 미국 정부가 앞으로 어떤 세계를 만들 것인지 보여주는 하나의 신호다.

그리고 빅테크의 태도 변화는 그 신호가 결코 혼자 울린 것이 아님을 보여준다.

지금 세계는 브레이크보다 액셀러레이터를 찾고 있다.

더 강한 지능.

더 빠른 지능.

더 많은 지능.

그러나 정작 아무도 묻지 않는다.

그 지능이 누구를 위해 존재하는가.

그리고 그 지능 앞에서 인간은 무엇으로 남을 것인가.

SI 시대의 가장 큰 위험은 기계가 인간보다 똑똑해지는 것이 아닐지도 모른다.

정말 무서운 것은 인간이 인간을 다시 서열화하기 시작하는 것이다.

Super와 Inferior.

지능을 가진 자와 지능을 빌리는 자.

명령하는 자와 명령받는 자.

소유하는 자와 소유당하는 자.

그렇게 인간 슬롯가 두 종류의 인간으로 갈라지는 순간, 우리는 더 이상 인공지능 시대에 사는 것이 아니다.

인간의 존엄이 지능의 가격표로 거래되는 시대에 살게 된다.

그것이야말로 지금 우리가 가장 먼저 밟아야 할 브레이크다.