빌 게이츠, AI가 10억 명을 죽일 수 있다고?

빌 게이츠가 AI의 악용으로 10억 명에 이르는 대규모 사망이 발생할 수 있다는 취지의 경고를 내놓았다. 숫자만 보면 섬뜩하다. 그러나 이 말을 “AI가 인간 10억 명을 죽인다”는 뜻으로 받아들이면 핵심을 놓친다.

AI가 인간을 죽이는 것이 아니다.

더 정확히 말하면 인간이 인간을 죽이는 능력을 AI가 상상하기 어려울 정도로 증폭시킬 수 있다는 것이다.

인류는 이미 인간을 죽이는 기술을 충분히 갖고 있다. 총과 미사일, 핵무기와 생물학적 무기까지 만들어냈다. 문제는 기술이 부족해서 전쟁을 하지 못하는 것이 아니다. 인간은 언제나 기술을 자신의 욕망과 증오와 권력의 도구로 바꾸어왔다.

AI는 여기에 전혀 다른 차원의 능력을 추가한다.

정보를 수집하고 분석하는 능력, 프로그램을 작성하는 능력, 선전과 여론조작을 자동화하는 능력, 사이버 공격을 지원하는 능력, 과학적 연구를 가속하는 능력까지 AI는 인간의 능력을 압축하고 증폭할 수 있다.

과거의 악인은 많은 사람을 죽이기 위해 조직과 돈과 시간이 필요했다.

AI 시대에는 그 비용과 시간이 급격히 줄어들 수 있다.

그래서 진짜 위험한 질문은 “AI가 인간을 공격할 것인가”가 아니다.

“인간이 AI를 이용해 인간을 어디까지 공격할 수 있는가”다.

더 무서운 것은 이 경쟁에 이미 국가와 기업의 이해관계가 얽혀 있다는 사실이다. 미국과 중국은 AI를 국가 경쟁력과 안보의 핵심 기술로 보고 있고, 기업들은 더 강력한 모델을 먼저 개발하기 위해 경쟁한다.

모두 위험을 말하면서도 아무도 먼저 멈추지 않는다.

내가 멈추는 순간 경쟁자가 앞서갈 것이라는 두려움 때문이다.

핵무기 경쟁에서 인류가 배운 교훈은 분명했다. 가장 위험한 순간은 무기가 존재하는 순간이 아니라, 모든 국가가 상대방보다 뒤처지지 않기 위해 무기를 더 많이 만들기 시작하는 순간이었다.

AI도 그 길로 들어선다면 문제는 기술이 아니라 경쟁 자체가 된다.

그러나 여기에는 또 하나의 훨씬 조용한 위험이 있다.

인간이 AI에게 판단을 넘기는 것이다.

AI가 글을 쓰고, 정보를 찾고, 결론을 내리고, 인간은 그 결과를 승인만 하는 슬롯가 된다면 인간은 무엇을 잃게 되는가.

생각하는 능력이다.

AI의 위험을 이야기하면서 우리는 자꾸 AI가 인간보다 똑똑해지는 것을 두려워한다. 그러나 정말 두려워해야 할 것은 인간이 AI보다 생각하지 않는 존재가 되는 것이다.

AI가 인간을 지배할 필요도 없다.

인간이 스스로 판단하기를 포기하면 된다.

그 순간 AI는 주인이 될 필요조차 없다. 인간이 AI의 결정을 자신의 결정으로 착각하기 시작할 것이기 때문이다.

따라서 빌 게이츠의 10억 명이라는 숫자에 매달릴 필요가 없다. 그것이 정확한 예측인지 계산할 수도 없고, 그렇게 받아들여서도 안 된다.

중요한 것은 그 숫자가 던지는 질문이다.

인간에게 역사상 가장 강력한 도구가 주어진다면 인간은 그것을 무엇에 사용할 것인가.

인류를 살리는 데 사용할 것인가.

아니면 인간의 탐욕과 증오와 권력욕을 확대하는 데 사용할 것인가.

AI가 인간 10억 명을 죽이는 미래가 가장 두려운 것이 아니다.

더 두려운 것은 인간이 AI를 이용해 인간을 죽이는 능력을 10억 배 키우는 미래다.

AI에는 악의가 없을 수 있다.

그러나 인간에게는 악의가 있다.

AI에는 욕망이 없을 수 있다.

그러나 인간에게는 욕망이 있다.

AI에는 권력투쟁이 없을 수 있다.

그러나 인간은 권력을 위해 수천 년 동안 서로를 죽여왔다.

그러므로 AI 시대의 최대 위험은 기계가 인간처럼 되는 것이 아니다.

인간이 기계를 인간보다 더 강력한 무기로 만들어놓고도 자신이 그것을 통제할 수 있다고 믿는 것이다.

인류가 두려워해야 할 것은 AI의 지능이 아니다.

그 지능을 손에 넣은 인간의 오만이다.

결국 AI가 인류를 멸망시키는 것이 아니다.

인간이 AI를 이용해 스스로를 멸망시킬 가능성이 더 현실적인 공포다.

AI 시대의 최종적인 안전장치는 알고리즘이 아니다.

인간의 양심과 바카라임, 그리고 인간이 마지막 순간까지 스스로 생각하고 판단하는 능력이다.

기계가 얼마나 똑똑해지는가는 인간이 결정할 수 있다.

그러나 그 똑똑한 기계를 무엇에 사용할 것인가는 끝내 인간의 선택이다.

그래서 다시 묻지 않을 수 없다.

AI가 인간 10억 명을 죽일 것인가.

아니다.

어쩌면 인간이 인간을 죽이는 능력을 10억 배 키우는 것일지도 모른다.

그리고 그때 바카라임을 AI에게 돌릴 수는 없다.

그것을 만든 것도 인간이고, 그것을 사용한 것도 인간이기 때문이다.