당연히 그러겠지 인간이 ai화 되거나 새로운 인류가 탄생될거라고 독서모임에서 이야기를 했었다. 그게 내 인생과는 관련이 없을거라는 막연한 생각이 있었다. 그런데 그 시점이 마치 내년인것처럼 오해하게 요즘 말들이 많은데 이렇게 빨리? 에이 그럴리가 그러면서 제대로 알려고 하지는 않고 그냥 평소처럼 클로드와 제미나이를 사용하며 지낼 뿐이었다. 그러다가 클로드와 제미나이에게 물어 보았다. AI가 내년에 세상을 지배할까? 그리고 특이점이 올까? 특이점이라는 단어는 무슨뜻인가.

클로드 먼저

AI는 정말 세상을 지배하게 될까
'특이점'이라는 말에 대하여

요즘 "내년이면 특이점이 온다"는 말을 심심치 않게 듣는다. AI가 사람보다 똑똑해지고, 결국 세상을 지배하게 된다는 이야기다. 처음엔 공상과학 같던 말이 뉴스와 유튜브를 오가며 점점 그럴듯하게 들린다. 그래서 한번 차분히 정리해 보고 싶었다. 특이점이란 정확히 무엇이고, 전문가들은 이 문제를 어떻게 보고 있을까.

특이점이라는 말의 출발

'특이점(singularity)'은 원래 수학과 물리학의 용어다. 블랙홀 중심처럼 기존 법칙이 더는 통하지 않는 지점을 가리킨다. 이 말을 기술에 처음 붙인 사람들은 기계가 인간의 지능을 넘어서는 순간을 상상했다.

1965년 영국의 수학자 I. J. 굿은 '지능 폭발'이라는 개념을 내놓았다.¹ 사람보다 조금이라도 똑똑한 기계가 생기면, 그 기계가 자기보다 더 똑똑한 기계를 설계하고, 그 과정이 꼬리에 꼬리를 물며 폭발적으로 빨라진다는 것이다.

SF 작가이자 수학자인 버너 빈지는 1983년 한 잡지 기고문에서 이 현상에 '특이점'이라는 이름을 붙였고, 1993년 에세이 「다가오는 기술적 특이점」에서 30년 안에 인간을 넘어서는 지능을 만들 기술이 나올 것이라고 예측했다.²

이 개념을 대중에게 널리 알린 사람은 미래학자 레이 커즈와일이다. 그는 2005년 『특이점이 온다』에서 인간 수준의 AI가 2029년경, 특이점이 2045년경에 온다고 내다봤고, 2024년 후속작에서도 두 예측을 그대로 유지했다.³ 그러니 "내년에 특이점이 온다"는 말은 특이점 개념을 대중화한 사람의 예측보다도 훨씬 앞당겨진 이야기다.

왜 하필 지금, 이 이야기가 커졌을까

몇 년 사이 AI의 발전 속도가 많은 사람의 예상을 뛰어넘었기 때문이다. 글을 쓰고, 코드를 짜고, 복잡한 문서를 분석하는 일에서 AI는 눈에 띄게 유능해졌다.

대표적으로 AI 기업 앤트로픽의 CEO 다리오 아모데이는 2024년 10월 에세이에서, 대부분의 분야에서 노벨상 수상자 수준을 넘는 '강력한 AI'가 이르면 2026년에 등장할 수 있다고 썼다.⁴ 여기서 중요한 건 이것이 '이를 수도 있다'는 가능성이고, 주로 능력에 관한 예측이라는 점이다. "AI가 아주 유능해질 수 있다"는 말이 전해지는 과정에서 "AI가 세상을 지배한다"로 바뀌어 버린 것이다.

전문가들의 의견은 놀라울 만큼 엇갈린다

이 주제에서 가장 정직한 답은 "아무도 확실히 모른다"이다. 실제로 AI 분야의 대가들 사이에서도 견해 차이가 크다.

먼저 경고하는 쪽이 있다. 2023년 5월, 튜링상 수상자인 제프리 힌턴과 요슈아 벤지오, 주요 AI 기업 대표들이 "AI로 인한 멸종 위험을 줄이는 일은 팬데믹, 핵전쟁과 함께 전 지구적 우선순위가 되어야 한다"는 한 문장짜리 성명에 서명했다.⁵

반대로 회의적인 쪽도 있다. 메타의 수석 AI 과학자를 지낸 얀 르쿤은 지금의 AI에는 지속적인 기억, 추론, 계획, 물리 세계에 대한 이해가 부족하다며, AI가 인류를 위협한다는 걱정은 근거가 없다고 반박해 왔다.⁶

연구자 전체의 분위기는 어떨까. 2023년 10월 주요 AI 학회에 논문을 낸 연구자 2,778명을 대상으로 한 설문에서, 기계가 모든 일에서 사람을 능가할 가능성은 2027년까지 10%, 2047년까지 50%로 집계됐다. 응답자 다수는 좋은 결과가 나쁜 결과보다 가능성이 높다고 봤지만, 그중 절반 가까이는 극단적으로 나쁜 결과의 가능성도 5% 이상으로 봤다.⁷ 전문가 집단 안에서도 "곧 온다"와 "아직 멀었다", "위험하다"와 "과장이다"가 함께 존재하는 셈이다.

'유능한 AI'와 '지배하는 AI' 사이의 거리

AI가 어떤 일을 사람보다 잘하게 되는 것과, 스스로 목표를 세우고 슬롯를 장악하는 것은 완전히 다른 문제다.

지금의 AI는 사람이 지은 데이터센터에서, 사람이 공급하는 전력과 반도체로 돌아간다. 어디에 쓰일지, 무엇에 접근할 수 있는지도 사람이 정한다. AI가 세상을 '지배'하려면 스스로 원하는 것이 있어야 하고, 그것을 위해 물리적 세계의 자원을 움켜쥘 수단이 있어야 한다. 1년 안에 이 구조가 뒤집힌다고 볼 근거는 없다.

다만 장기적으로는 이야기가 조금 다르다. AI가 점점 더 많은 결정을 대신하게 되고, 사람이 그 과정을 일일이 이해하지 못하게 되는 상황은 충분히 상상할 수 있다. 연구자들이 'AI 정렬(alignment)', 즉 AI가 사람의 의도대로 움직이게 만드는 연구에 힘을 쏟는 이유가 여기에 있다.