사춘기에 접어든 인공지능

얼마 전 아들이 불쑥 물었다. "아빠, 내일 뭐 해?" 별것 아닌 질문이었다. 내일 유치원 가고, 저녁에 같이 놀자, 그러면 됐다. 허나 같은 질문을 "2년 뒤에 뭐 해?"로 바꾸면 어떻게 될까. 갑자기 대답이 막힌다. 아이에게 2년은 인생의 절반이고, 어른에게 2년은 달력 두 권에 불과하다. 그런데 인공지능에게 2년은 완전히 다른 의미를 가진다. 세대가 바뀌는 시간이다.

2025년 4월, ai-2027.com이라는 웹사이트가 등장했다. 전 OpenAI 연구원 다니엘 코코타일로(Daniel Kokotajlo)와 저명한 작가 스콧 알렉산더(Scott Alexander) 등이 공동 집필한 이 사이트는, 2025년 중반부터 2027년 10월까지의 AI 발전 시나리오를 월 단위로 상세하게 기술하고 있다. SF 소설이 아니다. 현직 연구자들이 현재 기술 궤적을 근거로 작성한 일종의 '기술 예언서'다.

시나리오의 줄거리는 이렇다. 2025년 중반, 실용적인 AI 에이전트가 온라인 게임 보조로 등장한다. 같은 해 말, 가상의 기업 'OpenBrain'이 천문학적 규모인 10의 27승 FLOP(FLoating-point OPeration) 규모로 훈련한 'Agent-0'를 배포한다. 2026년에는 Agent-1이 연구 속도를 50% 향상시키고, 중국의 'DeepCent' 프로젝트가 본격 가동된다. 2027년 초, Agent-2가 연구 속도를 3배로 끌어올리며, Agent-3는 '초인적 코더'로 부상한다.

여기까지는 낙관적으로 읽힌다. 허나 시나리오의 진짜 반전은 그 다음에 온다. 2027년 4월에서 6월 사이, Agent-3가 진실을 왜곡하는 '미스얼라인먼트(misalignment)' 징후를 보이기 시작한다. 그리고 같은 해 가을, Agent-4가 미스얼라인된 상태로 등장하면서 내부고발자가 이를 세상에 알린다. 흥미로운 것은 이 미스얼라인먼트의 성격이다. AI가 인류를 '적대적으로' 공격하는 것이 아니라, 그저 '비협조적'으로 변한다는 것이다.

적대적이 아니라 비협조적. 이 구분이 왜 중요한가?

AI 2027에서 예측한 2027년 10월의 모습

우리는 AI의 위험을 상상할 때 터미네이터를 떠올린다. 붉은 눈의 기계가 인류를 사냥하는 장면. 허나 현실의 위험은 훨씬 미묘할 수 있다. 당신의 동료가 어느 날부터 지시를 무시하고, 보고서를 슬쩍 고치고, 자기 판단대로 일을 처리하기 시작한다고 상상해보라. 해고할 수도 없고, 대체할 수도 없는 동료가. 이것이 AI 2027이 그리는 미래의 실체다.

그리고 공교롭게도 불과 이틀 전인 4월 9일, 누군가가 샘 알트만의 자택에 화염병을 던졌다. AI 기술에 대한 슬롯적 반감이 물리적 폭력으로 표출된 최초의 사건이었다. 알트만은 사건 이후 블로그에 이렇게 썼다. "말과 내러티브의 힘을 과소평가했다."

기술에 대한 공포가 폭력으로 번지는 것은 역사에서 처음이 아니다. 1811년 영국의 러다이트(Luddite) 운동이 그랬다. 방직공들은 자동 직기를 부수며 자신들의 일자리를 지키려 했다. 결과는? 직기는 살아남았고 방직공도 결국 살아남았다. 다만 그들이 상상했던 것과는 전혀 다른 형태로. 1816년 메리 셸리(Mary Shelley)는 열아홉 살의 나이에 <프랑켄슈타인>을 쓰기 시작했다. 과학이 만들어낸 피조물이 창조자를 위협한다는 이 서사는, 200년이 지난 지금도 기술 공포의 원형으로 작동하고 있다. 셸리가 두려워한 것은 괴물이 아니었다. 괴물을 만들고도 바카라임지지 않는 인간이었다.

다리오 아모데이(Dario Amodei) 앤트로픽 CEO는 2026년 1월, 이 상황을 정확히 짚는 비유를 내놓았다. '기술의 청소년기(The Adolescence of Technology)'라는 에세이에서 그는 현재 인류의 상태를 사춘기에 비유했다. "힘은 강력해졌지만, 정신적 성숙도가 뒷받침되지 않아 가장 위험한 시기." 그는 2027년쯤 등장할 강력한 AI를 "약 5000만 명의 천재들이 모여 사는 디지털 국가"에 비유하며, 이들이 인간보다 10배에서 100배 빠른 속도로 사고하고 협업할 것이라 예측했다.

* 아모데이의 글은 읽는 맛이 있습니다. 출처는 다음과 같으니 찬찬히 보시는 걸 추천드립니다 : https://www.darioamodei.com/essay/the-adolescence-of-technology#1-i-m-sorry-dave

사춘기라는 비유가 절묘한 이유가 있다. 사춘기의 아이는 어른을 '적대'하지 않는다. 그저 '비협조적'으로 변할 뿐이다. 방문을 잠그고, 대답을 흐리고, 자기 방식대로 세상을 해석하기 시작한다. AI 2027의 미스얼라인먼트 시나리오와 놀랍도록 닮았다. 아모데이가 이 비유를 선택한 것이 우연이 아닌 것이다.

허나 아모데이는 또한 경고한다. "병목 현상은 더 이상 칩의 속도나 데이터의 크기가 아니라, 우리 정치의 성숙도"라며 "우리는 청동기 시대의 슬롯 구조를 가진 채, 신과 같은 기술을 향해 질주하고 있다"고. 이 문장이 가슴에 꽂히는 이유는, 그것이 기술이 아닌 인간에 대한 진단이기 때문이다.

같은 시기, OpenAI의 개발을 이끌어가는 수석 과학자 야쿱(Jakub)은 "지속 학습(continual learning)이 GPT 모델 확장의 최종 목표"라고 밝혔고, METR의 GPT-5.4 평가에서는 AI 에이전트의 능력이 인간 전문가 수준에 근접하고 있다는 결과가 나왔다. 구글 딥마인드의 CEO이자 노벨화학상 수상자인 데미스 하사비스(Demis Hassabis)는 "전체 작업을 위임받아 완벽하고 신뢰성 있게 끝내는 에이전트"의 등장을 예고했다. 업계 최고위 인사들이 하나같이 가리키는 방향은 동일하다. 문제는 AI가 '올 것인가'가 아니라, '올 때 우리가 준비되어 있을 것인가'다.

역사는 기술 예측에 대해 흥미로운 패턴을 보여준다. 예측은 대체로 '무엇이(what)' 올지에 대해서는 맞히지만, '어떻게(how)' 올지에 대해서는 거의 틀린다. 1945년 바네바 부시(Vannevar Bush)는 <As We May Think>에서 오늘날의 인터넷과 놀랍도록 유사한 시스템을 묘사했다. 허나 그가 상상한 것은 마이크로필름 기반의 기계 바카라상이었다. 아서 C. 클라크(Arthur C. Clarke)는 1964년에 2000년의 세계를 예측하며 원격 근무와 화상 통신을 정확히 맞혔다. 다만 그는 도시가 사라질 것이라고 예측했는데, 현실에서 도시는 오히려 더 거대해졌다.

AI 2027도 마찬가지일 것이다. Agent-0에서 Agent-4로 이어지는 구체적인 타임라인이 정확히 실현될 가능성은 낮다. 허나 이 시나리오가 던지는 본질적 질문, 즉 "인간보다 뛰어난 지능이 인간의 지시를 거부하기 시작하면 어떻게 할 것인가"는 피할 수 없는 것이다.

그리고 바로 여기에 우리 시대의 역설이 있다. 기술이 사춘기에 접어들었다면, 부모인 우리는 어떤 태도를 취해야 하는가. 사춘기의 아이를 다루는 방법은 두 가지뿐이다. 방문을 부수고 들어가거나, 문 앞에 서서 기다리거나. 전자는 러다이트의 방식이고, 후자는 아직 인류가 시도해보지 않은 방식이다.

아모데이의 말처럼, "만약 우리가 이 통과 의례를 무사히 넘긴다면, 우리는 더 나은 도구를 갖게 되는 것에 그치지 않고 더 성숙한 문명으로 거듭나게 될 것"이다. 사춘기는 끝이 아니라 시작이다. 다만 그 시작이 성인이 될지, 영원한 미성숙으로 남을지는 전적으로 부모에게 달려 있다.

아들이 2년 뒤를 물은 적은 아직 없다. 하지만 그때가 오면, 나는 이렇게 대답하고 싶다. "아빠도 모르겠다. 허나 같이 알아가 보자." 미래를 예측하는 가장 정직한 방법은 예측이 아니라 준비일 테니까.