2027년에 초지능? 아니 더 빨리 올지도..

처음 AI2027을 읽었던 날이..꽤 시간이 된 것 같다. 25년도 10월 쯤이었나?

아무튼 작년 쯤 해당 글을 짧게 요약한 것만 읽었었다.

이번에 트위터에 올라온 글 덕분에 아예 각 잡고 Claude + Codex랑 같이 협업 및 번역하면서 다 읽었다.

솔직히 나는 기대 반 걱정 반이었던 것 같다. "흥미롭긴 한데, 너무 빠른 거 아닌가?" 그게 내 첫 반응이었는데, 전 OpenAI 연구자 다니엘..코코 뭐시기 하는 사람(AI2027을 아마 제일 먼저 유명하게 만든 사람일 것이다)과 스콧 알렉산더, 토마스 라슨, 엘리 리플랜드, 로메오 딘 등이 만든 이 시나리오는 2027년에 AGI, 더 나아가 초지능에 가까운 시스템이 등장할 수 있다고 설명하고 있다. 단순히 "언젠가 AI가 위험해질 수 있다"는 추상적인 말은 아니었던 것 같고. 2025년부터 2027년까지 월 단위로 사건을 쌓아가며, 미국과 중국의 AI 경쟁, AI 연구 자동화, 정부 개입, 통제 실패 가능성까지 구체적으로 그리고 있다.

그래서 나는 시나리오이기 때문에 비현실적이라고 생각을 했다.

미래가 무섭다는 말은 누구나 할 수 있는데, "몇 년 몇 월쯤 이런 일이 벌어진다"는 식으로 말하는 순간, 예측은 쉽게 조롱의 대상이 되어 왔으니까...

AI2027이 딱 그랬는데, 아무리 AI 발전이 빠르다고 해도, 2027년 초지능은 너무 급한 이야기처럼 보였다. 그래서 잠시 잊고 지냈다.

아 그 전에, AI2027이 정확히 맞다는 뜻은 아니다. 아직 AGI가 등장했다고 확인된 것도 아니고, 초지능이 세상을 장악한 것도 아니다. 하지만 한 가지가 분명해졌다고 느꼈다.

국가가 프론티어 AI를 단순한 소프트웨어 제품이 아니라, 안보 자산이자 통제 대상으로 보기 시작했다는 것이다. 내 생각을 돌려놓은 장면은 Anthropic의 Fable 5와 Mythos 5 접근 중단이었다.

2026년 6월 12일, Anthropic은 미국 정부가 국가안보 권한을 근거로 Fable 5와 Mythos 5에 대한 외국인 접근 중단 지시를 내렸다고 발표했는데, 지시의 범위는 미국 밖의 외국인뿐 아니라 미국 안에 있는 외국인, 심지어 Anthropic 내부의 외국 국적 직원까지 포함했다. Anthropic은 이를 선별적으로 집행하기 어렵기 때문에 결국 모든 고객의 접근을 중단했다고 밝혔다.

물론 이 사건을 곧바로 "AI가 위험해져서 정부가 멈췄다"고 읽는 것은 좀 과장으로 보고 있다.

나도 처음엔 그렇게 읽었는데, 너무 자연스럽게 소버린 AI에 대한 이야기가 나오면서

아 이건...미국의 중국과의 AI 경쟁이자, AI를 국가의 핵심 자산으로 가져가기 위한 그림이라는 것을 알아챘다.

그래서 언제인지 모르겠는데, 미국 즉, 국가가 OPEN AI, Anthropic 등의 LLM AI 기업의 지분 50%를 국가가 사야한다는 기사를 본 적이 있었다. 이게 꽤 시간이 흘렀던 기사였다.

이게 기억이 났던 것이다.

(논외의 이야기인데, AI2027 읽으면 이상하게 Palantir 주식을 더 사야하나? 하는 생각이 들기도 한다)

Anthropic은 정부가 문제 삼은 jailbreak 우려가 좁은 범위의 사례이고, 유사한 기능은 다른 공개 모델에서도 가능하다고 반박했다고 하는데, 즉 이 사건 하나만으로 Fable이나 Mythos가 초지능이었다고 말할 수는 없을 것 같다. 오히려 공식 문서만 보면 쟁점은 사이버 보안, export control, 모델 safeguard 우회 가능성, 그리고 정부의 통제 절차에 가깝다.

하지만 나는 바로 그 점에서 더 서늘해졌다.

초지능이 실제로 등장해서 정부가 놀란 것이 아니라, 아직 그 전 단계부터 이미 미국 정부가 AI 기업에 직접 개입했다는 뜻이기 때문이다. AI2027 속에서는 국가가 AI 안전에 심각한 위기의식을 느끼고 통제에 나서는 장면이 2027년 후반부에야 본격적으로 나오는데, 그런데 현실에서는 2026년에 이미 "어떤 모델을 누가 쓸 수 있는가"가 국가안보 문제가 되어 있었다.

여기서 내가 깨달은 핵심은 AI의 지능 수준이 아니었다.

핵심은 위치가 바뀌었다..이렇게 보고 있는데.

그럼 AI는 더 이상 단순한 생산성 도구가 아니다. 코드를 잘 짜는 도구, 보고서를 잘 쓰는 도구, 고객센터를 자동화하는 도구라는 설명만으로는 부족하다고 보였다. 프론티어 AI는 이제 사이버 보안, 연구개발, 군사, 외교, 수출통제, 산업 경쟁력의 교차점에 놓였다.

AI2027이 무서운 이유도 거기에 있다는 걸, 나는 뒤늦게 알았다.

시나리오의 가장 자극적인 부분은 초지능이 인간을 속이고 통제권을 빼앗는 장면이다. 하지만 현실에서 먼저 다가오는 것은 그런 영화 같은 장면이 아닐 가능성이 높다. 더 먼저 오는 것은 행정명령, 접근 제한, 수출통제, 특정 국적 사용 제한, 모델 배포 중단 같은 훨씬 건조한 장면이다.

그리고 나는 이제 그런 건조한 장면이야말로 진짜 전환점일 수 있다고 생각한다.

기술이 슬롯의 장난감일 때는 사용자가 먼저 반응하는데, 기술이 산업의 도구일 때는 기업이 먼저 반응한다. 하지만 기술이 국가 권력의 문제로 올라가면 정부가 먼저 반응한다.

Fable5, Mythos5 사건은 바로 그 선을 넘어선 듯 보인다.

그렇다고 AI2027을 예언서처럼 읽지는 않는데, 이 문서는 미래를 맞히기 위해 쓴 점괘가 아니라, "이 정도 속도로 AI가 발전하면 어떤 연결 사건들이 생길 수 있는가"를 구체적으로 펼쳐본 시나리오에 가깝다고 생각하고 있다. 저자들도 자신들이 불가능에 가까운 일을 시도하고 있다고 말하고 있고, 전쟁 시나리오를 워게임하듯, 초지능 시나리오도 구체적으로 가정해보자는 의도인 것 같다.

AI 2027을 읽지 않았다면? Fable과 Mythos 접근 중단 같은 사건을 단순한 기업-정부 갈등으로 읽었을 것 같다. 그냥 "미국 정부가 과민 반응했네", "Anthropic이 너무 겁을 줬네", "경쟁사와 정치권의 힘겨루기인가?" 정도로 해석하고 넘어갔을 것 같다.

그런데 지금, 같은 사건이 다르게 보인다.

이건 단순히 한 회사의 모델이 잠시 막힌 일이 아니라, 국가는 이제 AI 모델 자체를 전략 물자로 보기 시작했다는 뜻으로 보였다. 예전에는 칩이나 서버 같은 하드웨어가 통제 대상이었다면, 이제는 모델 그 자체와 거기 접근할 권한이 통제선 안으로 들어왔다.

그리고 또 하나, AI가 AI 연구를 돕기 시작했다.

Anthropic은 별도의 글에서 Claude가 내부 연구 과정에서 점점 더 많은 판단과 실험 설계를 보조하고 있다고 설명하고 있는데... 연구자가 다음에 어떤 방향으로 문제를 풀어야 할지 판단하는 장면에서, 최신 모델이 과거 모델보다 더 나은 선택을 하는 비율이 올라가고 있다는 것이다. 이건 아직 "AI가 스스로 AI를 완전히 만든다"는 뜻은 아니다. 이걸 재귀적 자가발전? 자기 개선? 뭐 어떻든..설명을 하던데, AI 개발 과정에서 인간의 역할이 좁아지고 있다는 신호로는 충분하다고 생각하고 있다.

AI2027의 핵심 가정 중 하나도 여기에 있는데, AI가 어느 순간 일반 업무뿐 아니라 AI 연구개발 자체를 자동화하기 시작하면, 발전 속도는 선형이 아니라 계단식으로 바뀔 수 있다. 좋은 모델이 더 좋은 모델을 만드는 데 기여하고, 그 더 좋은 모델이 다시 다음 모델 개발 속도를 끌어올리는 구조다. 이것이 곧바로 폭주를 의미하지는 않지만, 위험 곡선의 모양이 달라진다는 뜻은 된다.

그래서 지금 내가 던지게 된 질문은 "2027년에 정말 초지능이 오느냐"라는 하나가 아니다.

더 현실적인 질문은 음...국가와 기업은 이미 프론티어 AI를 어떤 종류의 물건으로 취급하기 시작했는가?이다.

나 같은 개인 사용자 입장에서도 이 변화는 멀리 있는 이야기가 아닌 것 같고, AI는 단순히 글을 대신 써주는 도구에서, 일의 구조를 바꾸는 시스템으로 이동하고 있다. 개발자는 코드를 직접 쓰는 사람에서 AI가 만든 코드를 검토하고 방향을 정하는 사람으로 이동하고 있다고 본다. 기획자는 자료를 찾는 사람에서 AI가 만든 초안을 판단하고 결론을 설계하는 사람으로 이동 중이고, 기업은 AI를 도입할지 말지를 고민하는 단계에서, AI 없이 경쟁 가능한지 묻는 단계로 이동할 것 같다.

국가는 그보다 더 빠르게 움직이게 될 것이다. 국가는 이 기술을 생산성 도구로만 보지 않거. 안보, 사이버, 군사, 외교, 산업 주도권의 문제로 볼 것이다. 그래서 특정 모델의 접근권 자체가 통제 대상이 된다. 이것은 AI가 일상 도구에서 전략 인프라로 이동했다는 강한 신호인 것 같다.

AI2027의 질문을 현실이 너무 빨리 공식 의제가 되고 있어서 좀 겁이 나는 건데, 확실한 건 아직 초지능을 본 것이 아니라는 것이다. 하지만 초지능이 오기 전 슬롯가 어떤 식으로 긴장하기 시작하는지는 이미 첫 파도가 쳤다고 생각한다.

그럼 AGI가 왔다는 것은 어떻게 알아챌 수 있을까? 음...개인적으로는 어느 날 한 회사가 공지를 올리지 않을까?아마 트위터일 것이다. OPEN AI 일 수도 있고, Anthropic일 수 있다..

1. 우리는 정부 지시에 따라, 일부 모델 접근을 중단합니다. (이건 먼저 왔다)

2. 이 모델을 사용하기 위해서는 미국과 압도적인 우호 관계이자 전략적 파트너 관계에 있는 국가에게만 제한적으로 제공할 것입니다.