클로드가 리만 가설에서 세운 기록

167년 가까이 풀리지 않은 수학 난제에 AI가 도전했다. 결과는 리만 가설의 해결이 아니었다. 그러나 그 과정에서 오랫동안 정체돼 있던 관련 수학적 기록을 크게 끌어올렸다.

앤트로픽이 2026년 8월 10일 공개한 연구에서, 아직 일반에 공개되지 않은 연구용 클로드는 리만 제타 함수의 비자명한 영점 가운데 임계선 위에 있다고 무조건적으로 보장할 수 있는 비율의 하한을 기존 41.6%에서 약 67.2%까지 높였다.

중요한 것은 숫자 하나보다 그 숫자에 도달한 방식이다. 이번 사례는 AI가 수학 문제에 답을 내놓는 도구를 넘어, 수많은 가설을 만들고 버리고 검증하며 연구 과정을 스스로 조직하는 단계로 이동하고 있음을 보여준다.

67.2%는 무엇을 의미하는가

리만 가설은 1859년 베른하르트 리만이 제시했다. 리만 제타 함수의 모든 비자명한 영점이 실수부 1/2인 임계선 위에 존재한다는 주장이다. 지금까지 완전한 증명도, 반증도 나오지 않았다.

이번 결과 역시 리만 가설을 증명한 것은 아니다. 클로드가 리만 가설의 67.2%를 해결했다는 의미도 아니다.

클로드가 개선한 것은 특정 수학적 하한이다. 전체 비자명한 영점 가운데 최소 어느 정도가 임계선 위에 있다고 무조건 보장할 수 있는지를 나타내는 수치다.

41.6%에서 3분의 2 이상으로

기존에 알려진 하한은 41.6%였다. 클로드가 작성한 논문에서는 비자명한 영점 가운데 최소 3분의 2가 단순 영점이면서 임계선 위에 있다는 결과를 제시했다.

특정 Montgomery–Taylor 윈도우를 적용하면 이 값은 약 67.25%까지 올라간다. 그렇다고 나머지 영점이 임계선 바깥에 있다는 뜻은 아니다. 단지 현재의 수학적 방법으로 확실하게 보장할 수 있는 영역을 크게 넓혔다는 의미다.

수학자가 아닌 직원의 한 문장에서 시작됐다

이번 연구의 시작도 흥미롭다. 전문 수학자가 아닌 앤트로픽 직원 재러드 섬너가 클로드에게 리만 가설을 실제로 깊이 연구해보라고 요청한 것이 출발점이었다.

그 이후 수학적 탐색의 대부분은 모델이 결정했다. 처음부터 정답에 가까운 길을 찾은 것도 아니었다. 클로드는 약 650개의 아이디어를 시도했지만 성과를 내지 못했다.

여기서 멈추는 대신 탐색 구조를 바꿨다. 이후 약 하루 반 동안 약 60개의 하위 에이전트를 조정하며 새로운 접근법을 찾아 나갔다.

60개의 AI가 역할을 나눴다

약 60개의 하위 에이전트 가운데 2개는 핵심 수학 아이디어를 개발했고, 13개는 이를 지원했다. 30개는 새로운 접근법을 탐색했고, 13개는 논증 검증을 담당했으며, 2개는 초기 논문 작성에 참여했다.

전체 과정은 두 개의 Claude Code 세션에서 약 3100만개의 출력 토큰을 사용했다. 하위 에이전트들은 약 2400개의 셸 명령을 실행했고 수백개의 파이썬 스크립트를 작성했다.

수천번의 수치 검증과 반례 탐색도 진행됐다. 자신이 찾은 결과가 이미 알려진 것인지 확인하기 위해 arXiv 논문 54편까지 내려받아 검토했다.

AI 연구에서 더 중요한 변화

이번 사례에서 눈여겨볼 지점은 AI가 완전히 새로운 수학을 무(無)에서 만들어냈다는 식의 이야기가 아니다.

핵심 아이디어는 기존 수학 이론과 최근 연구를 새롭게 연결하는 과정에서 나왔다. Aryan의 연구, Baluyot·Goldston·Suriajaya·Turnage-Butterbaugh의 연구, 그리고 Bombieri의 2000년 연구 등을 결합하면서 기존 하한을 넘어서는 방법을 구성했다.

인간 연구에서도 새로운 발견은 기존 연구를 읽고, 서로 다른 결과를 연결하고, 가설을 세우고, 틀린 방향을 버리는 과정에서 나오는 경우가 많다. 이번 클로드의 행동 역시 이와 비슷한 연구 흐름을 보여준다.

답변보다 탐색 과정이 달라졌다

생성형 AI는 그동안 주어진 질문에 빠르게 답하는 시스템으로 인식돼 왔다. 이번 사례에서는 역할이 달랐다.

650개의 아이디어가 실패한 뒤 새로운 접근을 시도하고, 여러 에이전트에 역할을 배분하고, 계산으로 반례를 찾고, 기존 논문과 중복되는지를 조사하고, 최종적으로 논문 형태로 논증을 정리했다.

이 흐름만 놓고 보면 중요한 변화는 단순한 정답률 향상이 아니다. 하나의 복잡한 연구 과제를 여러 단계로 쪼개 장시간 탐색하는 능력이 실제 연구 문제에 적용되기 시작했다는 데 있다.

검증을 통과해야 기록이 된다

수학에서 새로운 결과는 모델이 그럴듯한 증명을 작성했다는 이유만으로 인정될 수 없다. 이번 결과 역시 검증 과정이 중요하다.

앤트로픽 소속 수학자 Levent Alpöge와 Ralph Furman이 논증과 기존 연구 사이의 관계를 검토했고, 관련 분야 전문가 Brian Conrey와 Dan Goldston도 결과를 살펴봤다.

또한 결과는 Lean 4로 형식화됐으며 형식 증명도 공개됐다. 공개 논문의 저자는 ‘CLAUDE / ANTHROPIC’으로 명시돼 있고, 논증과 검증이 모델에 의해 수행됐다고 설명한다.

다만 현재 공개된 정보만으로 일반적인 학술지의 독립적 동료평가 절차까지 완료됐다고 단정할 수는 없다. 향후 수학계에서 이 결과가 어떻게 평가되고 정착할지도 아직 지켜봐야 한다.

미공개 모델이라는 또 하나의 변수

이번 연구에 사용된 클로드의 정확한 제품명이나 모델 세대, 파라미터 규모, 학습 구성도 공개되지 않았다.

따라서 이번 성과를 현재 일반 사용자가 사용하는 특정 클로드 모델의 능력으로 그대로 일반화하기는 어렵다. 앤트로픽 역시 이번에 사용된 기법이 리만 가설 자체의 완전한 증명으로 이어질 것으로 기대하지 않는다고 밝혔다.

8월 13일에는 클로드가 작성한 논문의 증명을 더 명확하게 하고 역사적 맥락을 추가한 업데이트판도 공개됐다.

AI가 연구자가 되는 순간은 언제일까

리만 가설은 여전히 풀리지 않았다. 100만달러의 상금이 걸린 밀레니엄 난제라는 지위도 그대로다.

그럼에도 이번 결과를 가볍게 보기 어려운 이유는 따로 있다. AI가 수학 문제 하나를 맞힌 것이 아니라, 수백개의 실패를 거쳐 새로운 조합을 찾고 여러 에이전트를 조직해 검증까지 진행했기 때문이다.

앞으로 AI의 연구 능력을 평가할 때도 단순히 “정답을 맞혔는가”만으로는 부족해질 가능성이 크다. 어떤 가설을 만들었는지, 실패한 뒤 어떻게 방향을 바꿨는지, 기존 문헌을 어떻게 연결했는지, 그리고 최종 결과를 얼마나 검증 가능한 형태로 남겼는지가 더 중요해질 수 있다.

이번 기록이 리만 가설의 해결은 아니다. 오히려 더 흥미로운 질문을 남긴다.

AI가 연구자의 도구를 넘어 연구 과정의 일부를 스스로 수행하기 시작한다면, 앞으로 우리가 말하는 ‘연구자’의 역할은 어디까지 달라지게 될까.