오픈AI가 밀레니엄 난제를 해결했다? (2)

오픈AI가 7대 밀레니엄 난제 중에 하나인 나비아-스토크 문제를 풀었다고 합니다.

그 밀레니엄 문제가 무엇이고 그 문제를 풀어낸 것이 왜 중요한지 같은 긍정적인 내용은 다른 수많은 기사와 블로그 포스팅을 참고하시길 바랍니다.

저는 지난 첫 번째 글을 통해서 이 언론보도의 소스인 오픈AI 블로그를 찾아가 내용을 확인해 보았고, 그 안에서 여러 합리적인 의문점들에 관해서 이야기를 했습니다.

그리고 저의 가상 시나리오에 근거해 이번 사건을

수학판 허깅페이스 해킹 사건!!

일 가능성을 이야기했습니다.

오늘은 이전 글에 더해서 이번 사건의 또 다른 주인공인 Buckmaster 교수님의 글을 (https://cims.nyu.edu/~tristanb/statement.pdf ​) 소개하며 지난번 글에서 제가 제기했던 의문점들을 해소할 수 있는 좀 더 업그레이드된 (Further trained) 가상시나리오를 제안하려고 합니다.

이 새로운 가상시나리오에 따르면 이번 사건은

수학판 허깅페이스 해킹 사건!! (feat by OpenAI)

일 가능성이 있습니다.

그리고 이 사건의 배경에는 엔트로픽도 있습니다. 저의 “가상 시나리오에 근거해서“ 단언컨대 엔트로픽이 있었기에 이번 사건이 있었습니다.

Buckmaster 교수님에 따르면….

이번 밀레니엄 난제 해결의 진정한 주인공은 LLM이 아니라

Diego Cordoba와 Luis Martınez-Zoroa라고 밝힙니다. 그분들의 수년에 걸친 연구업적이 쌓여서 오늘의 결과가 나왔다는 겁니다. 이 일로 상을 받는다면 이 두 분이 받아야 한다고 말씀하십니다.

그리고 Buckmaster 교수님은 이 밀레니엄 난제 해결 작업에 지난 수년간 엔트로픽과 openAI의 LLM 모델을 이용했음을 밝힙니다.

처음 몇 년의 작업은 별거 없었지만 최근 한 달 동안 많은 진전이 있었고, 8월 22일에 “LLM과 함께” 오일러 문제를 풀었다고 합니다.

(저의 덧셈기계와의 대화 연작을 저 스스로 AI와 공동작업이라고 생각하는 저로서는 이 교수님이 LLM을 진정한 연구 동료로 생각하는 마음에 공감합니다. )

“루머” : 나머지 절반의 이야기의 시작

그리고 Buckmaster 교수님도 9월 3일에 루머 이야기를 듣습니다. 저의 상상이지만 이 루머는 오픈AI가 9월 1일에 접했던 루머와 같을 가능성이 있습니다. 하지만 중요한 차이점이 있는데

오픈 AI는 누군가가 (엔트로픽이) 밀레니엄 문제 중에 하나를 풀었다는 루머를 들었음에 반해

Buckmaster 교수님은 엔트로픽이 풀어낸 문제가 자신과 공동연구를 하고 있는 Levent Alpoge (엔트로픽 소속)과 관련이 있음을 추측할 수 있었다는 점입니다. 이로서 루머에서 알려진 엔트로픽이 풀어낸 밀레니엄 난제가 나비아-스토크 혹은 오일러 문제임이 특정됩니다.

그리고 Buckermastet교수님은 이런 자신의 추측을 그가 “9월 3일” 쓴 이메일을 통해 오픈AI와 공유합니다. 이제 오픈AI도 루머의 실체가 나비아스토크문제를 엔트로픽이 해결했다 것일 수 있다는 점을 인지하게 됩니다. 오픈AI는 곧바로 Buckmaster 교수님에게 다음과 같은 이메일을 보냅니다.

이로서 우리는 9월 1일 오픈AI의 행동 (7가지 모든 밀레니엄 문제를 풀기 위해 엄청난 내부 리소스를 투입하기 시작)과 9월 3일 이후의 행동 (오직 나비아 스토크 문제를 풀기 위해 모든 시간과 노력을 최대로 기울임)을 이해힐 수 있게 되었습니다. 엔트로픽에 뒤지고 싶지 않았던 거죠!

9월 6일 오픈AI와 Buckmaster 교수님의 만남

그리고 9월 6일 오픈 AI의 요청으로 Buckmaster교수님은 오픈AI 관계자를 만나고 오픈AI가 나비아 스토크 문제를 풀었음을 듣습니다.

중요한 건 그다음입니다.

1. 오픈AI가 풀었다는 방법은 나비아-스토크 문제를 풀기 위한 수많은 접근법 중에 정확하게 Diego Cordoba와 Luis Martınez-Zoroa 이 제안했던 그 방법과 일치했습니다. Buckmaster 교수님은 이를 bright red flag라고 표현합니다.

2. 오픈AI는 사람의 개입이 거의 없었던 오직 LLM이 찾아낸 문제해결법이라고 했지만, Buckmaster 교수님이 보시기엔, 문제해결 과정 중에 수많은 인위적 개입이 있었음이 분명했습니다.

3. Buckermaster 교수님이 그 자신의 연구인 오일러문제를 해결하기 위해 마지막으로 입력한 프롬프트가 8월 말에 오픈AI 서버에 존재하고 그로부터 며칠 후 오픈AI가 문제 해결에 사용하기 위한 프롬프트를 디자인했습니다.

단, 9월 11일 현재까지는 단순한 선후관계만이 팩트입니다. 하지만, 오픈AI가 마음만 먹는다면 Buckeaster 교수님이 사용했던 프롬프트를 참조하는 것이 기술적으로 충분히 가능하며, 또 그 엔트로픽을 이겨야 한다는 오픈AI의 동인도 충분합니다.

4. 이 부분이 가장 크리티컬 한 부분입니다. Buckermaster 교수님은 자신의 연구를 위해서 지난 수년간 openAI에 입력한 수많은 자료를 새로운 모델의 훈련에 사용했는지 질문했고, openAI는 답변을 거부했습니다.

그리고 우리는 9월 3일 이후에 아주 짧은 기간 동안 좀 더 훈련된 (further trained) 새로운 모델이 이 나비아-스토크 문제 해결에 전격적으로 투입되었음을 오픈AI가 작성한 블로그를 통해 알고 있습니다.

5. 이후 오픈AI에서 몇 가지 제안을 했고 Buckmaster 교수님은 거절합니다. 이 부분은 이번 글의 핵심과는 크게 연관이 없어 생략합니다.

그리하여.. 결론은??!!

저는 오픈AI와도 Buckmaster 교수님과도 아무런 관련이 없습니다. 그리고 저는 사람이 글이나 방송을 통해서 전달하려는 내용의 이면에는 반드시 의도가 있으며, 그래서 그 의도 전달에 도움이 되지 않는 사실관계들은 글이나 방송에 이용되지 않는다고 믿고 있는 사람입니다.

그래서 전 openAI의 블로그 글을 전적으로 신뢰하지 않으며, 마찬가지 이유로 Buckmaster 교수님의 글에도 그분이 숨기고 있는 어떤 다른 사실관계가 있을 수 있다고 보고 있습니다.

그래서 오늘의 이야기의 결론은 이거입니다.

지금 이 순간에 세상을 떠들썩하게 하고 있는 AI가, 아니 현존하는 AGI가 이루어 냈다는 이 성과는 사실 생각보다 별거 아닐 가능성이 있습니다.

그럼에도 불구하고 한 가지 확실한 건 “AI를 잘 알고 연구 동료로서 신뢰하는 전문 연구자(!)가 AI와 함께(!!)” 이루어 낼 수 있는 성취는 정말로 무한히 열려 있습니다.