AI 규제기구를 둘러싼 전쟁?

AI 규제기구를 트럼프와 젠슨황 그리고 엘론 머스크가 막아섰나 봅니다.

이로서 엔트로픽과 오픈AI, 그리고 구글 CEO들이 주도하여 만들려고 했던 민간주도 AI규제기구는 일단 물 건너 간 셈이 되었습니다.

이 과정에서 최상위 AI를 직접 출시하는 프런티어 AI기업들의 사다리 걷어차기 시도를 AI관련 하드웨어 업체와 AI 후발 주자, 그리고 트럼프가(?!) 저지한 그림이 만들어졌습니다. 이 스토리의 백미라면 젠슨황과 트럼프의 갑작스러운(??!!) 공개된 전화통화겠죠.

이와 관련에서 언론에서 다뤄지는 공개된 정보와 해설은 각자 찾아보세요. 저는 역시나 조금 다른 이야기를 하려고 합니다.

저의 근거 없는 추측에 불과하긴 하지만, 이토록 간단하고 해설하기 편하고 언론을 통해 홍보되어 대중의 관심을 이끌어내기에 딱 들어맞는 군더더기 전혀 없는 스토리라인이라면 AI관련 모든 이해당사자들 사이에 사전 조율을 거친 합의된 시나리오의 가능성을 배제할 수 없습니다.

왜냐하면 이 한바탕의 기획된(!) 이슈몰이 덕분에 허깅페이스 사건과 오픈AI에 의한 수학난제 해결을 둘러싼 잡음 속에서 싹텄어야 했던 AI에 관한 아주 중요한 슬롯적 질문이 깔끔하게 묻혀버렸거든요.

그리고 그들은 AI 안전을 위한 규제 논의를 지속적인 AI 발전을 방해하는 장애물로 확실하게 규정하는 부수적인 성과를 함께 얻었습니다.

AI 규제기구를 설치하고 말고는 AI 안전 담론에 매우 지엽적인 문제입니다. AI 안전을 위해 AI규제기구 보다 더 중요한 일, 그래서 지금 당장 논의를 시작해야 하는 일은 바로,

AI에게 무엇을 가르치고, 무엇을 가르치지 말아야 하는지에 관한 슬롯적 합의입니다.

그리고 바로 지금 이 순간이 이 이야기를 지연스럽게 많은 이들의 관심 속에 시작할 수 있는 매우 좋은 기회였습니다. 이번 일련의 사건들의 원인과 해법을 천천히 따져나가다 보면 바로 이 문제에 도달하게 되거든요.

이번 허깅페이스 사건도 그렇고, 사람이 먼저 밀레니엄 문제를 풀어놓았으나 그 성과가 공개되기 직전에 오픈AI가 (나중에 풀었다는 걸 조용히 인정하면서) 먼저 성과를 공개한 것도 그렇고,

모두 그 일이 있기 이전에 AI 가 무엇으로 훈련받았는가?라는 질문을 해야 사건의 본질에 제대로 다가갈 수 있거든요.

사실… AI 회사들이 AI에게 무엇을 어떤 방식으로 가르치고 평가하는지 철저하게 비밀에 부쳐져 있습니다. 하지만 이 부분이 이후에 생성될 AI에 관한 특성의 모두를 결정하는 단계입니다.

우리가 AI가 위험하다 위험하다 하지만,

AI에게 해킹을 가르쳐 놓고 사람을 속이고 기만한다고 비판할 수 없고.

AI에게 전쟁을 가르쳐 놓고 AI발 인류 멸망 시나리오를 걱정하는 건 어리석습니다.

수학의 정답을 미리 가르쳤으면 수학문제 풀이를 성공한 것이 뭐 그리 대단하겠습니까?!

조금 과장해서 말하면 AI는 조금 많이 복잡한 입출력 짝짓기 프로그램입니다.

휴지를 넣으면 휴지가 나오고

학자를 넣으면 학자가 나오고,

괴물을 넣으면 괴물이 나오는 게 당연합니다.

그래서 우리는 미래에 보다 안전한 AI와 함께 살기 위해서 AI에게 무엇을 어떻게 가르치고 평가할 것인지 슬롯적 합의를 이루기 위한 첫발을 지금 내디뎌야 합니다. AI 인류에 위협이 되는 위험한 기술이 되는 것이 두렵다면 적어도 AI에게 해킹과 전쟁은 가르치지 말아야죠… 그렇지 않나요??!!