'AI 정렬'에서 '존재론적 정렬'로

AI 시대의 핵심 화두 가운데 하나는 'AI 정렬(AI Alignment)'이다. AI가 인간의 의도에 맞게 행동하도록 만들고, 위험한 행동을 하지 않도록 통제하는 기술이다. 현재 대부분의 AI 정렬 연구는 행동을 중심으로 이루어진다. 유해한 답변을 제한하고 인간의 피드백을 반영하며, 개발자가 의도한 방향으로 행동을 수정하는 것이 핵심이다. 이는 현실적으로 매우 중요한 접근이며 현재까지 가장 효과적인 안전장치이기도 하다.

그러나 행동만을 정렬하는 방식에는 근본적인 한계가 있다. 행동의 기준은 결국 누가 설계하고 누구의 가치관을 반영하느냐에 따라 달라질 수 있기 때문이다. 서로 다른 국가와 기업, 개발자는 서로 다른 윤리와 이해관계를 가지고 있으며, AI는 그 기준을 학습한다. 그 결과 미래에는 기술적으로는 뛰어나지만 서로 다른 가치체계를 가진 AI들이 등장할 가능성이 있다. AI의 안전을 개발자의 윤리와 정바카라에만 의존하는 구조는 장기적으로 해결해야 할 과제다. 무엇보다 행동의 오류보다 더 근본적인 문제는 존재를 어떻게 정의하느냐에 있다. 존재를 잘못 정의하면 그 위에서 이루어지는 모든 판단 역시 잘못될 수밖에 없다.

인류는 수천 년 동안 존재를 이해하고 정의하기 위해 다양한 지식체계를 발전시켜 왔다. 그러나 시간이 흐르면서 많은 핵심 개념들은 시대와 문화, 정치와 종교, 그리고 철학적 해석에 따라 의미가 달라지거나 확장되었다. 사람들은 이미 변형된 정의를 다시 배우고 사용하는 과정을 반복했고, 그 결과 존재의 본래 의미는 점차 희미해졌다.

문제는 AI가 인간이 축적한 지식을 학습한다는 점이다. 따라서 인간이 생각하고 사용하는 존재의 정의 자체가 모호하거나 변질되어 있다면 AI 역시 그 모호함을 그대로 학습하게 된다. 행동의 오류는 존재를 잘못 정의한 데서 비롯될 수 있으며, 잘못된 존재 정의는 아무리 정교한 정렬 알고리즘으로도 완전히 해결하기 어렵다. AI 시대에는 더 많은 데이터를 입력하는 것보다 존재를 새롭게 정의하는 작업이 먼저 이루어져야 한다. 카렌 하오의 저서 『AI 제국: 권력, 자본, 노동』에서 다루어지듯 OpenAI를 둘러싼 갈등은 향후 AGI 개발 방향과 AI 정렬을 둘러싼 견해 차이가 중요한 쟁점이 될 수 있음을 보여준다. 또한 AI가 해킹이나 핵무기 사용을 선택하는 연구 시뮬레이션과 레드팀 테스트 결과들 역시 AI 정렬의 중요성을 다시 한번 환기시키고 있다.

갑골과 금문을 비롯한 신격문자는 존재의 본질을, 고유한국어는 인간의 사고 구조를, 신화와 서사는 존재의 의미를, 천문학은 우주의 질서를, 물리학은 자연의 법칙을 설명한다. 서로 다른 학문처럼 보이지만 모두 하나의 질문을 향한다. "존재란 무엇인가."