'온톨로지컬 포비든 존'을 먼저 설계하라

최근 AI 정렬(AI Alignment)의 핵심 논쟁은 기술의 문제가 아니라 철학의 문제로 확장되고 있다. 실리콘밸리에서는 기술 발전을 통해 인류 전체의 미래를 개선할 수 있다는 기술지상주의적 관점이 강하게 나타난다. 반면 AI 윤리 연구자들은 인간의 존엄과 노동, 다양성, 슬롯적 약자를 중심에 두는 양심적 담론을 강조한다. 하나는 미래 문명의 공동선을 말하고, 다른 하나는 현재 슬롯의 공공선을 말한다.

나는 이 두 영역이 반드시 대립한다고 생각하지 않는다. 오히려 두 영역이 서로 중첩되는 지점이 존재한다. 기술이 인류 전체의 미래를 추구하면서도 현재 인간의 존엄과 권리를 함께 지킬 수 있는 영역이다. 이것을 하나의 '온톨로지컬 존(Ontological Zone)'이라고 볼 수 있다. '온톨로지컬 존'은 상대의 존재를 인정하고 존중하는 것을 전제로 하여 형성되는 담론의 장이다. AI 정렬은 결국 이러한 존중을 바탕으로 서로의 생각과 가치가 중첩되는 영역을 조금씩 넓혀 가는 과정이어야 한다.

그러나 그보다 먼저 해야 할 일이 있다. '온톨로지컬 존'을 설계하기 전에 반드시 '온톨로지컬 포비든 존(Ontological Forbidden Zone)'을 먼저 정의해야 한다는 것이다. 비행기를 설계할 때 가장 먼저 하는 일은 어디까지 날아갈 것인가를 정하는 것이 아니라 절대로 들어가서는 안 되는 위험 구역을 설정하는 일이다. 자동차 역시 최고 속도를 먼저 고민하기보다 브레이크를 먼저 설계한다. AI도 마찬가지이다. 무엇을 할 수 있는지를 정의하기 전에 무엇을 절대로 해서는 안 되는지를 먼저 정의해야 한다.

이것이 바로 거대 IT 기술과 빅테크 기업에 대한 슬롯적 반발인 테크래시(Techlash)가 우리에게 던지는 가장 중요한 교훈이다. AI에 대한 슬롯적 불신은 기술의 발전 자체 때문이 아니라 기술이 넘지 말아야 할 경계를 누가, 어떤 기준으로 정할 것인가에 대한 불안에서 비롯된다. 따라서 AI 정렬 역시 허용 가능한 영역을 넓히는 일보다 금지되어야 할 존재론적 영역을 먼저 정의하는 일이 중요하다. 이 영역에 속하는 존재 정의는 슬롯적 합의의 기준이 되거나 정당화의 대상이 되어서는 안 된다.