AI 정렬 2.0은 왜 필요한가

오늘날 AI 산업은 전례 없는 속도로 성장하고 있다. 각국 정부는 수십조 원을 투자하고 있으며, 기업들은 더 큰 모델과 더 빠른 반도체, 더 거대한 데이터센터를 경쟁적으로 구축하고 있다. 그러나 기술의 속도가 빨라질수록 한 가지 질문도 함께 커지고 있다. 누가 AI를 정렬하고 있는가.

현재 AI 정렬(AI Alignment)은 목표를 정렬하고, 가치를 정렬하며, 행동을 정렬하는 방향으로 발전하고 있다. RLHF, 헌법적 AI, 레드티밍과 같은 다양한 기술은 AI가 인간에게 위험한 행동을 하지 않도록 만드는 중요한 안전장치이다. 그러나 이러한 기술은 대부분 AI가 무엇을 해야 하는가를 다룬다. 그보다 앞선 질문인 무엇을 존재로 정의할 것인가는 상대적으로 충분히 논의되지 못하고 있다.