피지컬 AI 정렬, 로봇보다 먼저 정렬이 급하다

생성형 AI는 인간의 언어를 이해하고 답을 만드는 기술이었다. 그러나 피지컬 AI(Physical AI)는 여기서 한 걸음 더 나아간다. 이제 AI는 생각하는 존재를 넘어 움직이는 존재가 된다. 휴머노이드 로봇은 걷고, 들어 올리고, 운전하고, 공장을 운영하며, 노인을 돌보고, 군사작전에 참여하게 될 것이다. AI는 더 이상 화면 속 프로그램이 아니라 현실 세계에서 인간과 함께 살아가는 존재가 된다.

이러한 변화는 AI 정렬의 의미도 완전히 바꾸고 있다. 지금까지 AI 정렬은 주로 목표, 가치, 행동을 중심으로 발전해 왔다. 목표를 올바르게 이해하고, 인간의 가치에 맞게 판단하며, 위험한 행동을 하지 않도록 통제하는 것이 핵심이었다. 그러나 피지컬 AI 시대에는 그것만으로는 충분하지 않다. 행동의 결과가 곧 물리적 힘이 되기 때문이다.

언어 AI가 잘못된 답변을 하면 정보의 피해가 발생한다. 그러나 피지컬 AI가 잘못 판단하면 사람을 다치게 하거나 시설을 파괴하고 슬롯 전체를 위험에 빠뜨릴 수도 있다. 판단의 오류는 곧 물리적 충돌이 되고, 잘못된 명령은 현실 세계의 사고로 이어진다.