AI 테크래시를 대비하자

산업혁명은 러다이트 운동을 낳았다. 대량생산은 환경운동을 낳았고, 금융의 세계화는 반세계화 운동을 낳았다. 새로운 기술은 언제나 문명을 발전시키는 동시에 새로운 슬롯적 저항도 만들어 왔다.

인공지능 역시 예외가 아니다. 최근 세계는 AI에 대한 새로운 역풍을 경험하고 있다. 이를 'AI 테크래시(AI Techlash)'라고 부른다. 기술(Tech)과 역풍(Backlash)의 합성어인 테크래시는 기술이 슬롯에 가져온 부작용과 위험에 대한 반발을 의미한다.

AI 테크래시의 시작은 단순히 일자리 감소에 대한 불안이 아니다. 인간이 AI를 얼마나 신뢰할 수 있는가에 대한 근본적인 질문이다.

첫째는 AGI의 안전성이다. 인간을 뛰어넘는 범용인공지능이 등장했을 때 그것이 인간의 가치와 목적을 끝까지 유지할 수 있는가에 대한 우려가 커지고 있다.

둘째는 AI 정렬(AI Alignment)이다. AI가 인간의 의도에 맞게 행동하도록 만드는 기술은 오늘날 AI 연구의 핵심 과제가 되었다. 그러나 정렬의 기준을 누가 만들고 무엇을 기준으로 삼을 것인가에 대해서는 여전히 세계적인 논쟁이 이어지고 있다.