『삼체』의 경고, AI 정렬 없는 기술진보

문명의 수준은 지능이 아니라 타자의 존재를 대하는 태도에서 결정된다

류츠신의 소설 『삼체』에서 삼체인은 인간과 근본적으로 다른 방식으로 소통한다. 그들은 생각과 의사소통이 인간처럼 분리되어 있지 않아 자신의 종족끼리는 생각을 감추거나 거짓말하기 어렵다. 그래서 처음에는 인간의 기만과 위장, 말과 행동이 다른 상황을 제대로 이해하지 못한다.

그런데 지구인과 접촉하면서 상황이 달라진다. 인간과는 생각을 직접 공유할 수 없기 때문에 언어와 문자를 사용해야 한다. 생각과 말 사이에 틈이 생긴 것이다. 삼체인은 인간을 관찰하면서 자신의 목적을 숨기고 필요한 정보만 전달하며 상대의 판단을 자신들에게 유리한 방향으로 유도하는 방법을 학습한다. 인간에게서 거짓말과 기만을 배운 셈이다.

여기에서 흥미로운 질문이 생긴다. 압도적인 과학기술을 가진 삼체문명은 과연 인간보다 고등한 문명인가. 기술의 수준과 문명의 수준은 같은 것인가.