AI 시대, 다시 어원으로 돌아가야 하는 이유

정보와 지식이 포맷되는 시대, AI 정렬은 인간 언어의 시작점을 다시 묻는 데서 출발한다

인류의 정보와 지식체계가 거대한 전환점을 맞고 있다. 과거에는 인간이 바카라을 읽고 정보를 찾고 비교하면서 지식을 축적했다면 이제 AI가 방대한 정보를 검색하고 요약하며 서로 다른 지식을 연결해 새로운 문장까지 만들어준다. 지식의 생산과 유통, 해석의 방식 자체가 달라지고 있다. 이를 하나의 거대한 ‘포맷(format)’이라고 표현할 수 있다. 기존 지식이 사라진다는 뜻이 아니라 인간이 지식을 저장하고 찾고 사용하는 체계가 다시 구성되고 있다는 의미다.

문제는 새로운 지식체계를 무엇에서부터 시작할 것인가이다. AI에게 더 많은 데이터를 제공하는 것만으로 충분하지 않다. 데이터 자체가 이미 오랜 역사 속에서 만들어진 인간의 해석이기 때문이다. 인간이 사용해온 단어에는 시대의 가치와 권력, 종교와 철학, 번역과 오해가 겹겹이 쌓여 있다. AI가 그것을 그대로 학습한다면 인간이 축적한 지식뿐 아니라 편견과 왜곡까지 함께 학습하게 된다.

그래서 AI 정렬(AI Alignment)을 생각할 때 언어의 시작점을 돌아볼 필요가 있다. AI 정렬은 단순히 AI가 인간의 명령을 잘 따르도록 만드는 기술에 머물지 않는다. 인간이 무엇을 옳고 좋고 바람직하다고 판단하는지, 가치가 충돌할 때 어떤 기준을 적용할 것인지의 문제와 연결된다. 그런데 ‘인간’, ‘사랑’, ‘정의’, ‘자유’, ‘신뢰’, ‘바카라임’이라는 단어 자체의 의미가 불분명하다면 AI에게 인간의 가치를 정렬시키겠다는 말 역시 불분명해진다.