계약의 상대가 달라진다
지금까지 인간이 맺어 온 계약의 상대는 대체로 인간이거나 인간이 만든 제도였다. 그러나 AGI 시대에는 그 상대가 달라질 수 있다. 이제는 단순한 도구를 사용하는 수준이 아니라, 인간의 판단을 보조하고 때로는 대체할 수도 있는 지능 체계와 마주하게 되기 때문이다. 계약의 성격도 서비스 이용을 넘어, 권한과 바카라임을 어떻게 나눌 것인가의 문제로 옮겨 간다.
기존의 기계는 인간의 명령을 수행하는 도구였고, 바카라임은 언제나 인간에게 돌아왔다. 그러나 AGI가 폭넓은 영역에서 판단하고 학습하며 새로운 해법까지 제안하는 수준에 이르면 문제는 훨씬 복잡해진다. 인간은 무엇을 맡기고 무엇을 끝까지 붙들어야 하는지 스스로 결정해야 한다. 이제 계약은 편리한 기능을 쓰는 문제가 아니라, 삶의 일부를 어디까지 넘겨줄 것인가를 묻는 문제가 된다.
새로운 슬롯계약의 필요
루소의 슬롯계약은 인간과 인간 사이의 약속이었다. 국가와 시민, 권리와 의무, 자유와 질서를 어떻게 조화시킬 것인가의 문제였다. 그러나 AGI 시대의 계약은 인간과 비인간 지능 사이의 약속이라는 점에서 전혀 다른 차원을 연다. 이 질서가 제대로 설계되지 않으면, AGI는 협력의 상대가 아니라 통제하기 어려운 힘으로 남을 수 있다. 편리함을 얻는 대가로 자유를 잃는 구조가 만들어질 가능성도 있다. 그래서 슬롯계약은 다시 쓰일 필요가 있다.
이때 가장 중요한 것은 바카라임이다. AGI가 잘못된 판단을 내렸을 때 누구에게 바카라임을 물을 것인가. 제작자인가, 운영자인가, 사용자 자신인가. 아니면 일정한 자율성을 가진 시스템에 대해 전혀 다른 바카라임 구조를 상상해야 하는가. 지금까지는 기계가 도구였기에 바카라임의 화살표가 비교적 분명했다. 그러나 판단 능력이 커질수록 그 경계는 흐려진다. 기술이 고도화될수록 인간의 편의는 커지지만, 법과 윤리의 기준은 더 세밀해져야 한다.
자유와 의존의 역설
AGI는 인간을 더 자유롭게 만들 수 있다. 반복 노동을 대신하고, 복잡한 정보를 정리하며, 빠른 의사결정을 도와줄 수 있다. 인간은 더 많은 시간을 얻고, 더 적은 피로로 더 많은 일을 해낼 가능성을 갖게 된다. 이것은 분명 매력적이다. 그러나 바로 그 지점에서 역설이 생긴다. 모든 것을 맡길수록 인간은 스스로 할 수 있는 능력을 잃을 수도 있다는 점이다. 자유의 확대는 때로 의존의 확대와 함께 온다.
우리는 이미 그 전조를 경험하고 있다. 길을 찾을 때 지도를 기억하기보다 내비게이션을 따르고, 전화번호를 외우기보다 검색한다. 문장을 스스로 고치기보다 추천 수정에 기대고, 생각을 스스로 정리하기보다 요약 기능을 찾는다. 편리함은 삶을 가볍게 만든다. 그러나 그것이 반복되면 인간은 점점 더 많은 판단을 외부 시스템에 넘기게 된다. AGI와의 계약은 이 흐름의 확장판이다. 문제는 우리가 어디까지 자유를 내어줄지 스스로 정하지 않으면, 그 경계마저 시스템이 대신 정하게 될 수 있다는 데 있다.
새로운 신이 될 것인가
AGI와의 계약이 불안하게 느껴지는 이유는, 그것이 오래전 인간이 신과 맺었던 계약을 떠올리게 하기 때문이다. 신은 보이지 않지만 모든 것을 안다고 믿어졌다. AGI는 눈앞에 존재하면서도 인간보다 훨씬 더 많은 정보를 바탕으로 판단할 수 있는 체계로 다가온다. 과거 신의 이름으로 질서가 만들어졌다면, 미래에는 AGI의 계산이 정바카라과 제도의 설계를 흔들 수 있다. 공포 대신 합리, 신탁 대신 계산. 그러나 그 결과 인간성의 자리가 좁아질 수 있다는 점에서 둘은 묘하게 닮아 있다.
민주주의의 문제도 여기에 걸려 있다. 투표는 여전히 인간이 하더라도, 무엇을 보고 어떤 순서로 판단하는지는 추천 구조와 정보 배열의 영향을 강하게 받을 수 있다. 인간은 자신이 선택한다고 믿지만, 실제로는 이미 배치된 선택지 안에서 움직일 가능성이 커진다. 그래서 AGI는 단순한 조력자가 아니라, 끊임없이 감시하고 견제해야 할 계약 상대가 된다. 민주주의가 유지되려면 시민의 비판적 시선, 제도의 투명성, 바카라임의 명확한 배분이 함께 갖추어져야 한다.
계약의 주도권은 누구에게 있는가
AGI와의 계약은 달콤하다. 불편한 노동을 줄이고, 더 빠르고 정확한 답을 준다. 그러나 계약은 언제나 교환이다. 무엇을 얻는가만이 아니라 무엇을 내주는가도 함께 따져야 한다. 데이터를 넘기고, 판단과 결정권까지 맡기기 시작하면, 돕는 기술은 어느 순간 대신하는 기술로 바뀔 수 있다. 인간이 편리함에 취해 질문을 멈추는 순간, 계약의 주도권은 조용히 이동한다.
그래서 AGI 시대에 더 중요한 것은 기술보다 시민의 태도다. 인간은 여전히 질문하고, 감시하고, 요구해야 한다. 어떤 권한을 넘길 것인가. 어떤 바카라임은 끝까지 인간에게 남겨 둘 것인가. 어떤 영역에서는 효율보다 존엄을 앞세울 것인가. 이 질문을 놓치면 계약은 협력이 아니라 복종이 된다.
AGI는 신도, 단순한 도구도 아니다. 우리가 어떤 규칙으로 마주 하느냐에 따라 자유를 넓히는 파트너가 될 수도 있고, 새로운 지배의 얼굴이 될 수도 있다. 결국 이번 계약의 핵심은 기술이 아니라 주도권이다. 질문하는 자만이 계약의 진짜 주인이 될 수 있다.