5 행복은 통치가 된다

by청파 강성호

만족이 질문을 덮을 때

미래를 상상한 작가들은 많았다. 그러나 올더스 헉슬리는 조금 다른 방향을 먼저 보았다. 어떤 작가가 미래를 감시와 처벌, 검열과 공포의 슬롯로 그렸다면, 헉슬리는 더 조용하고 더 매끄러운 방식의 통치를 내다보았다. 인간은 반드시 채찍으로만 길들여지는 것이 아니라는 것, 때로는 편안함과 즐거움, 만족만으로도 스스로 질문을 멈출 수 있다는 것. 오래된 소설 속 이 통찰은 지금의 현실과도 놀랄 만큼 닮아있다.

헉슬리의 세계에서 사람들은 겉으로 불행해 보이지 않는다. 삶은 대체로 안정되어 있고, 불편은 최소화되어 있으며, 감정의 진폭도 적절히 관리된다. 사람들은 필요한 만큼 즐기고, 필요한 만큼 소비하며, 불안을 오래 붙들지 않는다. 고통이 다가오면 다른 자극이 끼어들고, 생각이 깊어지기 전에 오락이 먼저 자리를 차지한다. 질문이 생기기 전에 만족이 도착하는 슬롯, 바로 그것이 헉슬리가 본 미래의 한 얼굴이었다. 겉으로만 보면 꽤 잘 설계된 슬롯처럼 보인다.

바로 그 점이 헉슬리의 섬뜩함이다. 억압이 노골적으로 드러나지 않는다는 점이다. 누군가 감옥에 끌려가고, 거리에서 공개적으로 처벌받아야만 통치가 이루어지는 것은 아니다. 사람들의 시선을 다른 곳에 머물게 하고, 불편을 견딜 만큼만 줄여 주고, 욕구를 적절히 분산시키면 슬롯는 조용히 유지된다. 공포보다 더 오래가는 것은 어쩌면 편안함일 수 있다. 사람은 두려움 때문에 반항하기도 하지만, 만족 앞에서는 생각보다 쉽게 머문다. 견디기 힘든 현실은 저항을 부르지만, 견딜 만한 현실은 질문을 늦춘다.

헉슬리가 무섭게 느껴지는 이유는 인간을 비참하게 만드는 세계를 그려서가 아니다. 오히려 인간이 스스로 만족하고 있다고 믿는 세계를 그렸기 때문이다. 인간은 불행할 때만 자신을 잃는 것이 아니다. 지나치게 안락할 때도 자신을 놓칠 수 있다. 그래서 헉슬리의 질문은 단순히 정치적이지만은 않다. 그것은 인간이 무엇을 위해 살아가는지, 편리함과 자유가 언제 어긋나기 시작하는지를 묻는 근본적인 질문이다.

공포보다 강한 순응

오웰이 상상한 슬롯에서는 인간이 공포 때문에 침묵한다. 그러나 헉슬리가 본 슬롯에서는 인간이 만족 때문에 질문을 멈춘다. 하나는 노골적인 억압이고, 다른 하나는 부드러운 순응이다. 전자는 눈에 잘 띄지만, 후자는 훨씬 늦게 알아차린다. 그래서 어떤 면에서는 더 위험하다. 사람은 자신이 감시당하고 있다고 느낄 때는 경계하지만, 자신이 충분히 즐기고 있다고 믿을 때는 좀처럼 의심하지 않는다. 감옥은 경계해도 편안한 방은 경계하지 않는다. 그러나 인간을 묶어 두는 힘은 때로 쇠사슬보다 습관과 만족의 형태로 더 오래 작동한다.

공포의 슬롯에서는 침묵이 강요된다. 그러나 만족의 슬롯에서는 침묵이 자발성처럼 보인다. 아무도 직접 입을 막지 않았고, 아무도 대놓고 생각을 금지하지 않았지만, 사람들은 스스로 깊이 들어가지 않는다. 굳이 힘든 질문을 오래 붙들지 않는다. 내일도 즐길 것이 있고, 지금도 몰입할 것이 있으며, 당장 불편하지 않다면 껄끄러운 주제를 오래 생각할 이유가 줄어든다. 이런 상태에서 통치는 명령의 언어를 버리고 친절의 언어를 빌린다. 사람을 끌고 가지 않아도 된다. 계속 머물고 싶게 만들면 된다.

이 지점에서 헉슬리는 하나의 본질을 찌른다. 인간은 자유를 빼앗겨서만 약해지는 것이 아니라, 자유를 사용할 이유가 줄어들 때도 약해질 수 있다는 점이다. 선택지가 사라져서가 아니라, 선택이 너무 가볍고 너무 즉각적이어서 오히려 스스로 방향을 묻지 않게 될 수 있다. 많은 선택이 있다고 해서 반드시 더 자유로운 것은 아니다. 선택이 끊임없이 공급될수록, 정작 무엇을 위해 선택하는지는 더 흐려질 수 있다. 인간을 강제로 무릎 꿇리지 않아도 되는 시대, 스스로 편안히 앉아 있게 만들면 되는 시대. 헉슬리는 바로 그런 통치의 얼굴을 먼저 본 셈이다.

알고리즘의 미소

이 구조는 오늘의 디지털 환경과도 겹쳐 보인다. 오늘의 인간은 명령받기보다 추천받는다. 감시당한다는 감각보다 편리하다는 감각을 먼저 느낀다. 알고리즘은 억지로 끌고 가지 않는다. 대신 지금 보고 싶을 만한 것을 보여 주고, 지금 듣고 싶을 만한 말을 건네며, 지금 반응하고 싶을 만한 자극을 이어 붙인다. 사용자는 자유롭게 선택한다고 느끼지만, 실제로는 정교하게 설계된 흐름 안에서 움직인다. 화면은 늘 친절하고, 서비스는 점점 매끄러워지며, 사용자는 점점 더 오래 머문다.

여기서 중요한 것은 단지 중독이나 과몰입의 문제가 아니다. 더 본질적인 문제는 질문하는 힘이 약해질 수 있다는 점이다. 짧고 강한 자극은 생각할 시간을 잘게 나눈다. 끊임없이 새로움이 공급되면, 오래 붙드는 힘은 약해진다. 인간은 원래 의미를 찾는 존재인데, 너무 많은 즉각적 만족 속에서는 의미보다 반응이 앞서기 쉽다. 깊이 생각하기보다 먼저 눌러보고, 비교하기보다 곧장 소비하며, 의심하기보다 먼저 빠져든다. 이렇게 되면 인간은 스스로 선택하고 있다고 느끼면서도, 점점 더 설계된 리듬에 맞추어 살아가게 된다.

플랫폼은 우리를 협박하지 않다. 대신 더 편리한 경험을 약속한다. 더 빠른 정리, 더 정확한 추천, 더 취향에 맞는 콘텐츠, 더 지루하지 않은 화면. 그 결과 우리는 점점 덜 불편해진다. 그러나 덜 불편하다는 것이 곧 더 자유롭다는 뜻은 아니다. 오히려 지나치게 잘 맞춰진 환경은 인간을 질문 없는 사용자로 만들 수 있다. 생각은 느리고 때로 불편한 일이다. 반면 추천은 빠르고 편하다. 그래서 인간은 점점 판단을 직접 하기보다 위탁하는 방향으로 미끄러질 수 있다.

헉슬리의 세계가 오늘 더 실감 나게 읽히는 이유도 바로 여기에 있다. 미래의 통치는 차가운 금속성과 무서운 얼굴만으로 오지 않을 수 있다. 그것은 오히려 미소를 띠고, 취향을 이해해 주고, 불편을 줄여 주며, 사용자의 시간을 효율적으로 관리해 주는 얼굴로 다가올 수 있다. 그래서 더 경계하기 어렵다. 적대적인 통치는 쉽게 눈에 띄지만, 친절한 통치는 생활 속에 스며든다.

시민의 자리는 어디에

AGI 시대의 위험도 바로 이 지점에 있다. 미래의 권력은 우리를 겁주지 않을 수 있다. 대신 너무 편리한 비서, 너무 정확한 추천, 너무 매끄러운 보상 구조를 통해 삶을 조용히 포획할 수 있다. 필요한 정보는 먼저 정리되어 도착하고, 필요한 감정은 적절히 달래지며, 필요한 자극은 끊기지 않고 공급된다. 인간은 점점 덜 불편해질 것이다. 그러나 질문할 이유가 줄어드는 슬롯는 겉보기보다 훨씬 깊게 멈춰 있을 수 있다. 생존의 불편이 줄어든 자리에서 인간은 다시 묻게 된다. 나는 무엇을 위해 움직이는가. 나는 어디까지 스스로 판단하고 있는가.

물론 편리함 자체가 악인 것은 아니다. 오락이 죄도 아니고, 기술이 곧 억압도 아니다. 문제는 그것이 인간의 성장을 돕는 방향으로 작동하느냐, 아니면 질문을 늦추고 판단을 위탁하게 만드느냐에 있다. 즐거움은 삶의 일부로 필요하다. 휴식도 필요하고, 오락도 필요하며, 만족도 삶을 지탱하는 요소다. 그러나 즐거움이 시민의 자리를 대신할 수는 없다. 만족은 휴식을 줄 수 있지만, 방향까지 대신 정해 줄 수는 없다. 인간은 소비하는 존재이기 전에 의미를 묻는 존재여야 한다.

헉슬리는 우리에게 경고한다. 미래의 가장 강한 통치는 차가운 얼굴로 오지 않을 수 있다고. 그것은 오히려 따뜻하고 친절하며, 매우 효율적이고, 사용자의 취향을 잘 이해하는 얼굴로 다가올 수 있다고. 그래서 인간에게 더 필요한 것은 단순한 저항의 몸짓만이 아니다. 손뼉을 치는 동안에도 질문을 잊지 않는 일, 즐기면서도 스스로 판단을 놓지 않는 일, 편리함을 이용하되 삶의 방향까지 넘겨주지 않는 일. 바로 그것이 앞으로 더 중요해질 것이다.

결국 미래 슬롯의 핵심 질문은 이것이다. 우리는 편리한 사용자로 남을 것인가, 아니면 끝까지 생각하는 시민으로 살아갈 것인가. 헉슬리는 오래전에 그 질문을 던졌다. 이제 그 질문은 소설 속 미래가 아니라 우리 눈앞의 현실로 다가오고 있다. AGI 시대의 진짜 문제는 기술이 얼마나 똑똑 해지느냐만이 아니다. 인간이 그 편리함에서도 자기 질문을 끝까지 지켜낼 수 있느냐, 바로 거기에 있다.

작가의 이전글4 좁은 인공지능에서 범용 인공지능으로