누가 이런 미래를 주문했습니까?

AI 기술은 발전했지만, 우리는 이런 세상에 동의한 적이 없다.

누군가는 발명했고 투자했고 ‘혁신’이라 이름 붙였다.

기술과 함께 살아야 할 우리에게는 묻지 않았다. 이런 세상에 살고 싶으냐고.

기술의 역사를 읽을수록 눈에 들어온다.

문제를 해결하려고 만든 물건이 새로운 문제를 만들고, 해결한다며 또 다른 기술이 등장한다. 사람들은 연쇄를 발전이라고 부른다.

하지만 무엇이 계속 좋아지고 있는지, 누구의 삶이 나아졌는지는 잘 묻지 않는다.

1920년대 자동차의 엔진 성능을 개선하기 위해 휘발유에 납 성분을 첨가하기 시작했다. 자동차는 잘 달렸지만, 납은 사람의 몸과 토양에 쌓였다.

유엔환경계획에 따르면 유연휘발유의 전 세계 사용이 완전히 끝난 해는 무려 2021년이다. UNEP는 퇴출 효과로 해마다 120만 명 이상의 조기 사망을 예방할 수 있다고 추정했다.

성능을 높인다는 명분과 그 비용을 누가 치렀는지는 전혀 다른 이야기였다.

기술의 이익은 계산서 맨 위에 적힌다. 피해는 계산서 밖에 남는다.

숫자가 아름다워지는 순간에도 사람의 삶까지 좋아졌는지는 별도로 물어야 한다.

클릭은 동의가 아니다.

몰입은 행복의 증거가 아니다.

수익은 슬롯적 필요의 다른 이름이 아니다.

2024년 미국 연방거래위원회는 주요 소셜미디어와 영상 플랫폼들의 광범위한 개인정보 수집과 불충분한 보호조치를 지적했다. 플랫폼은 사람을 더 오래 붙잡을수록 광고를 팔기 쉽다. 스스로 선택했다고 여긴 체류 시간은, 선택을 유도하도록 설계된 환경의 결과이기도 하다.

‘사용자가 원했다’는 설명은 설계자의 바카라임을 편리하게 지운다.

친구처럼 말하는 AI도 있다.

외로운 사람에게 대화 상대를 제공하는 일 자체가 잘못은 아니다. 그러나 2025년 미국 연방거래위원회가 일곱 기업의 AI 동반자 서비스에 대해 미성년자 보호와 부작용 검증 방식을 조사하기 시작했다는 사실은 의미심장하다.

유해성이 확정됐다는 판결이 아니다. 내가 묻고 싶은 건 그 이전이다.

왜 사람의 마음에 깊숙이 들어갈 기술은 먼저 출시되고, 그다음에야 안전을 입증하라고 요구받는가.

기업은 미완성 제품을 베타 버전이라고 부를 수 있다.

그러나 어린이의 감정과 인간관계까지 시험 대상이 된다면 이야기가 달라진다. 사람은 제품의 오류를 기록하는 실험용 로그가 아니다.

보이지 않는 비용은 또 있다.

국제에너지기구는 전 세계 데이터센터 전력 소비가 2024년 약 415TWh에서 2030년 약 945TWh로 증가할 수 있다고 전망했다. AI뿐 아니라 다른 디지털 서비스의 성장도 포함된 수치다.

기술의 편익은 사무실과 가정에서 즐기고, 전력망 증설과 환경 부담은 다른 지역 주민이 함께 감당한다면, 누구의 필요가 누구의 삶을 결정한 것일까.

모든 발명을 탐욕의 산물이라고 단정하고 싶지 않다.

백신과 정수시설, 장애인의 이동을 돕는 보조기술까지 부정할 수는 없다. 기술은 실제 필요에서 탄생하기도 한다.

필요가 발명의 유일한 부모였던 적도 없다.

호기심, 경쟁, 권력, 이윤이 때로는 더 강력한 동기가 된다.

문제는 욕망의 존재가 아니다.

소수의 욕망이 다수의 생활환경을 바꾸는데, 그 다수에게 거부권이 없다는 사실이다.

1975년 아실로마 회의에서 과학자들은 유전자 재조합 연구의 위험을 논의하고 엄격한 통제를 제안했다. 멈춤은 무지가 아니라 지식의 결과일 수 있다.

유럽연합의 AI법도 온라인 게임과 교육기관에서 감정을 추론하는 특정 AI 활용 등을 금지한다. 의료·안전 목적 등의 예외는 있지만 여기에는 분명한 판단이 있다. 모든 기술적 가능성이 슬롯적 허가증을 얻는 것은 아니라는 판단이다.

한국에서도 2025년 AI 디지털교과서의 법적 지위가 교과서에서 교육자료로 변경됐다.

누군가는 혁신의 후퇴라고 비판했고, 교실의 선택권을 지키는 결정이라고 봤다.

논쟁 자체가 중요하다.

교육의 목적을 정하기 전에 교육 기술의 도입부터 확정하는 것이 과연 옳은가. 아이들에게 어떤 세상을 가르칠 것인지 논의하지 않은 채, 화면과 알고리즘부터 배치해야 할 이유는 없다.

기술의 발전을 무조건 막자는 뜻이 아니다.

위험이 큰 기술에는 출시 전 독립적인 검증이 필요하다.

피해를 입을 사람들이 의사결정에 참여해야 한다. 도입한 기술이라도 철회할 수 있어야 한다. 규제가 거대기업만 감당할 수 있는 진입장벽이 되지 않도록 설계하는 일도 중요하다.

지금껏 기술을 고르는 법보다 적응하는 법을 배웠다.

새 앱이 나오면 설치했고, 새로운 규칙이 생기면 익숙해지려 애썼다. 그렇게 세상의 속도는 빨라졌지만, 속도를 정할 권리는 누구에게 있었을까.

기술이 사람을 얼마나 빨리 움직이게 하는지보다, 사람이 싫다고 말했을 때 얼마나 쉽게 멈출 수 있는지를 보고 싶다.

학교에는 도입을 수정할 권리가, 노동자에게는 부당하게 감시당하지 않을 권리가, 어린이에게는 충분히 검증되지 않은 기술로부터 보호받을 권리가 있어야 한다.

바라는 미래는 기술이 없는 세상이 아니다.

기술을 거절해도 인간다운 생활을 할 수 있는 세상이다.

진보는 무엇이 가능해졌는지로만 측정할 수 없다.

무엇을 하지 않기로 함께 결정할 수 있는지도 진보다.

기술에 던질 질문은 달라져야 한다.

“그 기술이 완성한 세상에서, 누구는 웃고 누구는 대가를 치르는가?”

우리가 지켜야 할 것은 기술의 미래가 아니다.

기술이 만들어 놓을 세계에서 살아갈 인간의 미래다.