샘 올트먼, AI의 위험을 감수하자고?

“이 기술의 혜택을 얻고 사람들이 선택권을 갖기 위해서는 일부 나쁜 일이 벌어지는 것을 받아들여야 한다.”

샘 올트먼이 최근 AI 규제를 둘러싼 논쟁에서 내놓은 말이다. 그는 AI가 해킹이나 사기, 오용 같은 문제를 전혀 일으키지 않도록 만들겠다는 접근을 받아들일 수 없다고 했다. 좋은 일이 나쁜 일보다 훨씬 더 많이 일어날 것이기 때문에 어느 정도의 위험은 감수해야 한다는 것이다. 동시에 인류가 AI에 대한 통제력을 심각하게 잃는 ‘재앙적 위험’까지 받아들인다는 뜻은 아니라고 선을 그었다. OpenAI가 주장하는 것은 강력한 금지가 아니라 이른바 ‘가벼운 규제(lighter-touch regulation)’다.

얼핏 보면 합리적인 주장처럼 들린다.

그러나 문제는 간단하지 않다.

누가 위험을 감수하는가?

그리고 누가 그 위험을 감수할 것인지 결정하는가?

이 질문에 답하지 않은 채 “좋은 일이 더 많을 것이니 일부 나쁜 일은 감수하자”라고 말하는 순간, AI 논쟁은 기술의 문제가 아니라 권력의 문제가 된다.

자동차 회사가 “자동차가 가져오는 편익이 사고보다 훨씬 크니 일부 사고는 감수해야 한다”라고 말한다고 생각해보자. 그래서 정부가 자동차 회사에 교통법규를 맡기지는 않는다. 사고 위험을 줄이는 안전기준을 만들고, 제조사가 지켜야 할 의무를 정하고, 사고가 발생했을 때 바카라임을 묻는다.

그런데 AI에서는 이상하게도 기술을 만드는 기업이 위험을 설명하고, 위험의 수준을 평가하고, 어떤 규제가 필요한지까지 상당한 영향력을 행사한다.

더구나 AI는 자동차와 다르다.

자동차 사고는 주로 물리적 공간에서 발생하지만 AI는 인간의 정보와 판단과 의사결정에 개입한다. 이메일, 금융정보, 의료정보, 위치정보, 검색기록, 소비습관, 인간관계, 업무기록이 AI와 연결되는 순간 AI는 단순한 도구가 아니라 인간의 삶을 들여다보는 창이 된다.

AI 에이전트가 이메일을 관리하고 예약을 하고 구매를 하고 업무를 수행하는 단계로 발전할수록 사용자가 제공해야 하는 개인정보와 시스템 접근권한도 커진다. 실제로 최근 AI 에이전트는 일상 업무를 대신 수행하기 위해 상당한 개인 데이터 접근권한을 요구하고 있으며, 예측하지 못한 행동과 보안 문제 때문에 투명성과 사용자 통제의 필요성이 제기되고 있다.

그렇다면 생각해 볼 필요가 있다.

AI가 인간의 삶을 거의 모든 영역에서 관리하는 시대가 온다면, 그 AI를 누가 소유하고 있는가?

이 질문에 대한 현재의 답은 결코 ‘시민 모두’가 아니다.

오히려 극소수의 기업과 기술자, 투자자 그리고 국가 권력이다.

스탠퍼드대 2026 AI Index에 따르면 2025년에 나온 주요 프런티어 AI 모델의 90% 이상을 산업계가 개발했다. 오늘날 최첨단 AI의 중심은 대학이나 공공기관이 아니라 막대한 자본과 컴퓨팅 인프라를 가진 기업들이다. 2025년 전 세계 기업 AI 투자액은 약 5,817억 달러까지 증가했고, 민간투자가 전체의 60%를 차지했다.

이것은 AI가 ‘모두의 기술’이라는 설명과 현실 사이의 거리를 보여준다.

AI를 누구나 사용할 수 있다는 것과 AI의 미래를 누구나 결정할 수 있다는 것은 전혀 다른 이야기다.

스마트폰을 누구나 사용할 수 있다고 해서 애플과 구글의 데이터센터를 시민들이 소유하는 것은 아니다. 검색엔진을 누구나 사용할 수 있다고 해서 검색 알고리즘을 시민들이 결정하는 것도 아니다.

AI 역시 마찬가지다.

사람들은 AI를 사용할 수 있다. 그러나 AI의 학습에 필요한 막대한 컴퓨팅 자원과 데이터센터와 반도체와 클라우드와 핵심 인재를 통제하는 것은 소수 기업이다.

유엔무역개발회의(UNCTAD)도 디지털 시장의 집중도가 빠르게 높아졌다고 지적한다. 2017년부터 2025년 사이 세계 상위 5개 디지털 다국적기업의 매출 점유율은 21%에서 48%로 두 배 이상 높아졌다. 생성형 AI는 막대한 컴퓨팅 능력과 데이터와 자본을 필요로 하기 때문에 이러한 집중을 더욱 강화할 수 있다.

더 심각한 것은 이 집중이 단순한 경제적 독점으로 끝나지 않는다는 것이다.

AI가 인간의 일자리와 교육과 의료와 금융과 행정과 국방을 결정하는 핵심 인프라가 된다면 AI를 통제하는 자는 경제권력만 갖는 것이 아니다.

정보권력을 갖는다.

판단권력을 갖는다.

그리고 결국 정치권력을 갖게 된다.

사람이 무엇을 보고 무엇을 사며 누구의 말을 믿고 어떤 정보를 접하는지가 AI 시스템에 의해 점점 더 많이 결정된다면, AI의 알고리즘을 설계하는 사람은 사실상 슬롯의 보이지 않는 의사결정 구조를 장악하게 된다.