빅테크가 앤쓰로픽 사용량을 반으로 줄인 이유

이 글의 내용은 The Information의 10월 5일 기사 "Microsoft Slashes Internal Claude Spending by a Third"를 바탕으로, 김PM이 현장에서 쌓아온 경험과 관점을 더해 정리한 것입니다.

헤드라인만 보면 앤쓰로픽의 위기입니다.

기사의 시작은 "앤쓰로픽의 최대 기업 고객 중 두 곳인 메타 플랫폼스와 마이크로소프트가 직원들의 클로드 사용을 줄이려 하고 있으며, 이는 폭발적 성장을 이어가려는 이 AI 기업에 도전 과제가 되고 있다."고 전합니다. "앤쓰로픽 위기"로 읽히기 쉬운 헤드라인입니다. 사실 앤쓰로픽은 지난해 매출의 4분의 1 가까이를 이 두 빅테크 고객에게 의존했습니다. 그러나 실제 이 기사의 핵심은 빅테크 기업들이 AI를 비용 항목으로 관리하기 시작했다는 점입니다.

마이크로소프트는 사내 클로드 지출을 3분의 1 넘게 줄였고, 메타의 클로드 코드 사용자는 6만 명에서 3만 명으로 반토막이 났습니다. 그냥 줄이라고 줄인게 아닙니다. 두 회사 모두 사내 AI 사용을 자체 모델과 도구로 옮기려 하고 있습니다. 즉 모델간의 역량차이가 줄어드는 시점에 "자체 모델과 도구로의 이동", 즉 수직계열화를 하고 있다는 것입니다.

"삼성과 애플" 관계 같은 가장 큰 고객이 가장 큰 경쟁자가 되는 이른바 "프레너미(frenemy) 리스크" 라고 부르는 구조가 된 것입니다.

그런데 기사 끝에 쯤 숫자 하나가 숨어 있습니다. 마이크로소프트가 앤쓰로픽에 내는 총액은 올해 초 고점과 "거의 같다"는 것입니다. 사내에서 줄인 만큼, 고객용 코파일럿에서 늘었기 때문입니다. 앤쓰로픽이 마이크로소프트에게서 받는 총액은 변함이 없지만, 마이크로소프트는 본인 지출을 줄이고, 고객의 주머니에서 채웠다는 뜻이죠.

마이크로소프트는 클로드를 줄인 게 아니라, '누가 고르느냐'라는 시장 주도권을 바꾼 것입니다.

그렇다면 이 기사에서 진짜 바뀐 건 무엇일까요? 모델이 아니라, 모델을 고르는 권한의 주인입니다.

그 배경을 3가지로 나누어 알아볼까요?

1. 토큰이 예산 항목이 되었다

마이크로소프트 클라우드·AI 그룹의 직원 1인당 AI 한도는 월 10만 달러에서 1만 달러로 줄었습니다. 메타는 대시보드를 사용하여 과다 사용을 감시합니다.

무제한 법인카드 시절이 끝나고 한도가 생긴 겁니다. 10년 전 클라우드가 걸었던 길, 즉 무제한 실험 단계를 지나 FinOps 단계로 들어서는 길을 AI가 그대로 따라가고 있습니다.

2. 기본 플랫폼을 쥔 자가 시장을 쥔다

마이크로소프트는 클로드를 금지하지 않았습니다. 클로드 코드 구독을 줄이고, 깃헙 코파일럿을 통해 접근하게 했을 뿐입니다. 다만 Copilot의 “auto” 모드는 대부분의 쿼리를 오픈AI로 보냅니다. 마이크로소프트는 오픈AI 모델에 돈을 내지 않으니까요.

선택권은 남아 있습니다. 그런데 이 디폴트 값을 바꾸는 사람이 몇이나 될까요?

모델 경쟁의 승부처가 벤치마크 점수에서 플랫폼으로 넘어가고 있습니다. 성능이 아니라 클라우드 사용 구조가 모델을 고르는 시대입니다.

3. 토큰맥싱의 교훈

한 때 메타 직원들은 “Claudeonomics”라는 리더보드에서 토큰 사용량 순위를 다퉜습니다. AI를 많이 쓰는 것이 곧 AI를 잘하는 것처럼 여겨진 겁니다. 하지만, 이젠 메타도 비용 통제를 시작합니다. 또한 자사 모델을 적극적으로 사용해야 할 때가 된 것입니다. 직원 사용 데이터가 곧 제품 개선 재료가 되니까요.

이 기사를 읽고 실제적으로 해야할 질문은 "어느 모델이 이기는가"가 아닙니다. ”누가 라우팅을 통제하는가"입니다.

마이크로소프트가 하룻밤 사이에 기본 모델을 바꿀 수 있었던 이유는 단순합니다. GitHub Copilot이라는 "그릇"을 쥐고 있었기 때문입니다. 메타도 마찬가지입니다. 최근에 출시한 Muse Code가 꽤 괜찮은 반응이거든요.

팔란티어, 엔비디아, 부즈앨런해밀턴이 데이터 프라이버시 때문에 앤쓰로픽의 최상위 모델 사용을 줄였다는 대목도 그냥 넘길 수 없습니다. 가장 민감한 데이터 앞에서는 거버넌스가 모델 성능을 이깁니다. 모델은 갈아끼울 수 있습니다. 하지만 비즈니스 프로세스 맥락, 권한 체계, 감사 추적은 갈아끼울 수 없습니다.

결국 엔터프라이즈 AI 경쟁은 모델의 경쟁이 아니라 기본값과 거버넌스의 경쟁입니다.

여러분 조직의 AI 토큰 예산은 지금 누가 관리하고 있습니까? 그리고 여러분 회사의 "기본 모델"은, 누가 정했습니까?