엔비디아 왕국의 균열

엔비디아는 AI 시대의 가장 강한 회사다.

하지만 강한 회사라고 해서 영원히 혼자 시장을 지배할 수는 없다.
AI 반도체 시장에서는 이미 작은 균열이 생기고 있다.

‘영원한 건 절대 없어 결국에 넌 변했지.’

지드래곤(GD)의 대표곡 「삐딱하게(CROOKED)」에 나오는 가사다.
노래 속에서는 사랑의 변화처럼 들리지만, 산업을 볼 때도 이 말은 꽤 정확하다.

기술 산업에서 영원한 것은 거의 없다.
한때 절대 흔들리지 않을 것처럼 보였던 회사도, 시장의 방향이 바뀌면 조금씩 다르게 보이기 시작한다.

지금 AI 반도체 시장이 그렇다.

몇 년 전만 해도 AI 반도체를 말하면 답은 거의 하나였다.
엔비디아였다.

AI를 학습시키려면 GPU가 필요했다.
좋은 GPU를 말하면 자연스럽게 엔비디아를 떠올렸다.
대형 AI 기업도, 클라우드 회사도, 연구소도 엔비디아 GPU를 원했다.

그래서 사람들은 자연스럽게 생각했다.

AI 시대는 엔비디아가 지배할 것이다.
GPU는 엔비디아가 사실상 독점할 것이다.
이 구조는 쉽게 바뀌지 않을 것이다.

그런데 최근 흐름을 보면, 조금 다른 장면이 보인다.

엔비디아가 당장 무너진다는 뜻은 아니다.

오히려 엔비디아는 여전히 가장 강한 기업이다.

대규모 AI 학습, 개발자 생태계, 소프트웨어 도구, 서버 구성 능력까지 모두 갖추고 있다.
엔비디아의 힘은 단순히 GPU 하나에서 나오지 않는다.
GPU와 CUDA, 개발자, 클라우드, 서버 시스템이 함께 묶인 구조에서 나온다.

하지만 중요한 변화가 생기고 있다.

사람들이 더 이상 ‘AI 반도체는 무조건 엔비디아’라고만 생각하지 않기 시작한 것이다.

독점은 왜 한 번에 무너지지 않을까

독점은 보통 어느 날 갑자기 무너지지 않는다.

처음에는 작은 예외가 생긴다.
그다음에는 특정 분야에서만 다른 선택지가 통한다.
그러다 어느 순간, 고객이 실제로 비교하기 시작한다.

이때 독점은 예전과 같은 독점이 아니게 된다.

AI 반도체 시장에서도 비슷한 일이 벌어지고 있다.

구글에는 TPU가 있다.
AWS에는 Trainium과 Inferentia가 있다.
Groq는 빠른 추론용 칩을 만들고 있다.
Cerebras는 아주 큰 칩으로 다른 방식을 실험한다.
Tenstorrent는 RISC-V 기반 AI 칩으로 새로운 가능성을 보여준다.

이 회사들이 모두 엔비디아를 완전히 밀어내겠다는 뜻은 아니다.
전략은 더 현실적이다.

‘모든 곳에서 엔비디아를 이기겠다’가 아니다.
‘특정한 곳에서는 우리가 더 싸고 빠를 수 있다’에 가깝다.

강한 왕을 한 번에 쓰러뜨리기는 어렵다.
하지만 왕이 모든 길목을 혼자 지키게 만들지 않을 수는 있다.

AI 시장은 왜 여러 갈래로 나뉠까

처음 AI 시장에서 가장 중요한 일은 거대한 모델을 학습시키는 것이었다.

AI 학습은 학생이 오랫동안 공부하는 과정과 비슷하다.

엄청나게 많은 데이터를 보고, 패턴을 배우는 일이다.
이 과정에는 아주 강한 연산 능력이 필요하다.

그래서 엔비디아 GPU가 강했다.

그런데 이제 AI는 학습만 중요한 시장이 아니다.

사람들은 챗봇을 쓴다.
기업은 고객 상담에 AI를 붙인다.
검색, 추천, 번역, 문서 작성, 코딩에도 AI가 들어간다.
앞으로는 AI 에이전트가 여러 일을 대신 처리할 수도 있다.

이때 중요한 것은 조금 달라진다.

이미 만들어진 AI를 얼마나 싸고 빠르게 돌리느냐가 중요해진다.
이것을 보통 ‘추론’이라고 한다.

AI 학습이 학생이 공부하는 과정이라면, AI 추론은 공부한 학생이 시험장에서 답을 쓰는 과정에 가깝다.

학습에는 큰 힘이 필요하다.
추론에는 빠른 반응과 낮은 비용이 중요하다.

챗봇 한 명이 한 번 답하는 일은 작아 보인다.
하지만 그 답변이 하루에 수억 번 반복되면 이야기가 달라진다.

AI 검색, 고객 상담, 번역, 코딩 보조, 문서 작성이 모두 추론 비용으로 쌓인다.
사용자에게는 짧은 답변 하나처럼 보이지만, 기업 입장에서는 매번 연산 비용이 발생한다.

앞으로 AI 에이전트가 늘어나면 이 비용은 더 커질 수 있다.

에이전트는 한 번 답하고 끝나는 것이 아니다.
검색하고, 비교하고, 다시 판단하고, 실행한다.

사람에게는 하나의 요청처럼 보이지만, AI 내부에서는 여러 번의 추론이 연쇄적으로 일어난다.
AI 사용량이 늘어날수록 추론 비용이 AI 기업의 체력 문제가 되는 이유다.

바로 이 지점에서 전용칩의 기회가 생긴다.

빅테크는 왜 자기 칩을 만들까

구글 TPU는 구글이 만든 AI 전용칩이다.

구글 입장에서 AI는 검색, 유튜브, 광고, 클라우드, 스마트폰까지 연결되는 핵심 기술이다.
그런데 이 모든 것을 엔비디아 GPU에만 의존하면 비용 부담이 커진다.

그래서 구글은 자사 클라우드 안에서 AI를 더 효율적으로 돌리기 위해 TPU를 발전시켜 왔다.

AWS도 비슷하다.

AWS는 세계에서 가장 큰 클라우드 사업자 중 하나다.
수많은 기업이 AWS 위에서 AI 서비스를 돌린다.
그런 AWS가 엔비디아 GPU만 계속 사서 제공한다면, 비용과 공급에서 부담이 커질 수밖에 없다.

그래서 AWS는 Trainium과 Inferentia를 만들었다.
Trainium은 주로 AI 학습을 Inferentia는 주로 AI 추론을 겨냥한다.

이 변화는 고객에게 중요한 의미가 있다.

AWS를 쓰는 기업이라면, 모든 상황에서 엔비디아 GPU만 고집할 필요가 없어질 수 있다.
구글 클라우드를 쓰는 기업이라면, TPU가 더 나은 선택이 되는 구간이 생길 수 있다.

질문이 바뀌는 것이다.

‘가장 좋은 칩이 무엇인가?’에서
‘내가 쓰는 서비스에는 어떤 칩이 가장 효율적인가?’로 바뀐다.

이 질문이 등장하는 순간, 독점의 힘은 조금씩 달라진다.

빅테크가 직접 칩을 만드는 이유도 여기에 있다.
단순히 기술력을 자랑하기 위해서가 아니다.
엔비디아의 가격과 공급망에 끌려다니지 않기 위해서다.

클라우드 회사에게 AI 칩은 비용 문제이자 주도권 문제다.
누가 연산 비용을 통제하느냐가 앞으로 AI 서비스의 수익성을 좌우할 수 있기 때문이다.

빠른 답변이 새로운 시장을 만든다

Groq는 다른 길을 본다.

Groq가 집중하는 곳은 빠른 추론이다.
AI가 질문을 받았을 때 얼마나 빨리 답을 내놓느냐에 집중한다.

이것은 생각보다 중요하다.

사람은 AI에게 질문했을 때 오래 기다리고 싶어 하지 않는다.
기업도 마찬가지다.
고객 상담 AI가 답을 늦게 하면 사용자는 바로 답답함을 느낀다.

특히 앞으로 AI 에이전트가 늘어나면 속도는 더 중요해질 수 있다.
AI가 혼자 생각하고, 검색하고, 비교하고, 실행하려면 수많은 추론이 반복되기 때문이다.

Groq 같은 회사는 바로 이 지점을 찌른다.

대규모 학습에서 엔비디아를 정면으로 이기겠다는 것이 아니다.

AI가 답을 내놓는 순간의 속도와 비용을 공격하는 것이다.

AI가 사람의 일상으로 들어올수록 속도는 단순한 기술 지표가 아니다.
사용자가 계속 쓸지 말지를 결정하는 경험이 된다.

다른 방식으로 길을 여는 회사들

Cerebras는 더 극단적인 방식으로 접근한다.

보통 반도체는 일정한 크기의 칩을 여러 개 연결해서 쓴다.
그런데 Cerebras는 아예 아주 큰 칩을 만든다.
칩을 크게 만들어 데이터 이동에서 생기는 병목을 줄이려는 방식이다.

쉽게 말하면 이렇다.

여러 방을 오가며 일을 처리하면 시간이 걸린다.
그런데 아주 큰 한 공간 안에서 일을 처리하면 이동 시간이 줄어들 수 있다.

물론 이 방식이 모든 문제를 해결하는 것은 아니다.
비용도 크고, 운영 방식도 다르다.

하지만 중요한 것은 ‘AI 칩은 꼭 GPU 방식이어야 한다’는 생각에 다른 길을 보여준다는 점이다.

Tenstorrent도 흥미롭다.

Tenstorrent는 RISC-V 기반 AI 가속기로 주목받고 있다.
RISC-V는 비교적 개방적인 명령어 구조다.

아직 엔비디아를 바로 위협하는 거대한 세력이라고 보기는 어렵다.
하지만 이런 시도는 시장에 질문을 던진다.

AI 칩은 꼭 엔비디아 방식이어야 할까.
특정 작업에서는 더 싸고 효율적인 길이 없을까.

기술 산업에서는 이런 질문이 중요하다.
처음에는 작아 보이는 질문이 나중에는 시장의 방향을 바꾸기도 한다.

몰락이 아니라 프리미엄을 깎는 포위전

그렇다고 엔비디아가 곧 위험해진다고 보기는 어렵다.

엔비디아는 여전히 매우 강하다.
특히 대규모 AI 학습에서는 엔비디아 GPU의 힘이 크다.
많은 개발자가 CUDA에 익숙하고, AI 관련 소프트웨어도 엔비디아 생태계를 기준으로 움직여 왔다.

기업 입장에서도 이미 검증된 장비를 쓰는 것은 중요하다.

AI는 돈이 많이 드는 산업이다.
새로운 칩이 조금 싸다고 해서 바로 옮겨가기는 어렵다.

성능만 중요한 것도 아니다.

소프트웨어가 잘 돌아가야 한다.
개발자가 쉽게 쓸 수 있어야 한다.
문제가 생겼을 때 해결할 수 있어야 한다.
대규모 서버로 묶었을 때 안정적으로 작동해야 한다.

이 모든 것을 합치면 엔비디아의 벽은 여전히 높다.

그래서 지금의 흐름을 ‘엔비디아 몰락’이라고 부르면 너무 성급하다.

더 정확한 표현은 이것이다.

엔비디아 프리미엄을 깎아내리는 포위전.

엔비디아는 여전히 왕이다.
다만 왕국의 모든 땅을 혼자 지배하기는 점점 어려워지고 있다.

구글은 클라우드 안에서 찌른다.
AWS는 비용 구조에서 찌른다.
Groq는 추론 속도에서 찌른다.
Cerebras는 칩 구조에서 찌른다.
Tenstorrent는 다른 설계 방식에서 찌른다.

각각의 공격은 작아 보일 수 있다.
하지만 독점은 늘 이런 식으로 흔들린다.

처음에는 예외처럼 보인다.
그다음에는 특정 용도에서만 통한다.
그러다 어느 순간, 고객의 선택지가 된다.

시장의 질문이 바뀌면 권력도 바뀐다

기술 산업에서 강자는 보통 하나의 질문을 장악한다.

AI 초기에는 어떤 GPU로 가장 큰 모델을 학습시키는지가 중요했다.
그런데 시장이 커지면 질문은 더 복잡해진다.

가장 강한가.
가장 싼가.
가장 빠른가.
전기를 덜 쓰는가.
내가 쓰는 클라우드에 잘 맞는가.
내 서비스에 충분한 성능을 내는가.

질문이 많아지면 답도 하나일 수 없다.

이것이 엔비디아에게 가장 불편한 변화다.

엔비디아가 약해서가 아니다.
시장이 너무 커졌기 때문이다.
AI가 너무 많은 곳에 들어가기 시작했기 때문이다.

AI가 연구실과 빅테크의 거대한 모델에만 쓰일 때는 최고의 GPU가 중요했다.
하지만 AI가 고객센터, 검색, 쇼핑, 교육, 업무 자동화, 개인 비서, 로봇, 스마트폰으로 퍼지면 이야기가 달라진다.

모든 곳에 최고급 GPU가 필요한 것은 아니다.
어떤 곳에는 충분히 빠르고, 충분히 싸고, 안정적인 칩이 더 중요하다.

이때 전용칩은 자신만의 자리를 얻는다.

영원하지 않은 것은 무엇일까

다시 지드래곤의 가사로 돌아오게 된다.

이 말이 의미하는 것은 엔비디아가 곧 사라진다는 뜻이 아니다.
엔비디아는 앞으로도 오랫동안 AI 반도체 시장의 중심에 있을 가능성이 크다.

영원하지 않은 것은 엔비디아라는 회사 자체가 아닐 수 있다.

영원하지 않은 것은 ‘AI 반도체는 무조건 엔비디아’라는 믿음이다.

이 차이를 구분해야 한다.

엔비디아가 강하다는 사실과, 엔비디아만이 정답이라는 믿음은 다르다.
앞의 것은 아직 맞는 말에 가깝다.
뒤의 것은 조금씩 낡아가고 있다.

구글은 자기 길을 만들고 있다.
AWS도 자기 길을 만들고 있다.
Groq는 속도의 틈을 본다.
Cerebras는 구조의 틈을 본다.
Tenstorrent는 다른 설계의 가능성을 본다.

이 모든 흐름이 당장 엔비디아를 밀어내지는 못할 수 있다.
하지만 고객에게 선택지를 준다.

그리고 고객에게 선택지가 생기는 순간, 시장은 달라진다.

독점은 제품이 사라질 때 무너지는 것이 아니다.
사람들이 비교하기 시작할 때 흔들린다.

FrameLAB 결론

엔비디아는 아직 왕이다.

하지만 AI 반도체 시장은 더 이상 하나의 왕만 바라보는 시장이 아니다.

처음에는 모두가 가장 강한 GPU를 찾았다.
이제는 각자의 AI 서비스에 맞는 칩을 찾기 시작했다.

학습에는 강한 GPU가 필요할 수 있다.
추론에는 빠르고 싼 칩이 필요할 수 있다.
클라우드 안에서는 그 회사가 직접 만든 칩이 더 유리할 수 있다.

시장이 하나일 때는 독점이 강하다.
시장이 쪼개질 때는 선택지가 강해진다.

엔비디아가 끝났다는 말은 너무 빠르다.
하지만 엔비디아만이 정답이라는 말은 점점 오래된 문장이 되고 있다.

기술 산업에서 권력은 한순간에 사라지지 않는다.
먼저 질문이 바뀐다.
그다음 선택지가 생긴다.
그리고 마지막에 사람들의 기본값이 바뀐다.

AI 반도체 시장에서 지금 벌어지는 일도 그에 가깝다.

영원하지 않은 것은 엔비디아가 아닐 수 있다.

영원하지 않은 것은

‘엔비디아만이 답이다’라는 믿음이다.

세상은 복잡하지만, 핵심은 단순합니다.
저는 당신에게 정보가 아닌 '프레임'을 건넵니다.
- 범뷰(BeomView) -