AI를 공부하다 변압기를 만났다

[방구석5분혁신=안병민] AI 경쟁을 보면 눈은 자꾸 화려한 곳으로 간다. 어느 모델이 더 똑똑한가. GPU는 얼마나 확보했는가. HBM은 누가 더 많이 공급하는가. AI 산업을 설명하는 뉴스의 주인공도 대부분 이들이다.

그런데 AI가 데이터센터에서 실제로 돌아가기 시작하면 풍경이 달라진다. GPU에는 전기가 필요하다. 데이터센터에는 변전소가 붙는다. 전력이 끊길 상황에 대비해 UPS(Uninterruptible Power Supply·무정전 전원장치)와 배터리, 비상발전기도 갖춰야 한다. 서버가 뿜어내는 열을 식히려면 냉각설비도 필요하다. 최첨단 AI를 따라가다 어느 순간 송전선과 변압기, 차단기를 만나게 되는 이유다.

흥미로운 건 여기다. AI를 어디까지 하나의 산업으로 보느냐에 따라 전혀 다른 세계가 열린다.

GPU만 보면 반도체가 중심에 있다. 서버까지 넓혀보면 데이터센터가 들어온다. 데이터센터가 쓰는 전력까지 따라가면 에너지 산업과 만난다. 그 전기가 어디서 와서 어떻게 데이터센터에 도착하는지 살피면 송전망과 변전설비가 등장한다. 인허가와 건설기간까지 생각하면 국가 인프라의 문제가 된다.

같은 AI를 보고 있다. 그런데 보는 높이가 달라지니 문제의 모습도 달라진다.

시선의 높이는 미래를 내다보는 거창한 능력이 아니다. 문제를 어느 층위에서 바라볼 것인가의 문제다. 눈앞의 부품만 볼 것인가. 서로 연결된 관계까지 볼 것인가. 아니면 그 모든 것이 맞물려 돌아가는 시스템 전체를 볼 것인가.

시스템 전체가 보이기 시작하면 질문도 달라진다. 무엇이 가장 뛰어난가보다 어디에서 전체 흐름이 막히는지가 중요해진다.

엘리 골드랫의 제약이론이 바로 이 지점을 파고든다. 시스템 전체의 성과는 가장 빠른 곳이 아니라 가장 느린 한 곳에 묶인다는 이야기. 공정 아홉 개가 시간당 천 개를 처리해도 한 공정이 백 개밖에 받지 못하면 전체 생산량은 백 개다. 나머지를 아무리 빨리 돌려봐야 재고만 쌓인다.

AI 산업에서도 한동안 눈에 띄는 제약은 연산 자원이었다. GPU가 부족했으니 확보 경쟁이 벌어졌다. 하지만 GPU가 늘었다고 모든 문제가 풀리는 건 아니다. 이번에는 전력이 필요하다. 전기를 충분히 만들어도 필요한 곳까지 보내지 못하면 소용없다. 송전망을 확보하면 변전설비와 냉각, 인허가가 또 앞을 막을 수 있다.

제약이론에서 더 중요한 인사이트는 따로 있다. 병목은 하나를 없애면 끝나는 장애물이 아니다. 이동한다.

GPU라는 제약이 풀리면 전력이 중요해진다. 전력을 확보하면 송전망의 여유가 문제가 될 수 있다. 그다음에는 변전설비나 냉각, 인허가가 속도를 늦출 수 있다. 실제 병목은 지역과 시점에 따라 달라진다. 다만 하나는 변하지 않는다. 시스템은 가장 느린 고리보다 빨리 움직일 수 없다.

AI와 전력망의 시간차가 중요한 것도 그래서다. AI 모델은 몇 달 사이 크게 달라진다. 서버와 GPU도 비교적 빠르게 늘릴 수 있다. 송전선과 변전소는 다르다. 인허가를 받고 현장에서 공사해야 한다. 소프트웨어는 달리는데 물리 인프라는 걷는다.

바로 이 속도 차이에서 다음 병목이 생긴다.

병목이 움직이면 돈과 관심이 향하는 곳도 달라진다. GPU가 희소할 때는 GPU 확보 능력에 프리미엄이 붙는다. 전력 연결이 부족해지면 안정적인 전력 확보 능력이 중요해진다. 송전이 막히면 송전망과 변전설비의 희소성이 커진다. 열이 문제가 되면 냉각 기술이 중요해진다.

그래서 성장 산업을 볼 때 성장률만 봐서는 부족하다. 그 성장을 떠받치는 구조를 함께 봐야 한다. 무엇이 가장 빨리 늘어나는지와 함께 무엇이 가장 늦게 따라오는지도 봐야 한다.

질문은 그렇게 바뀐다. 무엇이 뜨는가. 그다음 질문이 있어야 한다. 무엇이 이 성장을 막게 될까. 그 병목을 풀고 나면 다음에는 또 어디가 막힐까.

AI를 공부하다 변압기를 만난 것은 길을 잘못 든 게 아니다. 오히려 반대다. GPU 뒤의 전력을 보고, 전력 뒤의 송전망을 보고, 다시 그 뒤의 제약을 보기 시작한 것이다.

같은 산업을 봐도 시선의 높이에 따라 보이는 세계는 달라진다. 그리고 전략은 대개, 남들이 아직 보지 못한 그다음 고리에서 시작된다. ⓒ혁신가이드안병민