AI 모델, 파라미터 이후의 경쟁

올해 들어서만 주요 모델 기준으로 GPT는 네 번, Claude는 여섯 번 세대가 바뀌었다. 9월만 해도 1일에 Claude Fable 5.1이 나오고, 이틀 뒤인 3일에 GPT‑6 Astra가 나왔다. GPT‑6를 두고 OpenAI 공동창업자 겸 사장인(President) 그렉 브록만은(샘 알트만은 최고경영자인 CEO) "AGI의 도래로 볼 수 있다"고 했고 엔비디아 CEO 젠슨 황은 한발 더 나아가 "AGI가 도래했다"고 선언했다.

ChatGPT가 등장한 2022년 말 이후 4년 가까이, AI 경쟁을 설명하는 가장 익숙한 숫자는 파라미텨였다. 파라미터란 AI가 학습 과정에서 조정하는 수많은 수치다. 문장에서 어떤 단어가 이어질 가능성이 높은지, 질문의 의도를 어떻게 해석할지, 이미지 속 사물을 어떻게 구분할지 등이 이 수치들의 조합에 반영된다. 2022년 11월 공개된 GPT‑3의 파라미터는 약 1,750억 개(175B)로 알려져 있다. 뒤이은 GPT‑4는 공식 수치가 없지만 업계에서는 약 1.7조 개 안팎으로 추정한다. 현재 OpenAI와 앤트로픽의 최상위 모델은 수조 개 규모로 추정되고, 중국 오픈웨이트 모델은 Kimi K2.6이 1조, DeepSeek V4 Pro가 1.6조 수준이다. 한국은 정부의 독자 AI 파운데이션 모델 프로젝트에 참여한 SKT의 A.X K1이 5,190억 개(활성 330억)개다. K-엑사원 2.0 (2026년 7월)이 현재 국내 최대인 750B(7500억)개다.

문제는 파라미터를 키울수록 필요한 연산과 비용이 크게 늘어난다. 당연히 GPU가 많아지면 데이터센터의 규모 즉 전력 소모량도 커진다. 1GW급 AI 데이터센터는 원자력발전소 1기 수준의 전력을 쓰며, 수십만 장의 GPU가 들어가고, 구축 비용은 분석 기관에 따라 50조~70조 원으로 추산된다. 실제로 GPT‑6 Astra는 텍사스 스타게이트 데이터센터에서 10만 개 이상의 GPU로 학습됐는데 OpenAI 스스로 "역대 최대 규모의 훈련"이라고 밝혔다. 젠슨 황은 여기에 "다음은 40만 개의 GPU가 가동될 차례"라고 덧붙였다.

그런데 좋은 답변은 모델 하나에서만 나오지 않는다. 파라미터를 자동차에 비유하면 엔진의 배기량인데, 배기량이 크면 높은 출력을 낼 가능성이 커지지만 실제 주행 성능은 변속기와 차체 무게, 공기저항, 제어 소프트웨어, 운전자의 능력에 따라 달라진다. AI도 마찬가지로 파라미터가 많다고 언제나 더 정확하거나 더 경제적인 것은 아니다. 실제로 2022년 Google DeepMind가 공개한 친칠라 연구에서는 700억 파라미터 모델이 같은 연산량으로 학습한 2,800억 파라미터 모델보다 여러 평가에서 더 좋은 성능을 보였다. 모델만 크게 만드는 대신 파라미터 규모와 학습 데이터의 양을 적절히 맞춰야 한다는 사실을 보여준 사례다. 즉, 사용자의 질문 맥락을 오래 기억하는 장기 메모리, 의도에 맞는 자료를 적절히 주입하는 기술, 부족한 질문을 보완하는 프롬프트 엔지니어링 같은 운영 기술이 함께 작동해야 한다. 모델을 만드는 방식도 다양해졌다. 큰 모델이 가진 능력을 작은 모델에 이전하는 증류, 더 정확한 행동을 가르치는 강화학습, 학습 데이터의 품질을 높이는 정제, 답변할 때 더 오래 생각하도록 하는 추론 연산 확대가 함께 사용된다. 이렇게, 이제 성능은 파라미터 수뿐 아니라 데이터, 학습 방법, 모델 구조와 추론 단계에 투입하는 연산량의 조합으로 결정된다. 앞서 언급한 Kimi K2.6은 총 파라미터가 1조 개지만 실제 답변에 동원되는 활성 파라미터는 320억 개, DeepSeek V4 Pro는 1.6조 중 490억 개만 쓴다. 총 크기는 커도 실제 연산 비용은 훨씬 작게 설계한 것이다.

최근 AI가 보편화되면서 사용자가 체감하는 품질은 모델 바깥에서도 크게 달라진다. 기업 내부 문서나 최신 정보를 찾아 질문과 함께 제공하는 검색증강생성, 사용자의 선호와 앞선 작업을 기억하는 메모리, 질문의 의도를 구체적인 실행 계획으로 바꾸는 프롬프트와 업무 설계가 대표적이다. 모델 내부에 저장된 지식만으로 답하게 하는 것보다 필요한 자료를 그때그때 찾아 근거와 함께 사용하게 하면 최신성과 사실성을 높일 수 있다. 이 변화는 AI가 채팅을 넘어 ‘일’을 수행하는 에이전트로 발전하면서 더욱 분명해진다. 질문에 답하는 AI라면 좋은 문장을 만드는 능력이 중요하다. 그러나 출장을 준비하는 에이전트라면 사정이 다르다. 달력에서 일정을 확인하고 회사의 출장 규정을 찾아 예산을 계산하고 항공편과 호텔을 비교한 뒤 결재안을 작성해야 한다. 예약이나 결제 전에는 반드시 사용자의 승인을 받아야 하고 문제가 생기면 이전 단계로 돌아갈 수도 있어야 한다.

이때 필요한 것은 거대한 모델 하나만이 아니다. 어떤 도구를 호출할지 결정하는 능력, 사내 시스템과 안전하게 연결하는 기술, 사용자별 접근 권한, 실행 기록, 결과 검증, 오류 복구, 비용 통제와 보안 정바카라이 한 시스템으로 작동해야 한다. GPT-6 Astra와 최근 Claude 모델들이 코딩뿐 아니라 브라우저 조작, 문서·스프레드시트 작성, 장시간의 다단계 업무 완결성을 강조하는 것도 이 때문이다.

실제로 OpenAI와 앤트로픽, 두 거인의 최근 경쟁은 AI를 '대화'가 아닌 '작업(Work)'에 쓰는 쪽으로 집중되고 있다. 이렇게 에이전트화된 AI에서는 모델 성능보다 외부 서비스와 시스템에 연결하고 사용자의 지시 맥락을 이해해 작업을 끝까지 처리하게 만드는 플랫폼 기술이 핵심 경쟁력이 된다.

기업의 AI 전략도 ‘가장 똑똑한 모델 하나를 고르는 일’에서 벗어나야 한다. 계약서를 검토하거나 중요한 의사결정을 지원할 때는 비싸더라도 추론 능력이 높은 모델을 사용할 수 있다. 반면 문서 분류, 정보 추출, 형식 변환처럼 정형화된 업무에는 빠르고 저렴한 소형 모델이 적합하다. 개인정보가 포함된 일부 업무는 외부 모델 대신 사내에 설치한 오픈웨이트 모델로 처리할 수도 있다. 이를 가능하게 하는 것이 모델 오케스트레이션이다. 쉽게 말해 업무의 난이도와 보안 수준, 속도, 비용을 판단해 적합한 모델과 도구를 배정하는 ‘AI 관제 시스템’이다. OpenAI가 GPT-5.6을 Sol·Terra·Luna로 나누고 추론 강도를 조절하게 한 것이나 Anthropic이 모델별 노력 수준을 제공하는 것도 최고 성능만이 아니라 업무당 비용과 처리 시간을 함께 경쟁하기 시작했다는 의미다.

앞으로 기업이 살펴야 할 지표는 벤치마크 점수나 파라미터 수가 아니라, Agent가 업무를 끝까지 성공시킨 비율, 사람이 다시 수정해야 하는 비율, 업무 한 건을 완료하는 데 든 총비용, 오류가 발생했을 때 이를 발견하고 복구하는 능력이다. 토큰 가격이 저렴해도 여러 차례 실패하고 사람이 다시 작업해야 한다면 결코 싼 AI가 아니다. 물론 파라미터와 컴퓨팅 인프라의 중요성이 사라지는 것은 아니다. 최첨단 모델을 훈련하려면 여전히 막대한 GPU와 전력, 네트워크, 냉각 설비가 필요하다. 다만 AI 경쟁의 승부처가 모델의 크기 하나에서 전체 시스템의 효율성과 신뢰성으로 넓어지고 있는 것이다.

초기의 AI 경쟁이 ‘얼마나 큰 두뇌를 만들 수 있는가’의 파라미터수 싸움이었다면, 다음 경쟁은 ‘그 두뇌를 얼마나 안전하고 경제적으로 일하게 할 수 있는가’의 싸움이다. 앞으로 기업에 필요한 것은 업무에 맞는 여러 모델을 골라 연결하고 필요한 데이터와 도구를 제공하며 실행 과정을 검증하는 운영 능력이다. 파라미터 이후의 AI 경쟁에서 진정한 차이는 모델의 크기가 아니라 일을 끝내는 시스템에서 만들어질 것이다.

[2027년 사업전략/AX를 위해 AI 시장 트렌드와 꼭 알아야 할 정보와 지식을 담은 바카라]

https://www.yes24.com/Product/Goods/197780287

https://product.kyobobook.co.kr/detail/S000221581752