서진호

GPU 클러스터 네트워크의 모든 것

2026-08-03T07:20:47Z

AI 데이터센터에서 GPU 성능을 제대로 쓰려면 이제 단순히 “좋은 GPU를 많이 사는 것”만으로는 부족하다.수백 개, 수천 개 GPU가 동시에 학습에 참여하는 순간 병목은 GPU 연산이 아니라 네트워크에서 터진다. 특히 대규모 학습에서는 GPU들이 서로 계속 데이터를 주고받는다. 대표적으로 NCCL의 All-Reduce 같은 collective commu

엔비디아는 왜 ‘AI 팩토리’를 만들고 있는가?

2026-06-23T07:56:40Z

이 글은 제가 MIT 테크놀리지 리뷰 저널 코리아 2026년 1월호에 게재한 '엔비디아 AI 팩토리' 관련 전략 기사이다. 얼마전 한국에 엔비디아 젠슨 황은 국내에 많은 곳을 방문했었는 데 그것과와도 관련이 있다. 지금까지 엔비디아의 강점은 GPU 성능에만 있지 않고 진짜 핵심은 CUDA이다. CUDA는 AI 개발자들이 모델을 만들고, 학습시키고, 최적화

AI 데이터센터 네트워크 (1)

2026-08-03T06:11:36Z

AI 인프라를 이야기할 때 가장 먼저 떠오르는 것은 GPU다. H100, H200, B200, B300 같은 이름이 나오고, FLOPS가 얼마인지 텐서 코어 성능이 얼마나 좋아졌는지 시작한다. 그런데 막상 AI 시스템을 실제로 운영해 보면 질문은 조금 달라진다. GPU가 얼마나 빠른가보다 더 중요한 질문이 있다. GPU에 데이터를 얼마나 빨리 먹일 수 있는

메모리 6배 절약, 속도는 8배 키운 구글 터보퀀트 - 논문 분석과 SK 하이닉스/삼성전자 반도체 주가 전망

2026-03-27T09:53:16Z

어제 SK 하이닉스와 삼성전자 주식이 엄청 나게 빠졌죠? 바로 구글 터보퀀트(TurboQuant) 기술 때문인데요,, 도대체 어떤 기술인가 궁금해서 논문을 찾아서 읽어 보고 정리해 보았습니다. 이 논문은 고차원 벡터 데이터를 압축하면서도 정보 손실(왜곡)을 최소화하는 새로운 벡터 양자화(Vector Quantization, VQ) 기법인 TurboQuan

AI 기술 경쟁을 넘어 미중 체제 경쟁으로 - 파이낸셜 타임스에서 MS 브래드 스미스 사장 인터뷰

2026-01-15T05:40:46Z

최근 영국 파이낸셜 타임스는 Microsoft 브래드 스미스 사장의 인터뷰를 통해, 서구권이 아닌 지역에서 중국 AI가 미국 AI를 빠르게 추월하고 있다는 경고를 전했습니다. 이 발언은 단순한 경쟁사 평가가 아니라, 글로벌 AI 질서가 어디서 어떻게 재편되고 있는지를 보여주는 중요한 신호로 볼 수 있습니다. 이러한 흐름은 사실 작년 이 맘때 DeepSe

DeepSeek의 mHC 논문을 읽고 - 매니폴드 하이퍼커넥션 논문 후기

2026-08-03T07:37:01Z

브런치 친구들, 오늘 아침 페이스북에 하정우 AI미래기획수석님이 DeepSeek에서 나온 mHC 논문을 올리셔서 저도 한번 논문을 읽어 보았습니다. 올린 포스팅의 댓글 중에 우스개 소리로 이 논문을 분석하는 것이 공직자의 언어가 아니다(?)라는 댓글도 재미있었습니다. 안 그래도 이 논문은 중국 쪽 소셜 미디어에서 엄청나다고 해서 실제로 그런지 확인 할겸 이

2026년, 새해 복 많이 받으세요! - 작년 한 해를 되돌아보며….

2026-01-02T11:58:19Z

브런치 친구들, 작년 한 해 동안 내가 무엇을 했나? 디버깅해보도록 하겠습니다.^^ 저는 이제 단순히 ‘개발자’라는 직함 하나만으로 설명되기 어려운 위치에 서게 되었습니다. 물론 여전히 개발자의 사고방식은 제 사고의 중요한 기반이지만, 2025년의 기술 환경은 잘 만드는 능력만으로는 충분하지 않은 단계로 분명히 이동하였습니다. GPU, AI, 클라우드,

상상 초월의 동맹: 인텔과 엔비디아

2025-09-21T05:37:41Z

비가 그치고 나니 가을 하늘이 더 공활(?)해졌습니다. 그러나 이번 주도 AI 비즈니스 세계는 변화무쌍했습니다. 이번 에피소드에서는 인텔(Intel)과 엔비디아(nVidia)가 손을 잡고, PC 시장에 혁신적인 변화를 일으킬 파트너십에 대해 다룹니다. 두 기업이 합작해 개발할 새로운 시스템 온 칩(SOC)은 CPU와 GPU를 하나로 합쳐, 성능과 효율을 획

NVIDIA, 차세대 GPU Rubin CPX 공개

2025-09-10T06:20:50Z

오늘 스토리는 미국 캘리포니아주 산타 클라라에서 개최되고 있는 AI Infra Summit 2025에서 발표된 엔비디아(NVIDIA)사의 차세대 GPU 루빈(Rubin) CPX 공개에 대해 이야기를 나누도록 하겠습니다. https://youtu.be/g4UOWOU3HXQ?si=cHN5Jnb--KwVr2Eh 특히, 이번 루빈 GPU는 “매시브 컨텍스트 추

삼성인들은 어떤 미팅 도구를 사용할까? - 삼성 브리티웍스 리뷰 제 2 편

2023-04-07T00:20:53Z

본격적인 원격 근무가 시작된 이래로 많은 사람들이 하루 종일 회의에 참석하고 있다. 기존 업무 루틴에 화상 회의가 새롭게 추가되며, 어떻게 하면 능률적인 업무를 할 수 있을까 고민하는 직원들이 늘어나고 있는 현실이다. 비즈니스 리더 800여 명을 대상으로 조사한 결과, 직원들이 회의에 참석하는 시간은 매주 평균 10시간이다. 또한 업무 환경이 디지털 방식으

삼성인들은 어떤 협업 도구로 일할까? - 삼성 브리티웍스 리뷰 제 1 편

2023-03-16T07:31:50Z

엔데믹 시대, 예측할 수 없는 미래에 대한 커지는 불확실성에 대응하고자, 기업은 사무실과 원격을 모두 고려하는 새로운 업무 방식이 요즘 화두다. 한국경영자총협회는 사회적 거리 두기 해제 이후 국내 매출 100대 기업 재택근무 현황 조사를 실시했는데, 응답 기업의 73%가 재택근무를 이미 실시하고 있다고 언급했다. 특히, 사무직은 응답 기업의 73%가 ‘재택

아마존의 재발명, 아마존 웹 서비스 - NIA 클라우드 동향 이슈 리포트 – 12월호

2022-11-09T01:29:36Z

아마존 웹 서비스는 한마디로 말해서 '아마존의 재발명(ReInvent)'입니다. 그렇게 부른 이유는 2006년 아마존의 한 부서에서 아마존 자체 웹 서비스를 사용하기 위해 아마존 S3나 EC2와의 다양한 표준 컴퓨팅 서비스를 재발명했기 때문입니다. 이렇듯 클라우드 컴퓨팅의 여명으로써 재발명된 아마존 웹 서비스(AWS)는 컴퓨터에 의존하는 비즈니스를 여는 경

메타버스 트로이 목마로서 MS 엔터프라이즈 전략 - 한국지능정보사회진흥원(NIA) 디지털서비스 이슈리포트 2021년 11월호

2021-12-15T08:53:42Z

코로나 대유행 이후에 새로운 트렌드를 이끌어 가기 위해 요즘 빅 테크 IT 기업들은 너나 할 것 없이 ‘메타버스’를 각자 관점으로 바라보고 있습니다. 마이크로소프트 역시 그러한 기업들과 못지않게 메타버스에 대해 투자를 하고 있습니다. 특히, 지난 10월에 진행했던 마이크로소프트 이그나이트 개발자 행사에서 ‘위드 코로나’로서 향후 사람들이 어떻게 업무 생산성

소프트웨어 설계 및 디자인 트렌드로 알아본 MSA - NIA 디지털서비스 이슈리포트 2021년 10월호

2022-08-19T13:22:06Z

지난 50여 년 동안 소프트웨어 아키텍처 및 애플리케이션 호스팅 모델은 메인 프레임에서 마이크로서비스, 다시 서버리스로 주요 전환을 경험했습니다. 메인 프레임에서 최신 클라우드 네이티브 아키텍처(CNCF)에 이르기까지 다양한 호스팅 모델은 비즈니스 앱을 개발, 배포 및 유지 관리하는 방식에 영향을 미쳤습니다. IT 서비스 업계에서 새로운 호스팅 모델을 발견

하이브리드 클라우드 컴퓨팅,새 시대를 여는 클라우드PC - 한국지능정보사회진흥원(NIA) 디지털서비스 이슈리포트 2021년 9월호

2021-10-29T02:15:48Z

오늘날 IT 인프라스트럭처와 아키텍처는 베어 메탈에서 가상화를 거쳐 최근에는 컨테이너 기술로 발전하고 있습니다. 가상화 기술이 출현하기 전에는 하나의 물리적 서버에서 다양한 애플리케이션을 올려 사용하는 획일화된 모놀리식 기술의 시대였습니다.현재 장기간 코로나 전염병 대유행의 발병은 기업에 큰 영향을 미치고 혁신과 수익성을 억제하며 현금 흐름과 회사 재정을

인공지능을 통한 콘텐츠 제작 기술의 진보와 전망 - 1인 미디어 산업 동향 웹진 Vol. 3 9월호

2023-10-19T10:19:10Z

들어가며최근 몇 년 동안 방송 콘텐츠 환경이 크게 바뀌었다. 유튜브 개인 방송과 다양한 국내와 해외 OTT 서비스에서 제공되는 드라마 영화 산업은 공영 방송 체제로 이루어지던 지상파 위주의 독점 체제를 깨뜨리고 새로운 채널 경쟁자로서 자리 잡고 있다. 따라서 지상파 방송국들은 자본력을 앞세워 가상 현실이나 증강현실 등 최첨단 기술들을 콘텐츠 제작에 적극적으

방대하고 복잡한 데이터를 시각화하는 그래프 DB - NIA 디지털 서비스 이슈리포트 8월호

2022-07-05T19:46:16Z

최근 몇 년 동안 데이터 환경이 크게 바뀌었다. 다양한 소스에서 구조화된 데이터와 구조화되지 않은 데이터가 모두 생성되고 있다. 애플리케이션과 서비스는 그 어느 때보다 더 자주 애자일 방법론으로 개발되고 있으며 데이터 변경은 빠르고 중요하다. 또한 확장성 요구 사항도 매우 중요한 데, 관계형 데이터베이스 관리 시스템(RDBMS)은 이러한 모든 문제를 처리하

인간 닮은 휴먼노이드 로봇, 테슬라봇

2021-08-23T03:21:20Z

테슬라가 예고했듯이 오늘 테슬라 AI 데이에서 테슬라의 완전 자율 주행에 대한 총 제적으로 아키텍처에 대해 자체 칩을 포함한 하드웨어부터 인프라스트럭처, 하이드라넷(HydraNet) 머신러닝 아키텍처 그리고 도조 분산 뉴럴넷 부터 데이터센터까지 총망라해서 가졌습니다. 전체 저의 소감은 마치 AI 학회 세미나 온 느낌이 들 정모로 너무 공대스러워 일반인들이

개발과 운영을 지속적으로 도와주는 Xcode Cloud - NIA 디지털 서비스 이슈리포트 7월호

2021-08-19T07:29:45Z

지난 6월 애플 전세계 개발자 회의(WWDC21)에서 드디어 소프트웨어 개발과 IT 운영을 결합한 애플의 아이폰, 아이패드, 맥 앱들을 개발 및 배포해 주는 새 엑스코드 클라우드(Xcode Cloud)를 선보였습니다. 엑스코드 클라우드는 한마디로 말해서 앱을 자동으로 빌드, 테스트 및 배포하여 개발자들의 변경 사항을 확인하고 고품질 앱을 만드는 도구입니다.

우주로 간 창업자들: 리처드 브랜슨과 제프 베조스!

2021-08-19T07:29:51Z

이제 바야흐로 우주 관광 시대로 접어들었습니다! 올해는 그야말로 우주 관광의 원년이라고 부를 수 있습니다! 지난 스타링크에 관련된 포스트가 크게 인기를 누려 계속해서 스페이스 테크에 관련된 글들을 더 소개해 볼까 합니다. 이번 주 버진 그룹 회장의 리처드 브랜슨의 버진 갤러틱은 저궤도 상의 우주여행을 성공리에 마치고 지구로 무사히 돌아왔습니다.또한 얼마 전