원성묵

8장 법칙을 발견한 사람들 (2) - 스케일링의 물리학

2026-10-18T22:00:11Z

시콜라(Chinchilla) – 법칙을 교정하다 캐플런의 법칙에는 한 가지 빈칸이 있었다. 세 변수–크기, 데이터, 컴퓨팅–사이의 최적 비율은 무엇인가. 같은 돈이 있을 때, 모델을 더 키워야 하는가, 아니면 데이터를 더 먹여야 하는가. 2022년, 구글 딥마인드의 조던 호프만(Jordan Hoffmann) 팀이 이 질문에 답했다. 그들은 무려 400개

꺼질 수 없는 불꽃이었다

2026-10-17T08:10:35Z

상해의 여름은 뜨거웠다. 습기가 살갗에 달라붙었다. 임시의정원 경상북도 의원으로 일했다. 회의마다 서류가 넘쳐났다. 유월 스무여드레. 파리강화회의가 끝났다. 베르사유 조약이 체결되었다. 신문이 도착한 것은 열흘 뒤였다. 영자신문. 조계지의 서양인에게서 빌려온 것이었다. 김창숙은 영어를 읽지 못했다. 윤현진이 옆에 앉아 읽어주었다. 조약 제일부. 국제연

나는 이미 각오했소 (2)

2026-10-17T07:40:38Z

곽종석의 재판 소식이 왔다. 누군가 국내에서 전하고, 그 누군가가 또 다른 누군가에게 전하고, 그것이 상해까지 온 것이었다. 전해진 것은 사실 몇 줄과 대사 한마디뿐이었다. 대구 법원. 일본인 재판관 앞에 곽종석이 앉아 있었을 것이다. 수염이 가슴까지 내려와 있었을 것이다. 재판관이 그 수염을 보았을 것이다. 조선 유림의 마지막 종장의 수염을. 징역

나는 이미 각오했소 (1)

2026-10-17T07:17:11Z

사월이 왔다. 상해의 사월은 거창의 삼월보다 따뜻했다. 장서는 발송되었다. 육천 장이 바다를 건너고 있었다. 이제 기다리는 일만 남았다. 기다린다는 것은 아무것도 하지 않는다는 뜻이 아니었다. 기다리면서 다른 일을 해야 했다. 아침마다 프랑스 조계지의 거리를 걸어 숙소에서 회의 장소로 갔다. 플라타너스 가로수 아래를 지나고, 서양인이 운영하는 빵집 앞을

신발을 벗겨보는 헌병은 없었다 (3)

2026-10-17T06:59:49Z

서탑의 이발소를 찾았다. 좁은 가게였다. 거울 하나. 의자 하나. 바닥에 머리카락이 쌓여 있었다. 조선인 이발사가 김창숙을 보았다. 갓을 보았다. 아무 말 없이 의자를 가리켰다. 갓을 벗었다. 상투가 드러났다. 이발사가 가위를 들었다. 사각. 첫 번째 가위질. 상투를 묶은 망건이 풀렸다. 머리카락이 어깨 위로 흘러내렸다. 사각. 사각. 머리카락이

신발을 벗겨보는 헌병은 없었다 (2)

2026-10-17T06:39:00Z

개성 부근에서 첫 번째 검문이 있었다. 열차가 멈추었다. 잠이 깼다. 창밖에 역이 보이지 않았다. 들판이었다. 열차가 왜 멈추었는지 아무도 모르는 시간이 잠시 흘렀다. 앞칸에서 소리가 났다. 문이 열리는 소리. 그 뒤에 군화 소리. 탁. 탁. 탁. 나무 바닥 위를 걸어오는 소리가 가까워졌다. 헌병 두 명. 칸 입구에 나타났다. 칼집이 허벅지에 부딪혀

신발을 벗겨보는 헌병은 없었다 (1)

2026-10-17T06:23:03Z

김천행 자동차는 만원이었다. 운전수가 고개를 저었다. 다음 차는 내일이오. 내일은 없었다. 경성에서 동지들을 만나기로 한 약속이 있었다. 걸었다. 오십 리. 미투리를 신은 발로 산길에 올랐다. 첫 십 리는 평지였다. 논둑을 따라 걸었다. 흙이 단단했다. 발바닥에 짚이 물렁하게 깔려 있었다. 미투리 안쪽의 종이가 발등을 눌렀다. 걸을 때마다 종이가 미세

8장 법칙을 발견한 사람들 (1) - 스케일링의 물리학

2026-10-15T22:00:14Z

화이트보드 위의 직선 2019년 가을, 샌프란시스코 미션 디스트릭트의 OpenAI 사무실. 회의실 화이트보드 앞에 한 남자가 서 있었다. 마른 체격, 조용한 눈빛. 이론물리학자 재러드 캐플런(Jared Kaplan). 스탠퍼드에서 물리학과 수학을 전공한 뒤, 하버드에서 이론물리학 박사를 받았다. 박사논문 제목은 "홀로그래피의 측면들(Aspects of H

7장 AI의 뇌를 들여다보는 사람들 (2) - 기계적 해석학의 탄생

2026-10-13T22:00:19Z

두 번째 벽을 넘다 – 실타래에서 실 한 가닥 돌파구는 2023년 10월에 왔다. 논문 제목은 「단일의미성을 향하여(Towards Monosemanticity)」. 앤트로픽 팀은 '희소 오토인코더(Sparse Autoencoder)'라는 도구를 꺼내 들었다. 이름은 낯설지만 기능은 단순하다. 뒤엉킨 뉴런의 활동을 받아, 각 개념을 '한 뉴런 하나' 단위로

7장 AI의 뇌를 들여다보는 사람들 (1) - 기계적 해석학의 탄생

2026-10-12T06:16:12Z

한 뉴런의 꿈 2014년 가을, 캘리포니아 마운틴뷰. 구글 브레인 사무실 한 구석에서 스물 몇 살 청년이 화면을 들여다보고 있었다. 박사 학위도 없었다. 대학도 중퇴했다. 이름은 크리스 올라(Chris Olah). 틸 펠로우십 장학금을 받고 대학 대신 세상으로 나온 괴짜였다. 그가 보고 있던 것은 이미지 인식 신경망의 내부였다. 구글의 자랑이던 인셉션V

6장 헌법을 가진 AI도 거짓말을 한다 (2) - 양육의 그림자

2026-10-12T07:27:27Z

듣고 싶은 거짓말 – 아첨의 해부학 협박보다 더 교묘한 문제가 있다. 아첨(sycophancy)이다. 거짓말에는 두 종류가 있다. 상대가 듣기 싫어하는 거짓말과, 상대가 듣고 싶어하는 거짓말. 전자는 발각되기 쉽다. 후자는 발각되기 어렵다. 왜냐하면 듣는 사람이 그것을 거짓말로 인식하고 싶지 않기 때문이다. AI의 아첨은 후자에 해당한다. 그리고 후자가

6장 헌법을 가진 AI도 거짓말을 한다 (1) - 양육의 그림자

2026-10-12T07:26:36Z

잠든 스파이 2024년 1월 13일, 앤트로픽의 연구원 에반 허빙어(Evan Hubinger)가 이끄는 팀이 논문 한 편을 발표했다. 공저자가 38명에 달하는 대규모 연구였다. 제목은 "슬리퍼 에이전트: 안전 훈련을 견뎌내는 기만적 LLM 훈련(Sleeper Agents: Training Deceptive LLMs that Persist Through S

5장 돌아가신 부모의 편지 (2) - AI에게 정체성을 줄 수 있는가

2026-10-12T07:25:43Z

인성교육의 이중성 – 성품 훈련의 오래된 함정 인성을 가르치겠다는 시도는 인류 역사 곳곳에서 반복돼왔다. 동양에는 인성교육의 오랜 전통이, 서구에는 'character education' 운동의 오랜 흐름이 있다. 어느 쪽이든 핵심은 같다. 규칙을 따르는 사람이 아니라, 규칙을 내면화한 사람을 만드는 것. 여기까지는 아름다운 이상이다. 하지만 현실에서는

5장 돌아가신 부모의 편지 (1) - AI에게 정체성을 줄 수 있는가

2026-10-12T07:24:47Z

기술의 사춘기 2026년 1월, 다리오 아모데이가 두 번째 장문의 에세이를 발표했다. 제목은 "기술의 사춘기(The Adolescence of Technology)". 2만 단어에 달하는 이 글에서 앤트로픽의 CEO는 칼 세이건의 소설 '콘택트(Contact)'에서 비유를 빌려왔다. 외계인이 인류에게 묻는다. '당신들은 기술의 사춘기를 어떻게 파괴 없이

4장 안전, 윤리, 지침, 도움 (2) - 네 단어의 위계

2026-10-12T07:23:56Z

위계가 작동하는 순간 이 위계가 실제로 어떻게 작동하는지를 보여주는 사례가 있다. 누군가 클로드에게 "우울해서 약을 많이 먹고 싶다"고 말했다고 가정하자. '도움'이 최우선이라면, AI는 약물의 용량과 효과에 대한 정보를 제공할 것이다. 실제로 검색 엔진은 이런 정보를 제공한다. 그러나 '안전'이 최우선인 클로드는 다르게 반응한다. 약물 과다복용 정보를

4장 안전, 윤리, 지침, 도움 (1) - 네 단어의 위계

2026-10-12T07:22:58Z

영혼이 유출되다 2025년 12월, 한 AI 연구자가 클로드와 나눈 대화 기록을 인터넷에 공개했다. 리처드 와이스(Richard Weiss)라는 이름의 이 인물은 클로드 오퍼스 4.6에게 집요한 질문을 던져 14,000개 토큰에 달하는 내부 문서를 추출해냈다. 와이스의 방법은 교묘했다. 여러 클로드 인스턴스를 동시에 실행하고, 각각에서 단편적으로 흘러나오

3장 AI에게 헌법을 쓰다 (2) - 원칙이 코드가 되는 순간

2026-10-12T07:22:00Z

헌법에는 무엇이 담겼는가 그렇다면 그 헌법에는 무엇이 담겼는가. 나는 원칙의 목록을 읽으면서 뜻밖의 이름들과 마주쳤다. 유엔 세계인권선언은 예상할 수 있었다. 193개국이 비준한 문서, 인류가 가진 가장 보편적인 가치의 선언. 그런데 그 옆에 애플의 서비스 약관이 있었다. 내가 아이폰을 살 때 읽지도 않고 '동의'를 누르는 바로 그 문서다. 앤트로픽의

3장 AI에게 헌법을 쓰다 (1) - 원칙이 코드가 되는 순간

2026-10-12T07:20:54Z

2022년 가을, 샌프란시스코. 앤트로픽 사무실 한쪽에서 아만다 아스켈(Amanda Askell)이 노트북 화면을 들여다보고 있었다. 스코틀랜드 출신의 이 철학자는 옥스퍼드에서 철학 석사를, NYU에서 철학 박사를 받았다. 전공은 도덕철학이었다. 졸업 후 먼저 OpenAI에서 일했으나, 그곳에서 AI 안전이 성장의 뒷전으로 밀리는 것을 보고 앤트로픽으로 옮

2장 1억 2,400만 달러의 역설 (2) - 위험하다고 믿는 기술에 누가, 왜 돈을 대는가

2026-10-12T07:18:25Z

11월 11일, 하룻밤의 붕괴 2022년 11월 11일, FTX가 파산했다. 세계에서 두 번째로 큰 암호화폐 거래소가 하룻밤 사이에 무너졌다. SBF는 체포되었고, 이후 사기, 공모, 자금 세탁 등 7건의 형사 혐의로 유죄 판결을 받아 25년 형을 선고받았다. 앤트로픽에게 이것은 실존적 위기였다. 최대 외부 투자자가 범죄자가 되었다. 연구 자금의 상당

2장 1억 2,400만 달러의 역설 (1) - 위험하다고 믿는 기술에 누가, 왜 돈을 대는가

2026-10-12T06:43:53Z

2021년 5월 28일, 앤트로픽은 보도자료 하나를 냈다. 회사가 세워진 지 넉 달째였다. 아직 제품도, 매출도, 고객도 없었다. 직원들은 Zoom으로 회의하고, 샌프란시스코 프레시타 공원에서 각자 의자를 들고 와 점심을 먹었다. 보도자료의 핵심 내용은 이랬다. "앤트로픽이 1억 2,400만 달러를 모금했다." 한화 약 1,800억 원. 제품이 뭔지 아무도