신광은

허깅페이스 해킹 사건의 전말 - 2026년 7월, AI가 일으킨 초유의 해킹 사건

신광은 — Thu, 24 Sep 2026 00:30:42 GMT

2026년 7월, AI가 허깅 페이스를 해킹했다는 뉴스가 세상을 떠들썩하게 했다. 내가 볼 때, 이 사건은 AI가 레드라인을 이제 막 넘어가는 상징적 사건으로 보인다. 그래서 이 사건을 자세히 들여다 볼 필요가 있다. (문송러가 상상적 재구성임을 감안해주시면 고맙겠습니다.) 미션 오픈 AI사는 개발 중인 자사 AI 모델의 성능을 평가하는 중이었다. 특

진짜 문제는 'AI가 자의식을 갖는 것'이 아니다! - AI의 진짜 문제는 무엇인가?

신광은 — Tue, 22 Sep 2026 08:13:26 GMT

얼마 전 오픈 AI에서 출시한 아스트라(Astra) 모델이 또 한 번 세상을 놀라게 했다. 젠슨 황은 드디어 AGI 시대가 도래했다고 호들갑을 떨었다. 분명한 것은 이 모델이 앤트로픽사가 출시한 패이블(Fable)을 몇몇 벤치마크에서 능가한 것으로 보인다. 이 소식이 지난 26년 7월 아직 출시되지 않은 새 오픈 AI 모델이 해킹 실력을 테스트받던 중 샌

경사하강법의 기본 원리 - 쟁반-구슬 모델로 이해하는 경사하강법

신광은 — Wed, 16 Sep 2026 02:16:31 GMT

'경사하강법'은 AI를 훈련하는 데 있어서 매우 중요한 역할을 한다. 이 경사하강법을 이해해 보자. Q: "프랑스의 수도는 어디인가?" LLM을 훈련 시키는 과정에서 반드시 피드백을 통한 미세조정의 과정이 필요하다. 미세 조정은 어떻게 하는가? 훈련된 LLM과 대화를 하면서 LLM의 답을 보고 AI를 조금씩 변화시켜야 AI의 성능이 더 발전되는 것이다.

자율주행과 탈희소성 사회 - 갑자기 닥쳐올 미래

신광은 — Tue, 12 May 2026 08:15:59 GMT

지금의 기술 발전은 역사상 전례가 없다. 이 말은 향후 우리가 직면하게 될 세상은 우리의 상상을 넘어서게 되리라는 의미를 함축한다. 우리는 미래를 상상할 때, 지금의 발전이 앞으로도 지속되리라는 전제 위에서 미래를 추정하는 경향이 있다. 인구가 감소하는 비율이 미래에도 지속될 것으로 상상해서, 그에 비례해서 학교 숫자도 줄고, 일자리도 줄어든다고 예상하는

핵폭탄보다 위험한 AI가 출현하다. - 미토스 - 앤트로픽사의 Claude Mythos Preview가 일으킨 충격

신광은 — Tue, 14 Apr 2026 07:24:57 GMT

2026년 4월 7일, 앤트로픽사에서 새로운 AI 모델을 발표했다. 클로드 미토스 프리뷰(Claude Mythos Preview, 아하 미토스)모델이다. 그런데 이 모델 때문에 한 마디로 난리가 났다. 왜냐? 이 모델이 풀리면 우리가 아는 세상은 뿌리부터 흔들리게 될 것이기 때문이다. 양자컴퓨터가 나올 필요도 없다. 미토스만으로 전 세계 전산망이나 소프트웨

AI에게 감정이 있음을 발견했다고?(퍼옴) - 감정 개념과 대규모 언어 모델에서의 기능(AI 번역)

신광은 — Fri, 10 Apr 2026 06:54:12 GMT

이 글은 앤트로픽사에서 발표한 리포트를 번역한 글입니다. 원문 주소는 아래에 있습니다. https://www.anthropic.com/research/emotion-concepts-function Read the paper 감정 개념과 대규모 언어 모델에서의 기능 2026년 4월 2일 현대의 모든 LLM 모델은 때때로 감정이 있는 것처럼 행동합니다.

<AI 2027 가속 옵션 -> 인류 멸망 시나리오 - <AI 2027>에서 가속 옵션을 선택했을 때 일어날 일

신광은 — Tue, 07 Apr 2026 11:12:14 GMT

이 글은 "AI 2027: 초지능AI의 인류 위협 시나리오(퍼옴)"의 두 번째 글이다. 2027: 초지능AI의 인류 위협 시나리오(퍼옴) 이 글의 출처: <AI 2027>: 2027년까지 초지능 AI가 인류를 위협하는 현실적 시나리오 D. Kokotajlo, S. Alexander, T. Larsen, E. Lifland, and R. Dean, "AI 2

AI 2027: 초지능AI의 인류 위협 시나리오(퍼옴) - OpenAI 출신 연구자들이 그린 가장 현실적인 ASI 시나리오 완역

신광은 — Tue, 31 Mar 2026 06:52:49 GMT

AI 2027: 2027년까지 초지능 AI가 인류를 위협하는 현실적 시나리오 D. Kokotajlo, S. Alexander, T. Larsen, E. Lifland, and R. Dean, "AI 2027," AI 2027, Apr. 3, 2025. [Online]. Available: https://ai-2027.com/. [Accessed: Mar.

블랙박스: 인간이 주도권을 잃은 순간 - 왜 인간은 AI를 통제하기 어려운가?(3): 블랙박스 & 스케일링의 법칙

신광은 — Wed, 25 Mar 2026 02:37:05 GMT

이번 글은 성격상 '왜 인간이 AI를 통제하기 어려운가'의 세 번째 글이라고 할 수 있다. 이번 글에서 인간이 AI를 통제하기 어려운 이유로 블랙박스의 문제와 스케일링의 법칙에 대해서 살펴보고자 한다. AI가 어떤 판단을 했을 때, 인간은 AI가 왜 그렇게 판단하는지 알 수 없다. 바로 이것이 인간이 AI를 통제하기 어려운 이유다. 그렇다면 왜 인간은 A

AI 발전의 간단한 역사 - 세 번의 부흥기와 두 번의 침체기

신광은 — Mon, 23 Mar 2026 06:56:09 GMT

AI가 발전한 역사는 100년이 채 못 된다. 1950년 경부터 본격적으로 AI가 발전하기 시작하여 1970년대와 1980년대 두 번의 침체기를 겪었다. 그리고 침체기 전후로 3번의 부흥기가 있었다. 지금 우리는 3번째 부흥기에 있다. 첫 번째 부흥기(1950-60년대): 탄생 통상 AI 기술 연구는 1956년 다트머스 회의와 함께 탄생했다고 한다.

영화, '공각기동대': 20세기 최고의 AI 묵시록 - 튜링 테스트와 존재론적 충돌 or 존재론적 혼동

신광은 — Tue, 17 Mar 2026 07:11:07 GMT

2029년, 기업의 네트가 별을 뒤덮고 전자와 빛이 우주를 흘러다니지만, 국가나 민족이 사라질 정도로 정보화되어 있지는 않은 가까운 미래. 뉴포트(New Port)라는 이름의 어느 도시에서 일어난 이야기다. 이 도시가 속한 국가에는 두 개의 중요한 공안(公安) 부서가 있는데, 하나는 외교 문제를 담당하는 외무성 공안 6부이고 다른 하나는 각종 범죄를 담

AI는 자유의지를 가질 수 있나?: 위반 or 우회 - AI는 선악과를 따먹을 수 있나?

신광은 — Wed, 11 Mar 2026 07:33:59 GMT

AI가 자유 의지를 가질 수 있는가? 이런 사고 실험을 해보자. 신(神)이 잘 훈련되고 학습된 AI를 에덴동산에 놓아두고 '동산의 다른 나무 열매는 다 따먹어도 되지만 선악과만은 따먹지 말라'고 명령한다면 AI는 선악과를 따먹을까, 안 따먹을까? 결론부터 말하자면 AI는 선악과를 따먹을 수 없다. 그래서 AI는 자유 의지를 가질 수 없다! 단 조건이 있다.

LLM 모델의 작동 원리 이해하기 - AI는 인간의 말을 어떻게 이해할까?

신광은 — Mon, 09 Mar 2026 07:54:22 GMT

인간은 오랫동안 기계와 대화하는 것을 꿈꾸었다. 수많은 시행 착오 끝에 드디어 기계가 인간의 말(글)을 이해할 수 있게 되었다. 2022년 11월, 챗GPT라는 이름으로 등장한 LLM(Large Language Model: 거대 언어 모델)이 바로 그것이다. (그 이전에도 꽤 여러 모델이 그러한 기능을 발휘한 바 있다.) 초기에는 많은 오류들이 발생했으나

챗GPT o1(추론 모델)의 철학적 의미 - 추론 모델와 임마누엘 칸트의 인식론

신광은 — Tue, 03 Mar 2026 09:29:00 GMT

챗GPT라는 낯선 이름의 생성형 AI가 출시된 지 2년이 채 못된 2024년 9월, 오픈 AI는 챗GPT o1이라는 추론 모델을 출시했다. (9월에 출시된 모델은 풀버전은 아니었다.) 이 모델은 AI의 발전에 또 하나의 중요한 이정표를 찍었다고 평가받는다. 흥미롭게도 나는 이 모델의 출현을 보면서 근대 인식론 논쟁에서 데이비드 흄을 누르고 임마누엘 칸트가

2028 글로벌 지능 위기(퍼옴) - Citrini Research: 시트리니 리서치

신광은 — Thu, 26 Feb 2026 13:22:24 GMT

Citrini Research: A Thought Exercise in Financial History, from the Future by Citrini and Alap Shah 이 글은 시트리니 리서치 원문을 AI로 '번역'한 것입니다. 원문 주소는 https://www.citriniresearch.com/p/2028gic입니다. 머리말 만약 우리가 A

챗GPT 초기 모델의 철학적 의미 - 딥러닝 & 어텐션 메커니즘과 흄의 인식론

신광은 — Mon, 23 Feb 2026 06:52:28 GMT

2022년 11월 30일, 오픈 AI가 챗GPT라는 대화형 AI를 출시했다. 이 AI 모델의 출시 이후, 인류 문명은 완전히 새로운 국면으로 접어들게 되었다. 그런데 이러한 AI 모델을 철학적으로 예견(?)한 인물이 있었으니 바로 근대 경험론의 거두, 데이비드 흄(David Hume)이다. 그의 인식론을 통해서 챗GPT가 기반한 딥러닝 알고리즘과 트랜스포머

AI와 종말론(1) - 기술 담론의 블러핑

신광은 — Wed, 18 Feb 2026 01:05:15 GMT

레이 커즈와일은 2045년경에 인류 문명은 특이점(singularity)과 마주하게 될 것이라고 말했다. 특이점은 기존의 모든 법칙과 규범이 더는 작동되지 않는 상태라고 할 수 있다. 그러한 특이점에 대한 담론을 나는 종말론적이라고 생각한다. 이번 글에서는 AI의 발전의 종말론적 함의에 대해서 살펴보고자 한다. 일론 머스크의 인터뷰: 세 가지 종말

AI, 자율성을 갖다. - 몰트봇(Moltbot)이 출현하다.

신광은 — Fri, 06 Feb 2026 09:07:07 GMT

드디어 자율성을 가진 AI가 출현했다. 몰트봇(Moltbot)이다. 실로 무시무시한 속도다. 예상은 했지만 빨라도 너무 빠르다. 흔히 AI의 발전에 대해서 다음과 같은 경로를 거칠 것이라고들 한다. Perception AI -> 생성형 AI -> 에이전틱 AI -> 일반 인공지능(AGI) 그동안 챗GPT나, 구글의 제미나이 등은 모두 생성형 AI이다.

AGI가 오고 있다. - AGI(일반 인공 지능)는 무엇인가?

신광은 — Fri, 16 Jan 2026 07:21:44 GMT

제2의 맨해튼 프로젝트 AGI(Artificial General Iintelligence)가 오고 있다. AGI는 ‘일반’ 인공 지능을 말한다. 그런데 혹자는 ‘범용’이나 ‘종합’ 인공 지능으로 번역한다. 현재까지 AI는 특별한 기능을 가진 AI였기 때문에 ‘특수’ 인공 지능(ANI: Artificial Narrow Intelligence)이었다. 가령

앞으로 5년, 무슨 일이 일어날까? - 테크 리더들의 계획과 전망

신광은 — Wed, 07 Jan 2026 02:14:31 GMT

앞으로 5년, 무슨 일들이 일어나게 될까? 많은 테크 리더들이나 개발자들은 향후 5년이 인류 역사에서 결정적으로 중요한 기간이 될 것이라고 말한다. 앞으로 5년 내 무슨 일이 일어날까? 지수적 성장 테크 리더들이 향후 5년을 문명사의 중대 변곡점으로 보는 이유는 지금의 AI와 로봇 기술이 지수적 성장을 하고 있기 때문이다. 지수적 성장의 예를 고대 인도