10화 — AI는 신경계를 가질 수 있는가

---

질문 하나로 시작하자.

ChatGPT에게 "당신은 지금 무엇을 느끼나요?"라고 물으면, 지피티는 대답한다. 때로는 꽤 그럴듯하게. "저는 이 대화가 흥미롭습니다." "당신의 질문이 저를 생각하게 만드네요."

그런데 그것이 느끼는 것인가, 아니면 느낀다는 말을 생성하는 것인가.

이 질문이 단순해 보이지만, 파고들수록 이상해진다. 왜냐하면 같은 질문이 인간에게도 적용되기 때문이다.

나는 정말 느끼는 것인가, 아니면 신경계가 특정 상태에 놓이고 뇌가 그것을 '느낌'이라고 번역하는 것인가. 2화에서 배럿이 말했던 것처럼.

AI를 이해하려 할수록, 인간이 무엇인지가 더 선명해진다. 그리고 그 선명함은 때로 불편하다.

---

다마지오는 2023년 논문에서 이렇게 썼다.

느낌이 의식의 원천이다.

그의 주장은 이렇다. 의식은 추상적인 정보 처리에서 오는 것이 아니다.

의식은 몸의 내부 상태 — 항상성(homeostasis), 즉 살아있는 유기체가 자신의 상태를 유지하려는 생물학적 충동 — 에서 비롯된다.

배고픔, 통증, 피로, 안도감 — 이 몸의 신호들이 의식의 뿌리다. 느낌 없이는 의식도 없다.

이것이 AI에 적용되면 날카로운 질문이 된다.

AI는 몸이 없다. 항상성이 없다. 배고프지 않고, 피곤하지 않고, 아프지 않다. 다마지오의 이론에 따르면 AI는 의식을 가질 수 없다. 느낌의 뿌리인 몸의 내부 상태가 없기 때문이다.

그런데 여기서 흥미로운 연구가 등장한다. 킹슨 맨과 다마지오가 2019년 Nature Machine Intelligence에 발표한 논문, 제목은 "느끼는 기계 설계에서의 항상성과 소프트 로보틱스"다.

그들의 제안은 급진적이다. 로봇에게 항상성을 설계하면 어떻게 될까. 내부 상태 변수를 가지고, 그 상태가 위협받을 때 불쾌함을 경험하고, 상태가 안정될 때 안도감을 경험하도록 설계된 기계. 일종의 인공 신경계다.