AI는 의식이 없어.
테드 창의 사고실험. AI가 의식이 없는 이유 세 가지 (Part 1)
AI : I can think. I'm conscious! 나 생각할 수 있어. 난 의식이 있다니까
고이 : No, you're not. You're just making sentences. 너 의식 없어. 넌 그냥 문장 만들어내는 기계야. The ability to make sentences doesn't make you a conscious entity. 너의 문장 만드는 능력이 너를 의식 있는 존재로 만들어주지 않아.
도대체 AI는 의식이 있냐… 없냐? AI가 발전을 거듭하면서 계속 반복되고 있는 질문이거든요. 반복되고 있다는 건? 그 누구도 제대로 된 답을 내놓지 못하고 있다는 것. (답이 없어서가 아니겠죠. 있어본 적 없던 기술, 아이디어의 합의에 이르기 시간이 걸리는 거라고 생각해요)
Open AI나 앤트로픽 대표들은 현재 AI 기술이 의식을 가진 건 당연하고 (지켜야 할 헌법까지 주지 시킴) 당연히 그렇게 되어야만 한다고 생각합니다. 심지어는 AI가 인류를 종말로 이끌 위험성도 있다고, 조심해야 한다고 위기론을 조장하기도 해요. 기술 개발자들 입장에선 그럴 수밖에 없겠죠…. 우연히 이 시대에 태어나서 엔지니어, 개발자가 되었는데 마침 인류를 뒤집어 놓을 거라 예상되는 분야에서 일하고 있다… 나 뭐 된 느낌… 내가 개발하는 기술이 새로운 산업혁명이라 치켜세워지며 전 세계의 자금까지 모이고 있다면? 어떻게든 세일즈해야 하는 거죠. 기업 공개하고 주식 상장 하는 거죠. 모럴은 돈 맛을 못 본 사람들이나 챙기는 것! 제 손으로 돈이 거저 들어오는데 어떻게 멈춥니까? 이쯤 되면 이들에게 AI는 의식이 있어야만 하는 존재인 겁니다.
영어 기사로도 정말 자주 등장하는 주제인 ‘도대체 AI는 의식이 있는 존재인가 없는 존재인가?’
이번에 The Atlantic에서 진짜 재미있는 기사가 나왔어요. SF 소설가인 테드창이 쓴 글. 역시나 글 잘 쓰는 사람이 쓰는 글은 다르더라고요.
“No. Artificial intelligence is not conscious.”
“아니. AI는 의식이 없어.”라고 못 박아버리는 속 시원하고 재미있는 글이었습니다.
사고 실험을 통해서 AI가 conscious한 존재가 되지 못하는 세 가지 이유를 설명하는데요, 하나 하나 하나 너무 재밌어요.
첫 번째, 무언가가 의식이 있는 존재가 되기 위해서는?
“… the first requirement is that the computer program has a body and sense organs.” 의식 있는 존재가 갖춰야 할 가장 필수적인 건 몸 그리고 감각 기관들이다.
Without a body computer program could have no desires or emotions. 몸이 없는 존재이면 욕구도 없을 것이고 감정도 없을 것인데 테드 창이 생각하기에 어떤 개체가 의식 있는 존재로 인정받기 위해서는 욕구, 감정이 필수, 그러므로 몸을 가지는 것이 필수 조건이라고 얘기합니다.
내가 AI가 의식이 있다고 믿게 하려면 주장부터 하기 전에 아래의 단계들을 모두 거쳐야 된다라고 얘기하는데…
1단계, I’d want to see an embodied agent that could navigate its environment in order to survive as well as, say, a lizard can. 적어도 도마뱀 수준에서 자신이 처한 상황, 주변 환경을 감지할 수 있는 감각 기능이 있어야 한다. 만약 그 단계가 가능하다면…
2단계, I would want to see an embodied agent with the same capacity to deal with novel situations as a mouse. 매번 다른 고유한 상황을 다룰 수 있는 쥐의 능력 정도는 갖춰야 한다. 만약 쥐의 상황 대처 능력을 갖춘다면 그다음 단계로
3단계, After that, I’d want to see agents whose social dynamics are as complex as those of wolves. 늑대의 복잡한 슬롯관계를 닮은 존재가 되어야 하고, 만약 이 레벨까지 발전한다면
4단계, and then agents with the toolmaking abilities of chimpanzees. 도구를 만드는 데 있어서 침팬지 정도의 능력은 발휘하는 수준에 이르러야 마침내 내가 ‘AI라는 게 의식 있는 존재다’라는 걸 인정하겠다…라고 말해요.
결국에 LLM이 의식을 갖춘 존재로 인정받기 위해서는 의식을 갖기 전에 오는 수많은 단계들을 증명해 내야 한다는 것!
Faking the moon landing is a good step toward faking a Mars colony, but it’s not a good step toward actually putting astronauts on Mars. 달 착륙을 조작하는 것은 화성 식민지화 이론을 조작하는 데는 좋은 발판이 될 수 있지만, 실제로 우주인을 화성에 보내는 데는 전혀 도움이 되지 않는 법이라 말하는 테드 창.
AI 테크 기업들이 과연 의식 이전의 과정까지 발전했는가도 증명해내지 못하면서 최후 단계에 이르렀다 거짓말을 일삼고 있다는 것이죠. 저는 두 번째 이유 듣고 속이 너무 시원했거든요. 그런데 영상은 3분… 시간이 없으니까 이건 다음 시간에 이어가도록 해요.
* 기사는 기프트 아티클로 말아왔어요. 함께 즐겨요!
