인공지능은 정말 생각하고 있을까?

밤 11시 40분. 내일 아침까지 제출해야 하는 수행평가가 갑자기 떠오릅니다. 역사 보고서 3쪽. 아직 제목도 못 정했습니다. 예전 같으면 인터넷 검색창을 뒤지며 한숨부터 쉬었겠지만, 요즘은 다릅니다. 챗GPT를 열고 이렇게 입력합니다. "조선 시대 신분 제도의 변화에 대해 수행평가 보고서 써줘."

몇 초 뒤 그럴듯한 서론, 본론, 결론이 갖춰진 글이 나옵니다. 참고문헌까지 정리되어 있습니다. 혹시나 싶어 다시 물어봅니다. "이걸 중학생 수준으로 쉽게 바꿔줘." 순식간에 문장이 더 쉬워집니다. "발표 대본으로 바꿔줘." 이번에는 발표문이 나옵니다. "그럼 조선 시대 노비의 입장에서 일기 형식으로 써줘." 그러자 에세이가 나옵니다.

보고서를 쓰다가 심심해져서 가을 시를 써 달라고 했더니 시인이 되고, 파이썬 코드를 짜 달라고 했더니 프로그래머가 됩니다. 그림을 그려 달라고 하면 화가가 되고, 계약서 내용을 설명해 달라고 하면 변호사가 됩니다.

결국 우리는 이런 질문을 던지게 됩니다. "얘 정말 생각하고 있는 거 아냐? 나보다 훨씬 똑똑한데?"

생각하는 기계의 꿈

인공지능이라는 단어가 생기기 훨씬 전부터 인간은 생각하는 기계를 꿈꿔 왔습니다. 고대 그리스 신화에는 대장장이의 신 헤파이스토스가 만든 청동 하인들이 등장합니다. 스스로 움직이며 인간을 돕는 존재였죠. 물론 신화 속 이야기지만, 인간을 대신할 지적인 존재를 만들고 싶었던 오래된 상상력을 보여줍니다.

18세기 산업혁명 이후 그 꿈의 일부는 현실이 되었습니다. 증기기관과 자동기계가 등장하면서 기계는 인간의 육체노동을 대신하기 시작했습니다. 하지만 엄밀히 말하면 인간이 정한 궤적을 반복해서 움직이는 쇳덩어리에 불과했습니다. 기계가 '생각'을 한다는 것은 상상할 수도 없었죠.

지적 능력을 흉내 내는 기계는 제2차 세계대전 중에 탄생했습니다. 당시 군대에는 적군의 복잡한 암호를 해독하고, 대포의 탄도 궤적을 계산하는 고도의 지적 노동이 필요했습니다. 그래서 영국의 천재 수학자 앨런 튜링은 독일군의 악명 높은 에니그마 암호를 풀기 위해 거대한 계산 기계를 만들었습니다. 이는 현대 컴퓨터의 시초가 됩니다.

튜링은 여기서 멈추지 않았습니다. 1950년 그는 한 편의 논문을 통해 역사에 남을 질문을 던집니다. "기계도 생각할 수 있는가?" 그는 이 질문에 답하고자 이른바 '튜링 테스트'를 제안했습니다. 만약 사람이 보이지 않는 장막 너머의 상대방과 문자로 대화를 나누었는데, 그 상대가 기계인지 사람인지 도저히 구별할 수 없다면, 그 기계는 생각한다고 인정해야 한다는 것이었죠.

에니그마 암호 해독에 사용된 초기 계산 장치와 앨런 튜링. 그는 전쟁 중 컴퓨터 탄생에 기여했고, 전후에는 "기계도 생각할 수 있는가?"라는 질문으로 인공지능 시대를 열었습니다.

이후 과학자들은 기계의 지능을 증명할 시험대로 체스와 바둑 같은 보드게임에 주목했습니다. 특히 고도의 논리력과 전략적 예측이 필요한 체스는 서양에서 오랫동안 '인간 지성의 상징'으로 여겨졌지요. 그래서 기계가 인간 체스 챔피언을 이길 수 있다면, 기계의 지능을 증명할 수 있다는 생각을 하게 되었습니다.

그리고 1997년, 전 세계를 충격에 빠뜨린 첫 번째 사건이 벌어집니다. IBM의 슈퍼컴퓨터 딥블루가 세계 체스 챔피언 가리 카스파로프를 꺾은 것입니다. 딥블루는 오늘날의 AI와는 거리가 멀었습니다. 1초에 2억 개의 수를 계산할 수 있었지만 체스 외에는 아무것도 하지 못했습니다. 사람과 대화도 못 했고, 강아지 사진 하나도 알아보지 못했죠. 당시 카스파로프는 딥블루가 자신보다 훨씬 먼 수를 내다보고 있다고 느꼈지만, 실제로는 엄청난 계산 능력으로 가능한 수를 탐색하는 프로그램에 가까웠습니다.

그럼에도 딥블루의 승리는 중요한 의미를 남겼습니다. 기계가 계산을 통해 인간의 지적 능력을 뛰어넘을 수도 있다는 사실을 보여주었기 때문입니다.

인간의 마지막 방어선

하지만 인류에게는 여전히 마지막 보루가 남아있었습니다. 바로 바둑입니다. 체스와 바둑은 모두 판 위에서 벌어지는 두뇌 게임이지만 복잡성에 차이가 있습니다. 체스는 말마다 움직이는 방식이 정해져 있고, 한 수마다 선택할 수 있는 경우도 비교적 제한되어 있습니다. 그래서 강력한 컴퓨터가 가능한 수를 빠르게 계산하고, 그중 가장 유리한 길을 고르는 방식이 어느 정도 통했습니다.

바둑은 다릅니다. 바둑판은 가로세로 19줄, 모두 361개의 점으로 이루어져 있습니다. 처음에는 거의 모든 곳에 돌을 놓을 수 있습니다. 한 수를 둘 때마다 가능한 선택지가 너무 많고, 돌 하나의 의미도 판 전체의 흐름 속에서 달라집니다. 초반에 아무렇지 않아 보이는 돌 하나가 수십 수 뒤에 전혀 다른 의미로 살아나기도 합니다. 그래서 바둑은 단순 계산만으로 정복하기 어렵다고 여겨졌습니다.

하지만 2016년 봄, 그 믿음도 깨졌습니다. 구글 딥마인드가 개발한 알파고가 인류 대표 기사 이세돌 9단에게 4승 1패로 완승한 것입니다. 이 대결은 평범한 바둑 경기가 아니었습니다. 바둑을 둘 줄 모르는 사람들까지 TV 앞에 모였고, 연일 뉴스가 쏟아졌습니다. 사람들은 바둑이야말로 직관과 창의성이라는 인간의 특징이 발휘되는 영역이라고 굳게 믿었기 때문입니다.

그런데 알파고는 그 마지막 방어선마저 넘어선 것처럼 보였습니다. 결국 사람들은 승패보다 더 근본적인 질문 앞에 서게 되었습니다. "인간의 지능은 과연 무엇이 특별한 것일까?" 알파고와 이세돌의 대결은 곧 인간과 기계의 관계를 다시 생각하게 만든 역사적 사건이었습니다.

알파고와 이세돌의 대결은 바둑 경기이면서 인간과 인공지능의 관계를 시험한 역사적 실험이었습니다.

흥미롭게도 이 대결에서 가장 오래 기억될 장면은 의외의 곳에서 나왔습니다. 이세돌이 유일한 승리를 거둔 제4국입니다. 대국 중반에 이세돌은 아무도 예상하지 못한 곳에 돌을 놓았습니다. 훗날 '신의 78수'라 불린 수였습니다.

그것은 정석적인 수가 아니었습니다. 너무 낯설어서 처음에는 해설자들조차 그 의미를 알아채지 못했습니다. 그 의외의 한 수가 알파고의 계산을 완전히 흔들었습니다. 이후 알파고는 이해하기 어려운 실수를 이어갔고, 이세돌은 인간이 거둔 단 한 번의 승리를 만들어냈습니다.

물론 이것만으로 "인간이 기계를 이겼다"라고 말할 수는 없습니다. 알파고는 전체 대결에서 압도적으로 승리했으니까요. 그러나 이세돌의 78수는 중요한 단서를 남겼습니다. 인공지능이 아무리 강력해도, 그것은 자신이 배운 패턴과 계산의 세계 안에서 움직입니다. 반면 인간은 때때로 그 바깥으로 나갑니다. 불리한 상황에서 이상한 질문을 던지고, 정답처럼 보이는 길을 일부러 벗어납니다. 그럼으로써 아무도 예상하지 못한 틈을 찌릅니다.

언어를 배운 기계

알파고를 계기로 인공지능은 계산기를 넘어 학습하는 기계가 되었습니다. 그리고 얼마 지나지 않아 바둑판을 떠나 인간의 언어 속으로 들어오기 시작했습니다. 알파고가 바둑을 배우는 데 성공했다면, 다음 세대의 인공지능은 인간의 말을 배우기 시작한 것입니다.

그런데 인공지능이 어떻게 그렇게 쉽게 언어를 사용할 수 있었을까요? 바둑은 정해진 규칙 안에서 승패가 갈리는 게임입니다. 언어에는 정답이 없습니다. 같은 이야기도 사람마다 다르게 표현할 수 있고, 같은 문장도 상황에 따라 다른 의미를 가질 수 있습니다.

실제로 알파고와 챗GPT는 전혀 다른 기술처럼 보입니다. 하나는 바둑을 두고, 다른 하나는 대화를 합니다. 하지만 그 밑바탕에는 공통점이 있습니다. 둘 다 방대한 데이터를 학습해 그 안에서 패턴을 찾아낸다는 점입니다.

챗GPT와 같은 거대언어모델은 수십억 권의 바카라과 기사, 웹페이지를 읽으며 평생 빈칸 채우기 문제만 푼 학생과 비슷합니다. 이 학생은 단 하나의 훈련에만 몰두했습니다. 바로 '다음 단어 맞히기'입니다.

예를 들어 "옛날 옛적에"라는 문장이 나오면 그 뒤에 왕자나 공주, 마법사가 등장할 가능성이 크다고 예측합니다. "그는 떨리는 손으로 편지를 펼쳤다. 첫 문장을 읽는 순간"이라고 하면 놀라거나 충격을 받는 내용이 이어질 확률이 높다고 판단합니다. 수많은 소설과 영화 대본을 읽으며 인간이 어떤 이야기를 만드는지 패턴을 학습했기 때문입니다.

아마 처음 들으면 실망스러울 수도 있습니다. "겨우 빈칸 채우기라고?" 하지만 챗GPT의 놀라운 능력은 바로 그 단순한 원리에서 출발합니다.

인공지능은 처음부터 정답을 아는 것이 아닙니다. 수많은 문장을 읽으며 틀린 부분을 수정하고, 정답과의 차이를 계산해 내부의 숫자를 조금씩 조정합니다. 이 과정을 수조 번 반복하며 학습합니다. 겉으로는 말을 하는 것처럼 보이지만, 내부에서는 거대한 수학 모델이 확률과 통계를 이용해 다음 단어를 계산하고 있는 셈입니다.

하지만 인간의 언어는 생각보다 훨씬 복잡합니다. 이런 문장을 한번 봅시다. "수지는 아침에 우산을 들고 집을 나섰다. 학교에 도착했을 때는 신발까지 흠뻑 젖어 있었다." 여기에는 '비'라는 단어가 한 번도 나오지 않습니다. 그런데 우리는 무슨 일이 있었는지 어렵지 않게 짐작합니다. 수지가 우산을 들고 나갔고, 학교에 도착했을 때 신발까지 젖어 있었다면, 아마 비가 꽤 많이 왔을 것입니다.

인공지능도 문장을 자연스럽게 이어가려면 이런 연결고리를 계산해야 합니다. 단어 하나만 보고는 부족합니다. '우산', '젖어 있었다', '학교에 도착했을 때' 같은 표현들이 서로 어떤 관계를 맺는지 함께 따져야 합니다. 그래야 다음에 "비가 많이 왔던 것이다" 같은 문장이 이어질 가능성이 크다고 판단할 수 있습니다. 과학자들은 이런 방식을 '어텐션(Attention)'이라고 부릅니다. 말 그대로 문장 속에서 중요한 단서에 주의를 기울이는 것입니다.

어텐션은 인공지능 혁명의 핵심 기술입니다. 문장 속에서 어떤 단어가 다른 단어와 얼마나 밀접하게 연결되어 있는지를 계산해 문맥을 파악합니다.

처음에는 단순한 단어 예측에 불과했습니다. 그런데 읽어 들인 문장의 규모가 천문학적으로 커지자 예상하지 못한 일이 벌어졌습니다. 인공지능이 문맥을 이해하고, 긴 글을 요약하고, 복잡한 질문에 답하고, 심지어 창작까지 하는 것처럼 보이기 시작한 것입니다. 실제로 챗GPT와 대화를 나누다 보면 마치 무언가를 이해하고 있는 상대와 이야기하는 듯한 느낌을 받습니다.

하지만 그렇다고 하기에는 또 이상한 점도 발견됩니다. 인공지능은 가끔 아무렇지도 않게 틀린 말을 합니다. 존재하지 않는 바카라 제목을 만들어내거나, 유명인이 실제로는 하지 않은 말을 했다고 답하기도 합니다. 심지어 가짜 논문이나 허구의 역사를 그럴듯하게 설명하는 경우도 있습니다. 인공지능 연구자들은 이런 현상을 '환각(Hallucination)'이라고 부릅니다.

의미를 이해한다는 것

이런 일이 벌어지는 이유는 의외로 간단합니다. 인공지능의 목표는 '진실을 말하는 것'이 아니라 '가장 가능성이 큰 다음 단어를 예측하는 것'이기 때문입니다. 그래서 모르는 문제를 만나도 솔직하게 잘 모르겠다고 하기보다 가장 그럴듯한 문장을 만들어내려는 경향이 있습니다.

바로 이 지점에서 우리는 다시 처음의 질문으로 돌아가게 됩니다. 그렇다면 과연 이것을 생각이라고 부를 수 있을까요?

철학자 존 설은 1980년 '중국어 방(Chinese Room)'이라는 유명한 사고실험을 제안했습니다. 어떤 사람이 방 안에 들어 있다고 상상해 봅시다. 그는 중국어를 전혀 모릅니다. 다만 그에게는 매우 두꺼운 설명서 한 권이 있습니다. 설명서에는 다음과 같은 규칙들이 적혀 있습니다. "A가 들어오면 B를 내보내라.", "A와 C가 함께 들어오면 D를 내보내라.", "B 다음에 E가 나오면 F를 내보내라."

방 밖에서 누군가 기호들을 넣어주면 그는 의미도 모른 채 설명서를 뒤적이며 규칙대로 기호를 골라 다시 내보냅니다. 시간이 지나자 방 밖 사람들은 놀라기 시작합니다. 방에서 나오는 답변이 너무 정확했기 때문입니다. 어떤 질문에도 자연스럽게 답하고, 복잡한 대화도 이어갑니다. 하지만 방 안의 사람은 A가 무엇인지, B가 무엇인지 전혀 모릅니다. 그저 규칙에 따라 기호를 처리했을 뿐입니다.

존 설은 인공지능도 이와 비슷할 수 있다고 주장했습니다. 컴퓨터는 "사과"와 "달다"를 통계적으로 연결할 수 있습니다. 하지만 그것이 무엇을 의미하는지는 알지 못합니다. 우리가 "사과가 달다"라고 말할 때는 단어만 배열하는 것이 아닙니다. 사과를 베어 물었을 때의 맛과 향, 색깔과 감촉 같은 경험이 함께 떠오릅니다. 단어가 현실 세계의 경험과 연결되어 있는 것입니다.

중국어를 전혀 모르는 사람도 규칙만 따르면 중국어 질문에 답할 수 있습니다. 존 설은 인공지능도 이와 비슷할 수 있다고 보았습니다.

반면 인공지능은 사과를 먹어본 적도, 냄새를 맡아본 적도 없습니다. 그저 수많은 문장 속에서 "사과"와 "달다"가 자주 함께 등장한다는 사실을 학습했을 뿐이죠. 이 문제는 언어 전반에 나타납니다. 예컨대 우리는 "얼음은 뜨겁다"라는 문장을 들으면 이상하다고 느낍니다. 얼음을 만졌을 때의 차가운 감각을 경험적으로 알고 있기 때문입니다. 하지만 인공지능은 얼음을 만져본 적이 없습니다. "얼음"과 "차갑다"가 자주 함께 등장한다는 사실을 학습했을 뿐입니다.

알파고가 바둑판 위의 패턴을 학습했듯이 챗GPT도 언어 속 패턴을 학습합니다. 둘 다 놀라울 정도로 강력합니다. 그러나 그들이 다루는 것은 경험이 아니라 데이터이고, 의미 그 자체가 아니라 의미들 사이의 관계입니다.

패턴을 넘어서는 사고

그렇다고 인간의 사고가 인공지능과 완전히 다른 방식으로 작동하는 것은 아닙니다. 인간의 뇌 역시 경험을 통해 세상을 학습하기 때문입니다. 우리는 반복되는 경험 속에서 규칙을 발견하고, 그것을 바탕으로 미래를 예측합니다. 그런 점에서는 인간도 일종의 패턴 학습 기계라고 볼 수 있습니다.

그러나 인간은 패턴을 학습하는 데서 멈추지 않습니다. 때로는 자신이 학습한 패턴 자체를 의심합니다. 여기서 인공지능과 인간의 가장 중요한 차이가 생깁니다.

아이작 뉴턴은 사과가 떨어지는 모습을 보고 중력을 떠올렸습니다. 물론 중요한 것은 사과가 떨어졌다는 사실이 아닙니다. 그런 장면은 수천 년 동안 누구나 보고 있었으니까요. 사람들은 원래 아래로 떨어지는 것이라고만 생각했습니다.

하지만 뉴턴은 물었죠. "사과를 떨어뜨리는 힘이 달에도 작용하고 있는 것은 아닐까?" 당시 사람들은 하늘과 땅이 서로 다른 원리로 움직이는 세계라고 생각했습니다. 그러나 뉴턴은 사과와 달이 같은 법칙을 따른다고 보았습니다. 그 결과 사과를 떨어뜨리는 힘과 행성을 움직이는 힘이 모두 같은 중력이라는 사실이 밝혀졌습니다. 이 발견은 근대적 세계관이 등장하는 기초가 됩니다.

찰스 다윈도 마찬가지였습니다. 사람들은 생물이 처음부터 현재 모습 그대로 창조되었다고 믿었습니다. 말은 말이고, 독수리는 독수리이며, 인간은 인간인 것이죠. 그런데 다윈은 물었습니다. "만약 생물들이 오랜 시간 동안 조금씩 변해 온 것이라면?"

다윈은 갈라파고스 제도에서 서로 조금씩 다른 핀치새들을 관찰하며 생물이 환경에 적응하는 과정에서 변화할 수 있다는 결론에 도달했습니다. 이 발견은 수많은 생명체를 하나의 거대한 역사 속에 놓았습니다. 인간 역시 그 변화 과정에 있는 생명체라는 사실이 드러나게 되었지요.

알베르트 아인슈타인은 더 황당한 질문을 던졌습니다. 사람들은 시간은 누구에게나 똑같이 흐른다고 믿었습니다. 어제도 오늘도 1초는 1초이고, 세상 어느 곳에서나 같은 것이었지요.

하지만 아인슈타인은 그렇지 않을 수도 있다고 생각했습니다. 그리고 시간과 공간도 관찰자의 움직임에 따라 달라질 수 있다는 결론에 도달했습니다. 너무나 당연해서 의심할 가치조차 없어 보였던 것을 뒤집어 버린 것입니다.

이것들은 인간이 자연을 바라보는 인식의 틀을 바꿔버린 혁명이었습니다. 그 일을 해낸 뉴턴, 다윈, 아인슈타인이 위대한 이유는 지식을 많이 외웠기 때문이 아닙니다. 모두가 당연하다고 생각한 사실에 대해 "정말 그럴까?"라고 물었기 때문입니다.

인공지능은 패턴을 학습합니다. 하지만 인간은 패턴을 깨뜨립니다. 인간의 생각이란 정답을 찾는 능력보다는 당연해 보이는 정답을 의심하는 능력에 있는지도 모릅니다.

아인슈타인이 뒤집은 것은 과학 이론이 아니었습니다. 사람들에게 너무 당연해서 의심할 필요조차 없어 보였던 시간과 공간의 개념이었습니다.

인공지능 시대의 핵심 질문

사람들은 인공지능의 발전을 보며 인간의 역할이 급격히 줄어들 것이라고 말합니다. 인공지능이 많은 사람을 실업자로 만들 것이라는 비관적 전망이 나오는 이유이기도 하지요.

역사를 돌아보면 인류는 늘 비슷한 걱정을 해왔습니다. 증기기관, 계산기, 인터넷이 등장할 때마다 인간의 역할이 사라질 것이라는 예측이 나왔습니다. 그러나 실제로 새로운 기술은 인간을 없애기보다 인간이 할 수 있는 일의 범위를 넓혀 왔습니다. 망원경은 인간의 눈이 닿지 못하던 우주를 보여주었고, 현미경은 보이지 않던 세포의 세계를 드러냈습니다. 컴퓨터는 인간의 머리로는 감당하기 어려운 계산을 대신해 주었습니다.

인공지능 역시 본질은 인간 사고를 확장하는 도구입니다. 우리는 이제 개인이 평생 읽을 수 없는 양의 문서를 분석하고, 감당하기 어려운 규모의 정보를 정리하며, 방대한 지식 사이의 연결고리까지 찾아낼 수 있습니다.

그렇지만 아무리 강력한 도구라도 스스로 목적을 정하지는 못합니다. 망원경은 어떤 별을 관측해야 하는지 알려주지 않습니다. 현미경은 어떤 세포를 들여다봐야 하는지 결정하지 못합니다. 인공지능 역시 답을 제시할 수는 있지만, 어떤 질문이 중요한지는 판단하지 못합니다.

과학기술은 인류 문명을 움직여 온 가장 강력한 힘 가운데 하나입니다. 그러나 문명의 방향을 결정해 온 것은 기술 자체보다는 질문이었습니다. 뉴턴은 사과와 달을 연결하는 질문을 던졌고, 다윈은 생물이 변할 수 있는지 물었으며, 아인슈타인은 시간과 공간마저 의심했습니다. 이들이 연 새로운 시대는 기존에 축적해둔 지식에서 시작되지 않았습니다. 그것을 근본적으로 의심하는 새로운 질문에서 시작되었습니다.

그래서 인공지능 시대의 핵심 질문은 "기계가 인간처럼 생각할 수 있는가?"가 아닐지도 모릅니다. 더 중요한 질문은 이것입니다. “인간은 여전히 아무도 던지지 않았던 질문을 던질 수 있는가?”