AI 시대 최소한의 미적분 상식 2

생성형 AI는 인간처럼 말하는 것 같지만 결코 인간이 아닌 기계입니다.

요즘 생성형 AI 함께 일을 하면서 인간처럼 그림을 그리고, 자연스럽게 대화를 나누는 것이 경이롭기까지 합니다. 그렇다고 AI가 인간의 뇌를 닮아 '스스로 생각하고 판단한다'는 것을 절대 아닙니다. AI의 머릿속, 즉 알고리즘의 심장부로 들어가 보면 그곳에는 윤리와 사유를 바탕으로 고민하는 철학자 대신 바쁘게 계산기를 두드리는 '미적분'이 서 있는 계산기에 불과합니다. AI는 왜 하필 악명 높은 미적분을 배워야 했을까요?

인공지능의 학습은 '안갯속 하산'과 같다

AI가 배운다는 것, 즉 '학습(Learning)'한다는 것은 무엇을 의미할까요? 아주 단순하게 말하면, AI가 내놓은 답과 실제 정답 사이의 '오차를 가장 작게 줄여가는 과정'을 뜻합니다.

처음 학습을 시작한 AI는 아무것도 모르는 상태이기에 엉터리 답을 내놓습니다. 이때 AI가 내놓은 예측값과 실제 정답의 차이를 계산해 주는 수학적 장치를 '오차 측정기', 전문 용어로는 '손실 함수(Loss Function)'라고 부릅니다. AI의 평생 목표는 이 오차 측정기의 눈금을 가장 작은 상태, 즉 오차 '0'을 향해 끊임없이 낮추는 것입니다.

AI가 어떻게 오차를 '0'으로 만들어가는지 살펴보겠습니다.

이런 상상을 해 보세요. 여러분이 짙은 안개가 자욱한 산꼭대기에 고립되었습니다.
한 치 앞도 보이지 않는 상황에서 무사히 산 아래 골짜기(오차가 가장 적은 지점)로 내려가려면
어떻게 해야 할까요?

안개가 짙다면 우리는 눈으로는 길을 찾을 수 없습니다. 이럴 때 가장 현명한 방법은 발끝의 감각에 의지해서 지금 내가 딛고 서 있는 발밑의 '경사'를 느끼는 것입니다. 그리고 경사가 아래로 기울어진 방향을 향해 조심스럽게 한 걸음씩 내딛는 것이죠.

이 '안갯속 조심스러운 하산 과정'이 바로 인공지능이 최적의 정답을 찾아가는 핵심 알고리즘, '경사하강법(Gradient Descent)'입니다.

경사를 측정하는 발끝의 감각, '미분'

여기서 가장 중요한 열쇠는 "지금 내가 서 있는 곳의 경사(기울기)를 어떻게 알아내는가"입니다. 바로 이 순간, '미분'이 눈앞에 나타납니다. 앞 장에서 미분의 핵심은 '찰나의 변화', 즉 특정 지점에서의 '기울기'를 구하는 도구라고 했습니다. 인공지능은 이 미분이라는 도구를 사용해 매 순간 발밑의 경사를 측정합니다.

기울기가 양수(+)라면:
오른쪽으로 갈수록 길이 높아진다는 뜻입니다. 따라서 반대 방향(왼쪽, 즉 아래쪽)으로 걸음을 옮겨야 합니다.

기울기가 음수(-)라면:
오른쪽으로 갈수록 낮아진다는 뜻입니다. 의심 없이 그 방향(오른쪽)으로 계속 전진하면 됩니다.

기울기가 0이 된다면:
마침내 경사가 완전히 평평해진 골짜기의 가장 깊은 바닥(오차가 거의 없는 최적의 상태)에 무사히
도달했음을 의미합니다.

인공지능은 새로운 정보를 하나씩 배울 때마다 이 미분 계산을 수행합니다. 현재 위치에서 미분값을 구해 "어느 방향으로, 얼마나 큰 걸음으로 움직여야 오차가 줄어들지" 결정하는 것이죠. 미분이라는 나침반이 없다면 AI는 안갯속에서 길을 잃고 산꼭대기로 기어오르거나 제자리를 뱅뱅 맴도는 방황을 하게 될 것입니다.

주파수를 맞추듯, 수십억 개의 다이얼을 돌리는 AI

챗GPT, 제미나이와 같은 거대 인공지능 모델들은 조율해야 할 '미세 조절 다이얼(매개변수/가중치)'이 수십억 개에 달합니다.

예전에 라디오에서 원하는 방송을 잡기 위해 주파수 다이얼을 조금씩 돌려가며 지지직거리는 소리를 줄였던 기억이 있으신가요? 인공지능의 학습도 이와 똑같습니다. 수천억 개의 미세 다이얼 하나하나마다 미분을 적용하여 "이 다이얼을 오른쪽으로 0.0001칸 돌리면 잡음(오차)이 얼마나 줄어들지"를 동시에 계산하는 것입니다. 우리가 스마트폰 화면을 터치하고, 인공지능 비서에게 질문을 던지는 매 순간에도 AI의 내면에서는 수억, 수십억 개의 다이얼들이 미적분이라는 나침반을 따라 완벽한 소리를 찾아 분주하게 돌아가고 있습니다. 결국 인공지능이 보여주는 그 비범한 지능의 실체는, 지지직거리는 오차의 소음을 지우고 가장 깨끗한 정답의 주파수를 찾아내는 '수학적 조율'이었던 셈입니다.

PS : 조금 더 관심 있으신 분들을 위해서...

1) 경사하강법의 핵심 개념

산과 안개: 전체 지형(손실 함수)을 알 수 없는 안갯속에서, 눈에 보이지 않는 가장 낮은 골짜기(최솟값)를 찾아 내려가는 과정

기울기(Gradient): 현재 위치에서 발끝으로 느껴지는 가장 가파른 내리막 방향

학습률(Learning Rate): 안갯속에서 한 번에 내딛는 보폭의 크기. 보폭이 너무 크면 최저점을 지나쳐 헤맬 수 있고, 너무 작으면 시간이 오래 걸림

2) 작동 과정

초기화: 모델이 임의의 파라미터(가중치와 편향)를 선택해 무작위 위치에서 시작

손실 계산: 현재 파라미터를 기준으로 예측값과 실제 정답 간의 오차(Loss)를 계산

방향 결정: 오차가 줄어드는 방향(기울기의 반대 방향)을 확인

이동 및 반복: 학습률만큼 파라미터를 수정하고 이동. 오차가 더 이상 줄어들지 않는 최저점에 도달할 때까지 이 과정을 끊임없이 반복함.