AI 시대 최소한의 미적분 상식 4

"자연은 갑자기 뛰어넘지 않는다." (Gottfried Wilhelm Leibniz, 1646~1716)

발이 빠른 영웅 아킬레우스와 느림보 거북이가 달리기 시합을 합니다. 거북이가 조금 앞선 상태에서 출발한다면, 과연 아킬레우스는 거북이를 따라잡을 수 있을까요? 없을까요?

우리는 일상생활을 하면서 "거의 다 왔다"라는 말을 자주 씁니다. 목적지를 눈앞에 두고 몇 걸음 남지 않은 순간, 혹은 일이 거의 마무리되었을 즈음에 흔히 쓰는 표현 중의 하나입니다.

미적분을 창시한 독일의 수학자이자 철학자 라이프니츠는 "자연은 갑자기 뛰어넘지 않는다"라는 유명한 말을 남겼습니다. 세상의 모든 변화는 순간이동하듯 갑자기 껑충 뛰어 일어나는 것이 아니라, 무한히 미세하고 촘촘한 과정을 거쳐 연속적으로 다가간다는 뜻입니다.

수학에서 이처럼 '거의 다 달았지만 완전히 닿지는 않은', 또는 목적지를 향해 한없이 다가가는 상태를 다루는 개념이 있는데 이것이 바로 '극한(Limit)'입니다. 우리가 스마트폰 화면을 두 손가락으로 끝없이 확대할 때, 혹은 자율주행차가 장애물과의 거리를 실시간으로 좁혀갈 때 작동하는 변화의 본질이 바로 이 극한에

맞닿아 있습니다.

'닿을 듯 말 듯' 한없이 가까워진다는 것

수학에서 극한의 기호는 lim(리미트)입니다. 극한의 가장 중요한 핵심은 '도착'이 아니라 '다가가는 과정'에 있습니다.

예를 들어, 피자 한 판을 매일 절반씩 나누어 먹는다고 상상해 봅시다. 첫날은 피자 반판(1/2), 둘째 날은 남은 피자의 반(1/2의 1/2 = 1/4), 셋째 날은 남은 피자의 반(결국 1/8)... 이렇게 아무리 오랜 시간 동안 피자를 나누어 먹어도, 물리적으로 피자는 미세하게나마 항상 남아있을 것입니다. 수학적으로 남은 피자의 양은 결코 완벽한 "0"이 되지 않습니다.

하지만 시간이 무한히 흐른다면 남은 피자의 양은 결국 어떻게 될까요? 우리는 직관적으로 그 양이 0에 한없이 가까워진다'라고 말할 수 있습니다. 이것이 바로 극한의 핵심 원리입니다.

수학에서는 이를 설명하기 위해 다음의 두 가지 역동적인 개념을 사용합니다.

무한대((Infinity, ∞): 어떤 고정된 커다란 숫자가 아니라, 상태가 끝없이 커지고 있는 역동적인
과정입니다.

무한소(Infinitesimal): 0은 아니지만, 우리가 상상할 수 있는 그 어떤 크기보다도 작은, 0에 한없이
가까운 상태를 뜻합니다.

왜 극한이 미적분의 기초가 될까?

그렇다면 왜 미적분을 본격적으로 배우기 전에 이 '가까워짐'의 개념을 먼저 이해해야 할까요? 답은 수학의 '0으로 나누기'의 벽을 넘어서기 위해서입니다.

우리가 앞으로 다룰 '순간적인 변화율(미분)'을 구하려면, 아주 짧은 시간 동안의 변화량을 계산해야 합니다. 이때 자칫 잘못하면 '시간의 변화량'이 0이 되어, 분모가 0이 되는 수학적 불능 상태에 빠지게 됩니다. 이를 해결하기 위한 방법이 바로 극한입니다.

"시간의 변화량을 완전히 0으로 만들 수는 없지만, 0에 한없이 가깝게 보낼 수는 있다!"

극한을 이용하면 분모를 실제로 0으로 만들지 않으면서도, 사실상 0이나 다름없는 극도로 짧은 찰나의 순간을 수학적으로 완벽하게 정의할 수 있게 됩니다. 라이프니츠의 말처럼 멈춰 서지 않고 촘촘히 다가가는 극한이라는 튼튼한 디딤돌이 있었기에, 인류는 비로소 '정지된 상태'를 넘어 '움직이는 순간'을 계산하는 미분의 문을

열 수 있었습니다.

AI 알고리즘 속의 극한: 끝없는 오차 줄이기와 '수렴'

위에서 설명한 극한의 개념은 현대 AI 기술의 뼈대가 됩니다. 인공지능이 스스로 학습하며 성능을 높이는 과정을 한마디로 요약하면 '오차를 극한으로 줄이는 과정'이라고 할 수 있습니다.

2장과 3장에서 다루었던 AI의 학습 알고리즘인 '경사하강법'을 떠올려 보세요. AI는 안개 자욱한 산속에서

가장 깊은 골짜기(오차가 0에 가까운 최적의 위치)를 향해 한 걸음씩 내딛습니다.

이때 AI가 복잡한 현실 세계에서 완벽한 오차 0이라는 정답 지점에 100% 딱 도달하기란 거의 불가능

합니다. 하지만 AI는 발밑의 경사를 따라 내려가며 오차를 점점 더 줄여나가고, 결국 오차가 거의 0에

다다르는 특정 지점으로 안정되게 모여듭니다.

수학에서는 이렇게 어떤 값에 한없이 가까워지는 현상을 '수렴(Convergence)'이라고 부릅니다. AI는 완벽한 정답에 직접 도달하지 못하더라도, 오차를 극한까지 한없이 좁혀감(수렴)으로써 인간 못지않은 정교하고

정확한 판단을 내릴 수 있게 되는 것입니다.

결국 극한은 우리에게 '무한'과 '찰나'를 이해하고 관리할 수 있는 정교한 방법을 알려 주었습니다.

끊임없이 변하는 세상과 이를 예측하는 AI 알고리즘의 밑바닥에는, 이렇듯 0을 향해 끝없이 다가가는 극한의 아름다운 여정이 숨어 있습니다.

제논의 역설(Zeno's Paradoxes)

기원전 5세기 그리스의 철학자 제논은 "움직임(운동)과 변화는 단지 환상일 뿐, 실제로는 존재하지 않는다"를 증명하기 위해 몇 개의 논리적 수수께끼를 내었습니다. 이 중 대표적인 것이 아킬레우스와 거북이의 역설입니다.

발이 빠른 영웅 아킬레우스와 느림보 거북이가 달리기 시합을 합니다. 거북이가 조금 앞선 상태에서 출발할 경우 아킬레우스는 거북이와 거리를 좁힐 수는 있지만 영원 따라잡을 수 없다는 논리입니다. (극한의 개념으로 바라보면 이해가 되시나요?)

단순한 말장난 같지만 인류에게 "연속적인 시공간을 무한히 쪼갤 수 있는가?"라는 질문을 던진 하나의 위대한 지적 유산이 아닐까 생각합니다.