AI 시대 최소한의 미적분 상식 5

시시각각 어디로 변할지 모르는 복잡한 곡선 위에서, 미래 변화의 방향을 미리 알아낼 수 있을까요?

밤길을 달리다가 마주친 굽이치는 고갯길, 폭락과 폭등을 반복하는 주가 차트, 매일 아침 혼잡하게 바뀌는 도로의 교통량... 우리가 살아가며 마주하는 세상을 그래프로 그려보면, 단순한 직선보다는 어디로 튈지 모르는 '곡선'으로 가득 차 있습니다.

예측하기 힘든 곡선 앞에서는 전문가조차 다음 순간의 변화를 가늠하기 쉽지 않습니다. 이러한 혼란스러운 움직임 속에 변화를 예측하기 위해서 수학자들은 다음과 같은 질문을 던졌습니다.

"아무리 복잡한 곡선이라도, 극도로 짧은 한 순간에 '직선'을 대어본다면 무슨 일이 일어날까?"

이 질문에서 출발한 핵심 도구가 바로 '접선(Tangent Line)'입니다. 접선은 곡선과 딱 한 점에서 부드럽게 스치며 만나는 직선입니다. 이 단순해 보이는 직선이 아직 알 수 없는 미래의 변화를 가리키는 이정표가 되는지 함께 찾아가 보겠습니다.

1. 찰나의 관성이 가리키는 방향, 접선

어두운 밤 고갯길을 운전하는 상황을 떠올려 봅시다. 도로는 왼쪽, 오른쪽으로 정신없이 굽어 있지만, 자동차의 헤드라이트 빛은 도로를 따라 휘어지지 않고 차체가 향한 방향으로 곧게 뻗어 나갑니다. 이 전조등 빛이 바로 수학에서 말하는 '접선'의 가장 직관적인 이미지입니다.

곡선 위의 한 점: 자동차가 위치한 바로 '지금 이 순간'을 의미합니다.

접선의 방향: 운전대를 돌리지 않고 그 순간의 관성 그대로 직진했을 때 나아갈 '찰나의 진행 방향'입니다.

곡선은 시시각각 방향을 바꿉니다. 따라서 전체 궤적만 보고는 바로 다음 순간의 변화를 정확히 알기 어렵습니다. 하지만 특정한 한 지점에 접선을 그어보면, 그 순간 숨겨진 '변화의 속도'와 '진짜 방향'이 선명하게 드러납니다.

미적분학에서 '미분한다'는 것은 결국 곡선의 각 지점에서 이 접선의 기울기(변화율)를 구하는 과정입니다. 접선의 기울기가 가파를수록 변화가 급격함을, 완만할수록 안정적인 상태임을 나타냅니다.

2. 생성형 AI의 LLM(거대언어모델)은 어떻게 접선을 방향타로 삼는가

그렇다면 제미나이, 챗GPT 같은 LLM(Large Language Model, 거대언어모델)은 수학의 접선을 어떻게 활용하고 있을까요?

LLM이 사람처럼 자연스러운 문장을 만들어내기 위해서는 먼저 거대한 언어 데이터 속에서 최적의 표현을 찾는 '학습' 과정을 거쳐야 합니다. LLM 내부에는 수천억 개의 미세 조절 다이얼(매개변수)이 존재하며, 이 다이얼들을 조합하여 예측 오차를 최소화하는 복잡한 '오차의 곡선(Loss Curve)'을 가로지릅니다.

이 수많은 다이얼의 바닷속에서 LLM이 길을 잃지 않고 정확히 학습하는 비결은 바로 접선(기울기)을 탐색의 방향타로 삼는 덕분입니다.

접선의 기울기(Gradient) 측정: AI는 학습 과정에서 현재 설정된 수천억 개 다이얼 위치에서의 '오차 곡선 기울기'를 측정합니다. 이는 "다이얼을 오른쪽으로 아주 미세하게 돌렸을 때 예측 오차가 늘어나는가, 줄어드는가?"를 순간적으로 판단하는 과정입니다.

최적의 다이얼 조정: 접선의 기울기가 양수(+)라면 다이얼을 올릴수록 오차가 커진다는 뜻이므로 다이얼을 반대 방향(음수, -)으로 돌립니다. 반대로 기울기가 음수(-)라면 다이얼을 올릴수록 오차가 줄어들므로 같은 방향(양수, +)으로 계속 조절합니다.

오차 최소화(학습 완성): 접선이 가리키는 정교한 길을 따라 다이얼을 반복 조절하다 보면, 마침내 접선의 기울기가 0에 가까워지는 평탄한 골짜기에 도달합니다. 이 순간 오차가 가장 적은 최적의 언어 모델이 완성되는 것입니다.

결국 LLM이 사람의 정교한 언어를 놀랍도록 매끄럽게 이해하고 생성할 수 있는 배경에는, 거대한 오차의 곡선 위에서 매 순간 '접선'이라는 수학적 이정표를 따라 정교하게 다이얼을 맞춘 학습 과정이 존재합니다.

3. 찰나를 보면 다음이 보인다

흔히 미래를 내다보려면 아주 먼 앞날까지 한눈에 조망해야 한다고 생각하기 쉽습니다. 그러나 미적분이 전하는 지혜는 다릅니다. 지금 서 있는 바로 그 순간의 접선을 명확히 그릴 수 있다면, 우리는 다가올 변화의 향방을 가장 높은 확률로 파악할 수 있습니다.

스페인의 거장 건축가 안토니 가우디는 "직선은 인간의 선이고, 곡선은 신의 선이다"라는 명언을 남겼습니다. 신이 설계한 자연의 이치와 인류가 구축한 복잡한 언어 생태계는 굽이치는 곡선으로 이루어져 있지만, 인간은 그 위에 '접선'이라는 정교한 직선을 포개어 놓음으로써 세상을 해석하고 마침내 인공지능이라는 새로운 지능의 지평까지 열었습니다.

예측 불가능한 곡선으로 가득 찬 세상 속에서, 접선은 복잡성을 명쾌한 단순함으로 바꾸어 주는 가장 강력한 도구입니다. 거대한 미래의 변화 역시 다름 아닌 '오늘'이라는 한 지점에서 그어지는 아주 작은 직선, 곧 접선에서 시작됩니다.