AI 시대 최소한의 미적분 상식 8

우리가 일상생활에서 복잡한 그림을 그릴 때 먼저 무엇부터 해야 할까요? 우리는 보통 바로 사진 위에 반투명한 트레이싱지를 얹고, 사물의 테두리를 따라 펜으로 쓱쓱 '윤곽선(스케치)'을 따내는 일일 것입니다.

배경과 인물이 섞여 있는 복잡한 사진이라도, 또렷한 검은색 윤곽선 몇 개만 그어주면 우리는 단숨에 "아, 여기에 사람이 서 있구나!" 하고 알아차립니다. 스스로 도로 상활을 판단하고 운전하는 자율주행차나 사람의 얼굴을 인식하는 스마트폰 카메라 같은 시각 AI(합성곱 신경망, CNN)도 정확히 이와 똑같은 방식으로 세상을 바라보기 시작합니다.

그렇다면 컴퓨터는 수백만 개의 네모난 점(픽셀) 덩어리에 불과한 디지털 사진 속에서 어떻게 사물의 '테두리'를 찾아낼까요? 그 첫 번째 비밀 역시 우리가 배워온 '미분'에 숨어 있습니다.

1. 숫자의 바닷속에서 테두리를 찾는 법

우리의 눈에는 푸른 하늘과 붉은 자동차가 한눈에 들어오지만, 컴퓨터의 눈에는 사진이 그저 가로세로로 빽빽하게 적힌 '밝기 숫자들의 모음'으로 보입니다. - 어두운 밤하늘이나 검은색 옷: 0에 가까운 숫자 - 새하얀 눈밭이나 눈부신 전조등: 255처럼 큰 숫자

컴퓨터 입장에서는 어디가 자동차이고 어디가 도로인지 처음에는 전혀 알지 못합니다. 그저 끝없이 펼쳐진 거대한 숫자 표를 멍하니 바라보고 있을 뿐입니다.

이때 AI에게 사물의 형태를 알려주는 가장 확실한 단서는 바로 "숫자(밝기)가 갑자기 급격하게 바뀌는 지점"입니다. - 아스팔트 도로(어두움, 30)와 횡단보도의 흰색 페인트(밝음, 240)가 만나는 경계선
- 보행자의 어두운 옷과 밝은 배경 벽이 맞닿는 모서리

이처럼 밝기 숫자가 완만하게 유지되다가 찰나의 순간에 낭떠러지처럼 뚝 떨어지거나 치솟는 곳, 그곳이 바로 사물의 테두리인 '경계선(Edge)'입니다.

2. 픽셀 사이의 변화율을 재는 돋보기: 공간 미분

여기서 미분이 구원투수로 등장합니다. 미분의 본질은 '얼마나 빠르게 변하는가(변화율)'를 측정하는 도구입니다.

AI는 사진 속 픽셀들을 가로(x축) 방향과 세로(y축) 방향으로 훑어가며 이웃한 점(픽셀)끼리의 차이를 계산합니다. (디지털 사진은 픽셀이 모인 격자판이므로 엄밀히는 이웃 픽셀 간의 '차이(차분)'를 구하는 뺄셈이지만, 본질적인 원리는 미분에서의 순간 변화율 측정과 완전히 같습니다.) -변화가 거의 없는 곳 (완만한 바다):

푸른 하늘이나 단색 벽처럼 픽셀 숫자가 거의 비슷한 곳에서는 이웃한 픽셀을 빼도 변화량(미분값)이 0에

가깝습니다. AI는 이곳을 "아무 일도 일어나지 않는 평평한 배경"으로 인식하고 스쳐 지나갑니다.

- 변화가 급격한 곳 (가파른 절벽):

어두운 도로(30)에서 흰색 차선(240)으로 넘어가는 순간을 계산해 볼까요? 240 - 30 = 210 단 한 픽셀 차이로 무려 +210이라는 큰 변화량을 확인할 수 있습니다. 이 커다란 숫자가 바로 AI가 감지해 내는 강렬한 '미분값(기울기)'입니다.

흥미로운 점은, 사람이 AI에게 "이런 방식으로 미분을 계산해서 선을 따라"라고 일일이 공식을 프로그래밍해 준 것이 아니라는 사실입니다. AI가 수천만 장의 사진을 학습하며 스스로 오차를 줄여나가는 과정에서, 사물을 잘 식별하려면 "가장 먼저 가로세로의 밝기 변화율(미분)을 감지해 윤곽선을 따야 한다"는 원리를 스스로 터득해 낸 것입니다

3. 선에서 부품으로, 부품에서 완성품으로: 계층적 시각의 탄생

시각 AI(CNN)는 이 단순한 '공간 미분'을 첫 단추 삼아, 마치 레고 블록을 조립하듯 세상을 점차 입체적으로 이해해 나갑니다.

1단계 (선 따기 - 픽셀 미분):
이미지 전체의 밝기 변화율을 계산해 수많은 수평선, 수직선, 대각선과 모서리를 찾아냅니다.

2단계 (부품 조립하기 - 모양 합성):
찾아낸 선들을 조합해 작은 호나 곡선, 모서리를 만들고, 이들이 다시 모여 '동그란 눈', '오뚝한 코', '둥근 바퀴', '네모난 번호판' 같은 구체적인 부품 모양을 완성합니다.

3단계 (완성된 사물 인식):
조립된 부품들의 위치 관계를 종합하여 "도로 위를 보행자가 건너고 있다", "앞차의 브레이크등이 켜졌다"라는 고차원적인 최종 시각 판단을 내립니다.

결국 자율주행차가 보행자를 감지해 부드럽게 멈춰 서고, 스마트폰이 주인의 얼굴을 순식간에 알아보는 최첨단 시각 지능도, 눈 깜짝할 사이에 일어나는 "이미지의 가로세로를 미분하여 사물의 윤곽을 찾아내는 첫 번째 계산"에서 출발한 셈입니다.

4. 세상을 바라보는 AI의 첫 단계

인간의 눈은 사물의 색과 질감을 한눈에 보지만, 컴퓨터는 색의 이면에 흐르는 '변화의 속도'를 먼저 봅니다. 복잡한 세상을 무작정 다 받아들이는 대신, 미분이라는 렌즈를 통해 불필요한 배경을 지우고 오직 본질적인 사물의 경계와 기본 선들을 뽑아내는 것. 이는 근대 회화의 아버지 폴 세잔(Paul Cézanne)이 남긴 유명한 통찰력을 떠올리게 합니다.

"자연의 모든 형태는 원기둥, 구, 원뿔과 같은 단순한 기본 도형들의 조합으로 환원할 수 있다."

— 폴 세잔 (Paul Cézanne)

세잔이 복잡한 자연을 기본 단위로 해체하여 현대 미술의 문을 열었듯, 시각 AI 역시 미분이라는 연필로 복잡한 픽셀의 바다를 가장 단순한 선과 도형으로 분해하며 세상을 이해하는 법을 배웠습니다.

이렇듯 미분은 차가운 공식이 아니라, 오늘날 기계의 눈에 빛을 밝혀주고 세상을 또렷하게 바라보게 만드는 가장 다정하고 정교한 스케치 도구로 활약하고 있습니다.