AI가 쏟아낸 답을, 누가 확인할까

새 모델을 기다리다가 생긴 질문

dot 발표 이후, 내게는 AI 시장의 분위기가 조금 달라진 것처럼 느껴졌다. 매주 새로운 모델의 성능을 비교하던 열기가 전보다 조용해진 듯했다. 물론 내가 느끼는 온도와 실제 기술 발전의 속도는 다르다. 모델 개발과 업데이트는 계속된다.

그래도 질문은 남았다. 앞으로도 우리는 더 좋은 답을 내놓는 모델이 나올 때마다 같은 크기로 놀라게 될까.

AI 버블을 이야기할 때는 기대에 걸맞은 성과가 있는지 묻게 된다. 주가의 움직임만으로 기술의 미래를 판단하기는 어렵지만, AI가 실제 업무에서 어떤 가치를 남기는지는 따져볼 수 있다. 나는 그 질문을 따라가다가 팔란티어의 파운드리(Foundry)에 다시 눈이 갔다.

이전부터 팔란티어를 보며 관심을 가졌던 부분도 여기에 있었다. AI가 만든 결과를 실제 판단과 행동으로 연결하는 구조. 지금은 그 구조가 앞으로의 경쟁에서 더 중요해질 것이라고 생각한다.

답이 많아질수록 확인할 일이 늘어난다

AI가 사업계획서를 써준다고 해보자. 시장 규모를 설명하고, 경쟁사를 비교하고, 매출 전망까지 정리한다. 문장은 매끄럽고 표도 그럴듯하다. 그런데 제출하려는 순간부터 다른 일이 시작된다.

시장 규모의 출처는 어디인가. 인용한 자료의 조사 연도는 언제인가. 전체 시장을 우리 서비스가 접근할 수 있는 시장처럼 설명하지는 않았는가. 앞에서는 무료 사용자라고 적은 사람을 뒤에서는 유료 고객으로 계산하지 않았는가.

이것들을 확인하려면 원문을 찾아 읽고, 숫자를 다시 계산하고, 문서의 앞뒤를 비교해야 한다. 작성 시간이 줄어든 만큼 검토 시간까지 같은 비율로 줄어드는 것은 아니다.

더구나 AI는 초안을 한 개만 만들지 않는다. 여러 방향의 문서와 분석을 짧은 시간에 만들어낸다. 검토할 결과가 쌓이면, 사람에게 부족해지는 것은 읽고 판단할 시간이다.

그래서 나는 생성된 결과와 사람의 결정 사이에 검증을 돕는 단계가 필요하다고 본다. AI가 주장과 근거를 연결하고, 계산과 규칙을 점검하고, 사람이 확인해야 할 부분을 좁혀주는 단계다.