AI가 답하기 전에, 우리의 질문이 있다

몇 초 만에 돌아온 가설과 검증 방법

석사를 졸업하고, 생성형 AI가 일상과 업무에 빠르게 들어오던 때였다. 나는 반쯤 시험하는 마음으로 석사 논문을 시작할 때 품었던 질문을 던져 보았다. 나의 데이터 여정을 시작하게 한 자막 연구에 관한 질문이었다. 답이 없어 보이는 문제에도 AI가 문제 해결의 과정을 구성할 수 있을까.

연구 방법에 대한 이야기는 언급하지 않고, 내가 품었던 질문을 간단히 던졌다. 몇 초 뒤, 화면에는 내가 수개월 동안 고민한 끝에 도달했던 것과 비슷한 가설과 검증 방법이 떠 있었다. 시선 데이터를 활용해 집단 간 차이를 비교하는 방법까지 포함되어 있었다.

앞서 우리는 사람이 문제를 발견하고, 해법을 펼치고, 형태로 만들어 검증하는 과정을 따라왔다. 답이 될 가능성을 확산하고, 그중 현재의 조건에 맞는 답으로 수렴하는 과정이었다. 그런데 AI는 가능한 가설을 빠르게 펼쳤고, 무엇을 어떤 근거로 검증할지까지 제안했다. 확산과 수렴 모두에 참여한 것이다. 문제 해결 사고를 이야기하면서 이제 AI를 빼놓기 어려운 이유다.

적어도 이 질문에서 가설과 검증 방법의 초안을 펼치는 속도는 내가 고민하던 때와 비교할 수 없을 만큼 빨랐다. 그렇다면 앞서 살펴본 문제 해결의 과정도 AI에게 맡기면 되지 않을까.

우선 내가 던진 자막 질문에서 AI는 가설과 검증 방법을 제안했다. 하지만 그 질문은 내가 시청자이자 번역가로 겪은 불편함에서 시작되었다. 이후 여러 사고를 통해 제안된 방법이 실제로 문제를 확인할 수 있는지는 연구를 통해 살펴야 할 것이다. AI가 빠르게 답을 내놓으면서 달라진 것은, 그 과정에서 도움을 받을 수 있는 일이 늘었다는 점이다. 질문을 구체화하고, 여러 가설을 비교하고, 시험할 형태를 만드는 일에 AI를 참여시킬 수 있을 것이다.

여기서 알 수 있는 것은 현재 우리가 이야기하는 '자연어를 이해하고 여러 자료를 기반으로 대답을 할 수 있는 AI'는 우리의 사고의 파트너로 역할을 충실히 수행한다. 다만, 풀어야 할 문제는 우리에게 있다. 우리가 답이 없는 문제를 해결하기 위해 '질문과 사고'를 시작해야 했던 것처럼, 인간과 AI의 사고 또한, 우리의 문제로부터 시작할 수 있다.

아침에 일어나 AI에게 "너의 오늘 고민은 무엇이니?"라고 묻는 사람이 얼마나 될까. 아마 AI의 고민을 듣기보다 우리의 고민을 풀어놓으며 대화를 시작하는 사람이 훨씬 많을 것이다.

문제 해결 앞에서 한 가지는 명확하다. 우리가 현장에서 해결해야 하는 것은 AI의 문제가 아니라 우리의 문제다. 조직의 손실과 고객의 불편, 동료의 갈등과 내가 바꾸고 싶은 현실은 사람의 삶에서 일어난다. AI가 먼저 문제의 후보를 발견하고 질문을 제안하더라도, 그것을 우리가 풀어야 할 문제로 받아들이는 쪽은 사람과 공동체다. 선택한 답이 만든 결과와 함께 살아가는 쪽도 마찬가지다.

AI가 사고의 속도를 바꾸었지만 누구의 어떤 문제를 풀 것인지 정해야 한다는 조건은 남는다. 오히려 AI가 그럴듯한 답을 빠르게, 많이 만들지만, 그 답을 현실에 적용하고 진짜 문제를 해결하는 과정에는 여전히 사람과 사람 사이의 시간이 소요된다.

다만 우리의 사고를 굉장히 효율적으로 증폭시켜주는 파트너임에는 틀림없다. 본 바카라에서 문제 해결 사고를 이야기하는 만큼, 이번 장에서는 AI가 어떤 맥락과 도구를 바탕으로 일하는지 간단하게 다뤄보고자 한다. 단순히 프로그램과 같은 도구의 설명이 아닌, 왜 지금의 AI라고 하는 것이 우리의 사고를 도울 수 있는지 알 수 있다면, 디자인적 사고, 답이 없는 문제를 해결하는 방법을 고민하는 자들에게 도움이 될 것이다.

같은 AI도 맥락에 따라 다른 답을 한다

데이터 분석가이자 디자인 박사로서, 때때로 AI 관련 컨퍼런스나 기업과 학교에서 데이터와 디자인, 문제 해결 사고에 관해 이야기할 기회가 있다. 지금부터 이야기하는 AI에 대한 이야기는 먼저 내가 강의에서 사용하는 거친 설명이다. 먼저 현재 대중들에게 AI라고 불리는 것은 '대규모 언어 모델'에 가깝다. 이 모델을 아주 거칠게 말하면 '입력한 텍스트에 따라 그다음에 이어질 법한 텍스트를 생성하는 모델'이다.

조금 더 정확히 들여다보면 이렇다. 모델은 방대한 텍스트를 학습하면서 어떤 표현이 어떤 맥락에서 함께 나타나고 이어지는지 익힌다. 이때 모델은 문장을 통째로 다루지 않고 '토큰'이라는 작은 단위로 나누어 처리한다. 문장을 레고 블록으로 나눈다고 생각하면 쉽다. 하나의 토큰은 단어 하나일 수도 있고, 글자나 단어의 일부 또는 문장부호일 수도 있다. 질문이 들어오면 모델은 지금까지 주어진 문맥을 바탕으로 다음에 올 토큰 후보마다 확률을 매긴다. 그 확률을 바탕으로 한 토큰을 고르고, 이를 문맥에 더한 뒤 다시 다음 토큰을 고른다. 이 과정을 빠르게 반복하면서 하나의 답을 만든다.

여기서 '이어질 법하다'는 말은 그 답이 사실이거나 우리의 상황에 알맞다는 뜻이 아니다. 모델이 학습한 언어와 지식의 패턴에 더해 현재 대화와 첨부 자료, 사용자의 지시와 시스템의 규칙을 고려할 때 그럴듯하다는 뜻에 가깝다. 그래서 AI가 만든 답은 자연스러움과 정확성을 따로 살펴야 한다.

이 구조를 이해하는 데 가장 중요한 말이 맥락이다. 같은 "안녕?"이라는 인사도 어떤 상대인지에 따라 답이 달라진다. AI에게 "너는 사춘기 동생이야"라고 맥락을 주면 "안녕?"이라는 인사에 "아, 왜!"라고 답할 수 있다. AI의 능력이 갑자기 달라진 것은 아니다. 답의 후보를 고르는 조건이 달라진 것이다.

회사 보고서도 마찬가지다. "보고서를 작성해 줘"라는 한 문장만으로는 일반적인 보고서가 나온다. 반면 우리 팀이 신상품 매출을 관리하며 매주 현황과 유의할 점을 보고한다는 사실을 알려 주면 범위가 좁아진다. 이번 분기 매출 자료와 지난주 보고서, 회사의 보고 양식까지 제공하면 이전 흐름을 이어 이번 주에 필요한 초안을 만들 수 있다.

자료를 많이 연결하는 것만으로는 충분하지 않다. 지금 풀려는 문제에 어떤 자료가 필요하고, 무엇을 기준으로 판단해야 하는지도 함께 정해야 한다. 마치 우리 팀의 실무자가 우리 팀의 상황, 회사의 분위기, 팀장님이 좋아하는 보고 자료 스타일을 잘 이해하고 있을수록 결과물의 수준이 그 맥락에 맞게 생성되는 것과 동일하다.

생성형 AI가 채팅 UI를 통해 사람들에게 익숙해진 이유도 여기에 있다. 우리는 이미 문자나 메신저를 통해 '채팅'이라는 형태로 텍스트를 주고 받는 경험이 익숙하다. 사람은 대화하면서 상대에게 상황을 설명하고, 부족한 정보를 덧붙이고, 되돌아온 답을 고친다. 즉 채팅창은 우리가 대화하듯 맥락을 주고받게 해 주는 익숙한 인터페이스였다.

이제 우리에게는 생성형 AI와 채팅을 할 수 있는 화면일 마주한다. 이때 앞서 이야기한 것처럼 '우리의 실무자가 작성하는 보고서'와 같은 수준으로 업무에 사용하기 위핸 결과물을 만들기 위해서는 '우리 회사, 팀의 실무자'의 맥락을 제공하며, 함께 우리 회사의 보고서 양식과 보고서에 사용할 데이터를 제공해야 한다. 즉 채팅에 맥락과 자료를 업로드하며, '리포트를 작성해'라고 하면, 생성형 AI는 우리 실무자가 실제 일을하는 것과 같은 '적절한 텍스트'를 생성할 수 있게 된다.

여기서 AI 모델을 서비스하는 입장에서 사용자를 바라보자. 어떻게 '업무를 위해 파일과 맥락을 업로드하는 사용자'를 위해, 그들의 사용자 경험을 어떻게 개선할 수 있을까? 바로 그들의 업무 맥락이 담긴 폴더와 파일을 AI가 직접 읽을 수 있도록 제공하는 것이다.

자료를 읽는 AI에서 도구를 사용하는 AI로

위와 같은 사고의 과정을 통해, AI 사용 경험이 단순한 '웹에서의 채팅'에서, 실무자 노트북의 파일을 읽고, 수정하고, 생성하는 AI 환경으로 연결된다.

마치 실무자가 업무 문제를 해결할 때 컴퓨터에 저장된 회의록과 보고서, 데이터 파일을 함께 살펴보는 것처럼, 작업 폴더에 접근할 수 있는 AI 도구에서는 사용자가 폴더를 정하고 권한을 주면 AI가 허용된 범위에서 필요한 파일을 찾아 읽을 수 있다.

앞의 주간 보고서 사례를 이어가 보자. 처음에는 지난주 보고서와 매출 자료를 채팅창에 직접 올렸다. 이제는 그 자료가 있는 폴더를 지정하고 이번 주 보고서에 필요한 내용을 찾게 할 수 있다. AI는 이제 데이터를 조회하고 텍스트를 생성한다. 즉, 자료를 읽는 데서 나아가 수치를 계산하고 보고서 파일을 만드는 일까지 이어진다.

사고를 조금만 더 확장해보자. 우리가 사용하는 '프로그램'은 무엇으로 구성되어 있는가? 바로 프로그래밍 코드다. 이때 코드 또한 텍스트다. 그리고 대규모 언어 모델은 자연어뿐 아니라 코드의 패턴도 학습했기 때문에 코드를 읽고 쓸 수 있다. 즉 프로그램을 직접 실행시키고, 수정하고, 만드는 것도 가능하다는 것이다.

사람의 언어에서, 컴퓨터의 언어로

이제 AI는 보고서에 들어갈 문장을 제안하는 데서, 데이터를 처리하고 문서 파일을 만들며 진짜 실무자가 사용하는 결과물 생성으로 역할이 넓어지는 것이다.

이 맥락에서 더 많은 도구의 연결이 가능하다. 우리가 바라보는 노트북뿐 아니라, 온라인 상의 파일이나 메일, 정보도 권한을 부여하면 AI는 그 정보와 맥락을 읽을 수 있다.

지금까지의 흐름을 통해 알 수 있는 것은 AI 모델 자체가 마치 마법을 부리며 결과물을 만드는 것이 아니라는 것이다. 결국 채팅에서 파일로, 파일에서 프로그램과 서버로, AI가 참고할 맥락과 사용할 도구의 범위가 넓어진 것이다. 이러한 원리와 조건을 이해할 수 있다면, '나의 업무'라고하는 추상적인 행위를 수행하기 위한 개념을 '정의'할 수 있으면, 우리는 AI와 함께 '나의 일'을 수행할 수 있을 것이다.

AI가 읽을 수 있는 자료와 사용할 수 있는 도구는 늘어났다. 하지만 결국 무엇을 읽고 어떤 일을 하게 할지는 우리가 풀려는 문제에 따라 달라지는 것이다. 연결의 출발점은 도구의 기능이 아니라, 업무에서 답하지 못하고 있는 사고와 질문이다.