챗봇에게 묻는 사람 vs 에이전트에게 맡기는 사람

— 같은 Claude, 10배 다른 결과. 그 차이는 어디서 오는가?

byDavid Han

AI에게 일 시키는 기술 · CREST 시리즈 · 2편


"챗봇은 정해진 스낵만 제공하는 자판기다. 에이전트는 고객의 복잡한 요구를 이해하고 끝까지 해결하는 컨시어지(맞춤형 지원서비스)이다." — Salesforce 연구 보고서 (2026)


두 사람이 같은 AI를 쓰고 있었다

2026년 봄, 유통회사 경영기획팀에 두 명의 담당자가 있었습니다.


이 팀장과 박 팀장. 같은 팀, 같은 Claude, 같은 계정.

그런데 월말 보고서 작성 시간이 달랐습니다.

이 팀장은 3시간, 박 팀장은 40분.

처음에는 박 팀장이 원래 빠른 사람인 줄 알았습니다.


그런데 팀장이 둘의 화면을 나란히 보고 나서야 이유를 알았습니다.


이 팀장의 화면에는 이런 입력이 반복되고 있었습니다.

"5월 매출 데이터 분석해 줘." "이거 표로 만들어줘." "전월 대비 비교도 추가해 줘." "상사 보고용으로 다시 정리해 줘."


매번 새로운 질문. 매번 새로운 답. 이 팀장 AI와 탁구를 치고 있었습니다.


박 팀장의 화면은 달랐습니다.

"우리 회사는 47명 규모 유통사입니다. 매달 말일, ERP에서 뽑은 CSV 데이터를 분석하는 월말 보고서를 만들어야 합니다. 대상 독자는 영업본부장이고, 관심사는 전월 대비 증감과 이상 징후입니다. 형식은 A4 2페이지, 표 2개, 핵심 요약 3줄로 맞춰주십시오. 지금 5월 데이터를 붙여 넣겠습니다."


한 번의 입력. 완성에 가까운 결과. 박 팀장은 AI에게 일을 위임하고 있었습니다.


같은 AI였습니다. 달랐던 것은 쓰는 방식이었습니다.


1. 질문과 위임의 구조적 차이

1편에서 Gen AI와 Agentic AI의 차이를 다뤘습니다. 이번 편은 그것을 실무 수준으로 내려다봅니다. '질문하는 방식'과 '위임하는 방식'의 구조적 차이입니다.


질문(Query)과 위임(Delegation)은 겉으로 비슷해 보입니다. 둘 다 AI에게 뭔가를 입력합니다. 그런데 작동 방식이 완전히 다릅니다.


이 팀장 AI를 인턴처럼 썼습니다. 매번 지시하고, 매번 확인하고, 매번 다음 단계를 알려줬습니다.
이렇게 쓰면 AI가 있어도 사람의 총업무량이 줄지 않습니다. 박 팀장은 AI를 팀원처럼 썼습니다.
목표와 조건을 한 번에 전달하고, 나온 결과를 검수했습니다. 이것이 위임입니다.



2. 위임이 가능해진 이유 — 2026년이 달라진 것

'AI에게 위임하는 법'은 사실 새로운 이야기가 아닙니다. 그런데 왜 2026년에 갑자기 이것이 현실이 됐을까요?


세 가지 변화가 동시에 일어났기 때문입니다.


첫 번째는 맥락 창(Context Window)의 확장입니다.

2023년 Claude는 한 번에 약 8,000 토큰(약 6,000 단어)을 처리했습니다. 2026년 Claude는 200,000 토큰 이상을 처리합니다. 이제 방대한 사내 문서, 이전 보고서, 데이터를 통째로 넣고 분석을 시킬 수 있습니다. 맥락 창이 넓어지면서 AI가 '지금 이 순간의 질문'이 아니라 '전체 업무 흐름'을 이해하고 처리하는 것이 가능해졌습니다.


두 번째는 도구 호출(Tool Use) 능력의 안정화입니다.

BLOGTECHNICUS가 2026년 4월 분석한 것처럼, Claude Code, ChatGPT Agent, Gemini Agent 등이 모두 프로덕션 수준에 도달했습니다. AI가 웹 검색, API 호출, 파일 조작, 데이터베이스 접근을 자율적으로 수행할 수 있게 됐습니다. 이것이 단순 응답 기계를 실행 기계로 바꾼 변화입니다.


세 번째는 할루시네이션(Hallucination) 감소입니다.

초기 생성형 AI의 가장 큰 문제는 그럴듯하게 틀리는 것이었습니다. 2026년 기준으로 주요 모델들의 사실 정확도가 크게 향상됐습니다. 물론 완전히 사라진 것은 아닙니다. 그래서 검수(Test, CREST의 T)가 여전히 필요합니다. 그러나 '무조건 믿을 수 없음'에서 '구조적으로 검수하면 쓸 수 있음'으로 바뀐 것이 결정적입니다.


위임이 가능해진 것은 AI가 갑자기 똑똑해진 게 아닙니다. 맥락을 더 많이, 도구를 더 자유롭게, 오류를 더 적게. 이 세 가지가 동시에 임계점을 넘은 것입니다.


3. 위임 가능한 업무 vs 위임 불가능한 업무

무엇이든 AI에게 위임할 수 있는 것은 아닙니다. 실무에서 위임 가능한 것과 그렇지 않은 것을 구분하지 못하면 오히려 리스크가 커집니다. 아래 분류표는 HR 현장 26년의 경험과 50인 조직 실제 운용 결과를 바탕으로 정리한 것입니다.


핵심 원칙은 하나입니다. 최종 판단과 서명이 사람 이름으로 나가는 모든 것은, 위임 후 반드시 검수해야 합니다. AI는 초안을 만드는 파트너입니다. 최종 바카라임자는 언제나 사람입니다.


위임 실수 1위: AI 결과물 검수 없이 그대로 제출하는 것. 'AI가 써줬으니까 맞겠지'는 가장 위험한 생각입니다.



4. 위임의 5단계 — 실전에서 쓰는 구조

위임을 어떻게 시작할지 모르는 분들을 위해, 현장에서 실제로 작동하는 5단계를 공개합니다. 이것이 CREST가 실전에서 펼쳐지는 방식입니다.

이 5단계가 바로 CREST입니다. 복잡해 보이지만, 익숙해지면 입력 한 번에 이 구조가 자동으로 나옵니다. 처음 3번만 의식적으로 따라 해 보십시오. 그다음부터는 생각하지 않아도 손이 먼저 씁니다.

박 팀장 40분 만에 보고서를 완성한 것은 능력이 특별해서가 아닙니다. 이 구조를 몸에 익혔기 때문입니다.



5. 지금 당장 따라 할 수 있는 위임 템플릿

이론은 그만하겠습니다. 바로 복사해서 쓸 수 있는 템플릿 두 가지를 드립니다.


[ 템플릿 1 ] 월간 보고서 위임 (범용)

"우리 회사는 [업종, 규모]의 [팀명]입니다. [보고 대상]에게 제출하는 [보고서 종류]를 작성해야 합니다. [보고 대상]이 가장 관심 갖는 것은 [핵심 관심사]입니다. 형식: [분량], [포함 항목], [스타일 요구사항]. 아래 데이터를 분석해 보고서 초안을 작성하고, 마지막에 수치 오류와 논리 비약이 있는지 스스로 점검해 주십시오. [데이터 붙여 넣기]"


[ 템플릿 2 ] 문제 분석 위임 (5 Whys 버전)

"당신은 McKinsey 출신 경영 컨설턴트입니다. 우리 팀에서 [문제 현상]이 반복되고 있습니다. 5 Whys 방법론으로 근본 원인을 찾고, 각 단계마다 '이것이 진짜 원인인지'를 반박 관점에서 검토하십시오. 결론에는 즉시 실행 가능한 개선안을 [개수] 개 제시하되, 각각 비용, 시간, 난이도를 표로 정리해 주십시오."


두 템플릿의 공통점이 보이십니까. 역할 → 상황 → 방법론 → 검수 → 형식. 이 순서가 CREST의 현실 버전입니다. 대괄호 안의 내용만 바꾸면 어떤 업무에도 적용됩니다. 지금 당장 이 글을 닫고 자신의 가장 반복적인 업무 하나에 적용해 보십시오.


6. 이 팀장이 달라진 것

팀장에게 두 사람의 화면을 비교당한 이후, 이 팀장은 한동안 멍했습니다.


억울하기도 했습니다. '나는 그냥 내가 아는 방식으로 썼는데.' 사실이었습니다. 이 팀장은 게으른 것도, 능력이 부족한 것도 아니었습니다. 아무도 다른 방식이 있다고 알려준 적이 없었습니다. 그냥 AI가 생기기 전에 구글로 검색하던 것처럼, 그 습관 그대로 AI에게 질문을 던졌을 뿐이었습니다.


이 팀장은 그날 저녁 박 팀장에게 물었습니다. '어떻게 그렇게 쓰는 거야?' 박 팀장 메모 한 장을 건넸습니다. 맥락·역할·형식·스타일·검수. 다섯 항목이 적힌 쪽지. '이거 순서대로 쓰면 돼.'


이 팀장은 다음날 아침 처음으로 그 구조를 따라 써봤습니다. 결과는 어설펐습니다. 첫 번째 시도에 완벽한 결과가 나오지는 않았습니다. 맥락을 쓰다가 뭘 써야 할지 막혔고, 역할을 지정하는 것도 어색했습니다. 그래도 결과물은 이전보다 명확했습니다. 무엇보다 처음에 입력할 때 '이 상황을 AI가 이해할 수 있을까'를 생각하게 된 것 자체가 달라진 것이었습니다.


일주일 후, 이 팀장의 보고서 작성 시간은 3시간에서 1시간 20분으로 줄었습니다. 한 달 후에는 50분이 되었습니다.


그리고 두 달이 지났을 때, 이 팀장은 신입 직원에게 메모를 건네는 사람이 되어 있었습니다. '이거 순서대로 쓰면 돼.'


이 팀장이 특별한 것이 아닙니다. 구조를 알게 됐을 뿐입니다.


AI를 잘 쓰는 사람과 못 쓰는 사람은 능력의 차이가 아닙니다. 구조를 아는 사람과 모르는 사람의 차이입니다. 그리고 구조는 누구나 배울 수 있습니다.


"챗봇에게 묻는 사람이 틀린 게 아닙니다. 아직 다른 방법을 모르는 것뿐입니다. 이 글을 읽은 지금, 당신은 이미 달라졌습니다."



다음 편 예고

제3편 — 「'AI가 그렇게 답했다'는 변명이 안 되는 이유」

AI 결과물을 검수 없이 제출했다가 회의실에서 망신당한 경험, 있으십니까. 그 상황을 막는 구조화된 검수 루틴을 공개합니다. 반대 관점 3가지, 맹점 체크리스트, 데이터 검증 흐름. CREST의 T(Test)를 완전히 해부합니다.


제4편 — 「프롬프트를 외우지 마라, 구조를 가져라」

100선 프롬프트가 왜 작동하지 않는지, 그리고 어떤 상황에서도 쓸 수 있는 구조 하나가 왜 프롬프트 1,000개보다 강한지. CREST 프레임워크의 전체 그림을 완성합니다.


이 시리즈는 Claude와 함께 AI에게 일을 맡기고 검수하는 법을 탐구하는 25편의 여정입니다. 구독하시거나 팔로우를 하시고 난 후 댓글이나 개별 메일을 주시면 특집 실행 편을 별도로 보내 드리겠습니다.


참고 자료

1. Salesforce 연구 보고서 (2026)

— '챗봇은 정해진 스낵만 제공하는 자판기, 에이전트는 컨시어지'

— (Skywork AI ko/ai-agents-vs-chatbots-guide 재인용)

2. 인공지능신문 — 구글 '2026 AI 에이전트 트렌드 보고서' 공개 (2025.12.21)

— 'AI 에이전트: 목표 이해 → 다단계 실행 계획 → 인간 감독 하 반자율 업무'

— '직원들은 반복 실행 업무를 AI에 위임하고 전략적 의사결정에 집중'

3. 센드버드(Sendbird) — AI 에이전트 vs 챗봇: 주요 차이점 한눈에 보기

— '에이전트는 사전 설정된 목표를 중심으로 결정·계획·학습'

— '여러 단계에 걸쳐 스스로 문제를 해결하고 복잡한 유즈 케이스 자동화'

4. Windyflo 블로그 — AI 에이전트 vs 챗봇 차이 완전 가이드 (2026.05.14)

— 유통기업 100명 규모 실무 사례: 챗봇 방식 vs 에이전트 방식 비교

5. BLOGTECHNICUS — AI 에이전트 활용법 2026 완벽 가이드 (2026.04.22)

— Claude Code·ChatGPT Agent·Gemini Agent: 프로덕션 수준 도달

— '에이전트는 권한 받으면 스스로 파일 수정·API 호출·결과 확인'

6. BizPM Lab — 2026년 AI 에이전트 완전 정복 가이드 (2026.03.18)

— '목표 → 계획 → 도구 호출 → 실행 → 검토 → 수정 전체 사이클 자율 처리'

7. Skywork AI — 2026년 AI 에이전트 vs 챗봇: 최종 가이드 (2026.03.31)

— '에이전트는 ReAct(추론 및 행동) 루프 기반으로 작동'

— 기업 수요: 재무 분석·공급망 최적화·복잡 문서 작성 분야 에이전트 도입 급증

8. David Han — 26년 HR 실무·47인 외국계 펀드 운용사 현장 검증

— 위임 가능/불가 업무 분류표: 실무 운용 결과 기반

9. Gartner — 2026년까지 기업 앱 40% AI 에이전트 통합 예측 (2025.08)

10. SK AX — 에이전틱 AI: 생성형 AI로 30% vs 에이전틱 AI로 200% 향상 (2026.01)

작가의 이전글프롬프트를 외우고 있다면 당신은 이미 뒤처진 것이다