AI를 쓰는 회사와 AI로 운영되는 회사의 차이 (4)

많은 회사가 AI를 도입했다고 말합니다. 직원에게 ChatGPT 계정을 제공하고, Copilot을 설치하죠.

그리고, 프롬프트 작성법도 교육하고, 일부 팀은 보고서 초안을 작성하거나 회의록을 요약할 때 실제로 도움을 받기도 합니다. 덧붙여서, 콘텐츠 아이디어를 찾는 시간도 줄어들어요.

하지만 몇 달이 지나면 이상한 현상이 나타나게 됩니다.

직원 개인의 생산성은 조금 높아졌지만, 회사가 일하는 방식은 거의 달라지지 않는데요. 직원들은 같은 내용을 반복해서 설명하기 시작합니다. 과거에 했던 실수를 다시 고치고, 필요한 문서를 찾느라 또 시간을 쓰게 된다는 것이지요.

AI는 똑똑해졌지만, 조직은 그만큼 똑똑해지지 않은 거예요.

돌고 도는 수레바퀴와 같아 버립니다.

이 차이를 설명하는 개념이 바로 AI Native Company예요.

AI Native Company란 무엇일까?

AI Native Company는 AI 도구를 많이 사용하는 회사가 아닙니다.

AI를 회사의 운영체제로 활용하는 조직입니다.

회사의 지식과 업무를 AI가 읽을 수 있고,

의사결정 기준도 이해할 수 있어야 합니다.

AI는 업무를 수행한 뒤 결과를 기록하고 검증합니다.

실행 과정에서 얻은 정보는 다음 업무에 다시 반영해야 합니다.

결국 AI Native Company는 회사의 지식과 업무, 의사결정과 학습 구조를 AI가 활용할 수 있도록 설계한 조직이라는 것을 알아야 합니다. (국내에서는 대표적으로 카지노(Kakao)가 2024년에 처음으로 AI Native를 공개적으로 선언했죠)

카지노 AI Native 성숙도 모델 - 출처, Kakao tech

이런 조직은 여섯 가지 축으로 설명할 수 있어요.

Company Brain, Agent Loop, Control Plane, Quality Gate, Human-on-the-Loop, Operating Leverage의 축으로 이어집니다.

첫 번째 축, Company Brain

AI 시대의 진짜 경쟁력은 모델 자체가 아닙니다.

같은 AI 모델은 누구나 사용할 수 있습니다. 단, 차이를 만드는 것은 모델과 연결된 조직의 기억/데이터에서 나옵니다.

회의에서 어떤 결정을 내렸는지 남겨야 하는 것, 고객이 반복해서 묻는 질문도 기록해야 합니다.

그리고, 영업팀이 자주 만나는 반론도 쌓아야 합니다. 이어서 지원팀이 매주 해결하는 문제와 제품팀이 실패한 실험도 남겨야 한다는 것이지요.

AI는 기록된 정보만 읽을 수 있습니다.(저장되는 공간에 양질의 데이터가 있어야 한다는 이야기입니다) 조직이 남기지 않은 경험은 AI에게 존재하지 않는 것과 같습니다. 그래서 조직의 대화와 결과물을 AI가 읽을 수 있는 형태로 저장해야 해요. 흩어진 메모를 단순히 검색하는 데서 끝내면 안 돼요. 사람과 회사, 업무의 맥락을 연결해야 합니다.

이렇게 쌓인 조직의 기억이 Company Brain입니다.

옵시디언과 LLM을 결합한 위키도 같은 관점에서 볼 수 있습니다. 단순한 노트 보관소가 아닌, 개인과 조직의 지식을 AI가 활용하도록 만드는 실험의 연속이자 과정입니다.

두 번째 축, Agent Loop

현재 많은 회사가 AI를 단발성으로 사용하는 단계입니다.

사람이 질문하면 AI는 답을 합니다. 결과가 마음에 들지 않으면 다시 지시하곤 합니다.

이 방식은 업무 속도를 높여 주긴 합니다. 하지만 조직 전체를 학습시키지는 못합니다.

AI Native Company는 업무를 한 번의 프롬프트로 보지 않습니다. 반복되는 순환 구조로 설계하죠. 이것이 Agent Loop입니다.

Agent Loop는 먼저 현재 상태를 읽고, 그다음 업무를 수행하고 결과를 기록합니다. 결과의 품질을 확인한 뒤, 검증 내용을 다음 실행에 반영합니다. 개발팀을 예로 들어볼게요. 관리 Agent는 이슈를 읽고 위험도를 분류합니다. 작업 Agent는 위험이 낮은 업무를 처리하죠. 코드를 수정하고 PR을 만들어요. 테스트 결과도 함께 남깁니다.

콘텐츠팀도 같은 구조를 만들 수 있습니다. 고객 반응과 조회 데이터를 분석합니다. 분석 결과를 토대로 다음 콘텐츠 가설을 만들어가죠. 콘텐츠를 배포한 뒤 성과를 확인하는 셈입니다. 결과는 다시 다음 기획에 반영합니다.

핵심은 AI에게 한 번 일을 시키는 데 있지 않습니다. AI가 다음번에는 더 나은 조건에서 일하도록 만드는 데 있다는 것을 잊지 말아야 합니다.

세 번째 축, Control Plane

Agent가 움직이기 시작하면 제어판이 필요합니다.

지금 어떤 업무가 진행 중인지 보여야 하고, 어떤 작업의 위험이 낮은 지도 확인해야 합니다. 사람의 승인을 기다리는 업무와 실패한 작업도 한눈에 볼 수 있어야 합니다(H and P)

GitHub Issues나 Linear를 사용할 수 있습니다. CRM이나 Slack도 활용할 수 있고요. 내부 운영 데이터베이스나 옵시디언 대시보드도 Control Plane이 될 수 있다는 것이지요.

중요한 것은 도구의 종류가 아닙니다. Agent가 수행하는 업무의 상태를 사람이 투명하게 볼 수 있어야 합니다. Control Plane이 없으면 Agent는 보이지 않는 곳에서 일합니다. 이런 자동화는 생산성을 높이기보다 위험을 키울 수 있습니다. 그래서 Agent를 설계할 때는 세 가지를 함께 정해야 합니다. Agent가 어디에 상태를 남길지 결정해야 합니다. 누가 결과를 확인할지도 정해야 한다는 것이지요. 어떤 기준으로 승인할지도 설계해야 합니다.

네 번째 축, Quality Gate

업무 루프를 만든다고 해서 결과가 자동으로 좋아지지는 않습니다. 잘못된 기준으로 돌아가는 루프는 같은 오류를 더 빠르게 반복할 뿐입니다.

그래서 모든 루프에는 품질을 검증하는 장치가 필요해요. 이것이 Quality Gate입니다.(많이 놓치고 있는 부분이라서 강력하게 언급하고 싶습니다)

기준 답안인 Golden Set을 만들 수 있는데요. 정량 평가를 위한 Eval도 필요합니다. 자동화된 테스트 결과와 리뷰 체크리스트도 활용할 수 있어요. 승인 기준과 실패 기록도 남겨야 합니다.

중요한 원칙은 분명해요. 측정하지 않으면 개선 여부를 알 수 없습니다. AI가 좋아졌다고 느끼는 것과 실제로 좋아진 것은 다르다는 것을 알아야 합니다. 고정된 시험 문제와 평가 기준이 있어야 하고요. 그래야 개선과 퇴보(폐기)를 구분할 수 있어요.

따라서, 중요한 질문은 AI를 도입했느냐가 아닙니다. 좋은 결과와 위험한 결과를 구분할 수 있는 기준이 있느냐입니다.

다섯 번째 축, Human-on-the-Loop

AI Native Company는 사람이 사라지는 회사가 아닌, 사람의 역할이 달라지는 회사라고 이야기 하고 싶네요.

반복할 수 있고 검증할 수 있는 업무는 Agent가 맡아서 합니다. 사람은 모든 업무를 직접 처리하는 자리에서 벗어나서, 대신 업무의 기준을 만들고 예외 상황을 판단합니다. 중요한 결과를 승인하고 윤리적 바카라임도 맡습니다.

고위험 의사결정은 사람이 합니다. 고객과의 신뢰를 다루는 일도 사람이 맡아야 합니다. 조직 내부의 갈등이나 정치적 판단도 AI에 맡기기 어려운 것과 마찬가지입니다.

이러한 관점은 AI가 사람을 대체한다는 이야기와 다르다는 것을 알아야 합니다. 사람은 루프 안에서 모든 작업을 붙잡지 않습니다. 루프 위에서 방향과 기준을 관리하고요. 그래서 Human-in-the-Loop보다 Human-on-the-Loop라는 표현이 더 중요합니다.

사람은 기계가 놓친 일을 처리하는 부품이 아닙니다. 전체 시스템을 관리하는 바카라임자로서 그 역할을 해야 합니다.

여섯 번째 축, Operating Leverage

AI Native Company의 성과는 단순한 시간 절감이 아닌, 같은 팀이 더 많은 실험을 할 수 있습니다. 더 많은 고객 대화를 분석할 수 있고요. 또한 문서를 더 빠르게 갱신할 수도 있습니다. 부서 사이의 조정 비용도 줄일 수 있고요.

이런 변화는 직원 한 명당 매출로 확인할 수 있는데요. AI 사용 비용과 성과의 관계도 살펴볼 수 있는데요.(이러한 이야기들이 요즘 많이 나오고 있죠) 업무 매뉴얼이 계속 개선되는지도 확인해야 할 겁니다. 고객별 영업 자료를 얼마나 빠르게 만드는 지도 좋은 지표 중에 하나일 텐데요.

중요한 목표는 인원을 줄이는 데 있지 않습니다.(진짜 필요하다면 어쩔 수 없지만 말이죠) 조직의 학습 속도를 높이는 데 집중해야 한다는 것입니다.

AI Native Company는 사람이 적은 회사가 아닌, 같은 사람이 더 많은 업무 루프를 운영하는 회사라는 점입니다. 이런 루프가 쌓일수록 조직은 더 많은 경험을 학습합니다.

결국 개인의 생산성을 넘어 조직 전체의 지능이 높아진다는 것입니다.

마케팅 조직을 위해 정리한 AI Native 성숙도 모델

우리 회사는 AI Native Company일까요?

AI Native Company로 가고 있는지 확인하려면 몇 가지 질문을 던져서 그에 대답을 알아내야 합니다.

회사의 중요한 지식이 AI가 읽을 수 있는 형태로 남아 있나요?

반복 업무를 Agent Loop로 설계했나요?

Agent의 진행 상태를 사람이 확인할 수 있나요?

좋은 결과와 나쁜 결과를 구분하는 기준이 있나요?

사람은 단순 실행자가 아니라 루프의 바카라임자로 일하고 있나요?

AI가 시간만 줄이는 것이 아니라 조직의 학습 속도도 높이고 있나요?

이렇게 6가지 질문에 답하지 못한다면 AI 도입은 개인의 생산성 실험에 머무르게 된다는 것입니다.(매우 심각한 고민이 될 수도 있습니다)

반대로 하나씩 답을 만들기 시작하면 회사는 달라질 수 있을 겁니다. AI를 사용하는 조직에서 AI로 운영되는 조직으로 이동할 수 있습니다.

90일이면 시작할 수 있어요

AI Native Company는 먼 미래의 개념이 아닙니다. 첫 단계도 거창할 필요가 없는데요.

먼저 반복해서 수행하는 업무 하나를 고르면 됩니다.

그 업무에 필요한 자료와 판단 기준을 정리해요. 정리한 정보는 Company Brain에 남겨 봅니다.

다음으로 위험이 낮은 업무부터 Agent Loop를 만들기 시작합니다.

Agent의 진행 상태를 보여 주는 Control Plane도 연결하고요.

마지막으로 좋은 결과와 나쁜 결과를 구분할 Quality Gate를 붙이는 것이지요.

실제 개인적인 비즈니스를 이용해서 조직을 구성하고 만드는 예제 - Paperclip

90일 동안 Company Brain 하나를 만들 수 있습니다.(물론 Paperclip, Hermes Agent 로도 하루 만에 그러한 Agent를 만들 수 있긴 합니다) Agent Loop 하나와 Control Plane 하나도 구축할 수 있습니다. 여기에 Quality Gate 한 세트를 더하면 됩니다.

중요한 것은 더 많은 AI 도구를 구매하는 일이 아니라는 점입니다. AI가 회사의 경험을 읽고 다음 업무에 활용하도록 회사를 설계하는 일이 더욱더 중요하니깐요.

AI 도입의 목표는 자동화가 아니에요

결론을 한번 더 이야기한다면, AI Native Company 전환의 목표는 단순한 업무 자동화가 아닙니다.

고객사의 반복 업무와 조직 지식을 AI가 읽을 수 있어야 합니다. 의사결정 기준과 품질 검증 절차도 이해할 수 있어야 하고요. AI는 업무를 수행한 뒤 결과를 기록해야 합니다. 실행 결과를 바탕으로 다음 업무도 개선해야 하듯이 말이죠.

AI Native 및 AX 프로젝트는 90일 동안 네 가지 운영 기반을 구축해야 합니다. Company Brain과 Agent Loop를 만들어요. Control Plane을 연결하고 Quality Gate도 마련합니다.

이를 통해 AI 활용을 개인의 도구 사용 단계에서 조직 운영 단계로 전환하는 것이지요.

AI를 사용하는 회사를 넘어, AI로 학습하고 운영되는 회사를 만드는 것. 이것이 AI Native Company 전환의 목표라는 점을 다시 한번 상기시켜 볼까요?

---

Stay Tuned.

✦ 내 글의 AI SEO / AIO / GEO의 퍼포먼스를 링크 하나만으로도 분석한다! ☞ GAEO Analysis

✦ 블로그 콘텐츠, 이미지, 동영상 생성을 위한 프롬프트 생성을 손쉽게! ☞ 프롬프트 메이커

✦ 트로이(TROE)는 글로벌 AX 파트너, SOTATEK., JSC & Appier와 파트너십으로 함께 합니다.

✦ AX, 응용 AI와 관련된 기업 교육 및 업무 파트너 문의 chunghyo@troe.kr 로 연락 주세요.

또 만나요.

박충효 드림

( ͡° ͜ʖ ͡°)