AI 경진대회에서 잘 작동한 그 앱, 과연 배포할 수 있을까?
AI가 코드를 대신 짜주는 시대가 되었습니다.
불과 몇 년전까지만 해도, 서비스 하나를 만들기 위해 기획자, 디자이너, 프론트엔드 개발자, 백엔드 개발자 등 다양한 분야의 전문가들이 모여 몇 번씩 회의를 했습니다. 하지만 이제는 다릅니다. AI에게 자연어로 “사내 문서를 검색해주는 챗봇을 만들어줘”, “회의록을 요약하고 담당자별 액션 아이템을 정리해줘”라고 말하면, AI는 순식간에 화면을 만들고 버튼을 붙이고 API 호출 코드까지 작성해줍니다. 불과 몇 년 전만 해도 상상하기 어려웠던 일이 이제는 바이브 코딩(Vibe Coding)*이라는 이름으로 너무나 자연스럽게 벌어지고 있습니다.
*바이브 코딩(Vibe Coding) : 코드 문법이나 원리를 이해하지 않고 AI와 자연어로 대화하며 전체적인 느낌(Vibe)으로만 코드를 생성하는 프로그래밍 방식
그래서 요즘 많은 기업들이 AI 경진대회, 바이브 코딩 대회, 사내 에이전트 개발 챌린지를 열고 있습니다. 현업 직원들이 직접 자신이 겪는 불편함을 정의하고, AI 도구를 활용해 며칠 만에 서비스를 만들어냅니다. 결과물도 꽤 놀랍습니다. 규정을 찾아주는 챗봇, 보고서를 작성하는 에이전트, 데이터를 조회해주는 업무 비서, 고객 문의를 정리해주는 AI 상담원까지 등장합니다. 데모 화면만 보면 이런 생각이 듭니다. “이제 현업도 직접 서비스를 만들 수 있는 시대가 왔구나.” 그런데 저는 여기서 한 가지 질문을 던지고 싶습니다.
경진대회에서 잘 작동한 그 앱,
과연 1,000명이 사용하는 회사 안에서도 똑같이 잘 작동할까요?
바이브 코딩의 진짜 한계는 “만들 수 있느냐”에서 드러나지 않습니다. 오히려 대부분의 앱은 처음에는 너무 잘 만들어집니다. 문제는 “운영할 수 있느냐”에서 시작됩니다. 한 명이 접속해서 버튼을 누를 때는 아무 문제가 없던 서비스가, 100명이 동시에 접속하는 순간 느려집니다. 테스트용 PDF 몇 개는 잘 읽던 챗봇이, 부서별 문서 수천 개를 넣는 순간 어디에 무엇을 저장해야 할지 막힙니다. 로그인 버튼은 만들었지만, 이 사람이 어느 부서 소속인지, 어떤 문서를 볼 권한이 있는지, 파견이나 휴직자는 접근을 차단할 수 있는지 같은 질문에는 답하지 못합니다. 이 지점부터 문제는 더 이상 프론트엔드도, 프롬프트도, LLM도 아닙니다. 바로 백엔드의 문제입니다.
음식 맛은 있는데 다시는 안가게 되는 식당
우리가 식당을 하나 차린다고 생각해보겠습니다. 친구 몇 명을 초대해 맛있는 라면을 끓여주는 것은 어렵지 않습니다. 냄비 하나, 가스레인지 하나, 좋은 라면과 레시피만 있으면 됩니다. 이것이 바이브 코딩으로 만든 프로토타입에 가깝습니다. 그런데 그 라면집이 갑자기 하루 1,000명의 손님을 받는 매장이 된다면 이야기는 완전히 달라집니다. 주문은 어디서 받을지, 재료는 얼마나 쌓아둘지, 주방 동선은 어떻게 설계할지, 결제는 어떻게 처리할지, 알레르기 정보는 어떻게 관리할지, 직원별 권한은 어떻게 나눌지, 위생 점검이 나오면 어떤 기록을 보여줄지까지 고민해야 합니다. 맛있는 라면을 끓이는 능력과, 라면집을 운영하는 능력은 전혀 다른 역량입니다. 바이브 코딩 앱과 현업 서비스의 차이도 바로 여기에 있습니다.
첫 번째 벽은 동시접속과 트래픽의 문제입니다. 사용자는 버튼 하나를 눌렀을 뿐이지만, 그 뒤에서는 여러 일이 동시에 일어납니다. 사용자의 로그인 상태를 확인하고, 데이터베이스에서 정보를 가져오고, 벡터 검색을 수행하고, LLM을 호출하고, 결과를 다시 저장합니다. 겉으로는 “질문 하나에 답변 하나”처럼 보이지만, 실제 백엔드에서는 수많은 요청이 오가고 있는 것입니다. 혼자 쓰는 앱에서는 이것이 크게 문제가 되지 않습니다.
그러나 1,000명 규모의 회사에서 특정 시간대에 수십 명, 수백 명이 동시에 접속하면 이야기가 달라집니다. 출근시간에 연결페이지 팝업을 띄운다거나, 점심시간 이후 신착순 신청을 받을 경우를 생각해보면 쉽습니다.
서버가 터졌다 == 손님의 신뢰를 잃었다.
바이브 코딩에서 한 단계 나아가려면 무엇을 준비해야할까요? "바이브 코딩 앱이 현업 서비스가 되기 전에 반드시 넘어야 할 백엔드의 벽" 에 대한 전문은 프로프래머스 전문가 인사이트에서 무료로 읽어보실 수 있습니다.
https://community.programmers.co.kr/post/13861