내 폰 안에 '천재 비서'
인터넷 없이 온디바이스AI

불과 몇 년 전만 해도 사람들은 '인공지능(AI)'이라고 하면 거대한 데이터센터나 복잡한 서버 인프라를 떠올렸다. 챗GPT 같은 초거대 AI에게 질문을 던지면, 그 질문은 네트워크망을 타고 지구 반대편의 초거대 서버로 날아가 계산된 뒤 다시 스마트폰 화면으로 돌아오는 방식이었다. 이 때문에 인터넷이 끊기거나 통신 상태가 불안정하면 AI 서비스는 무용지물이 되곤 했다.

하지만 2026년 현재, 모바일 시장은 혁명적인 패러다임 시프트를 맞이하고 있다. 인공지능이 무거운 구름(Cloud) 위를 벗어나 우리 주머니 속 스마트폰 안으로 직접 걸어 들어온 것이다.

업계에서는 이를 '온디바이스 AI(On-Device AI)'라고 부른다. 인터넷이 연결되지 않은 깊은 산속이나 비행기 모드 상태에서도 기기 스스로 생각하고 답을 내놓는 시대가 본격적으로 개막했다.

사진=퀄컴

'온디바이스 AI' 서버로 가는 고속도로 대신 '내 집 앞 편의점'

기존의 클라우드 AI 방식은 아주 어려운 수학 문제를 풀기 위해 매번 마을 중앙 도서관(서버)까지 먼 길을 달려가 사서에게 답을 구해오는 시스템과 유사했다. 도서관까지 가는 도로(인터넷망)가 막히면 답을 알 수 없었고, 사적인 질문의 내용이 도서관 기록에 고스란히 남는다는 보안상의 찜찜함도 존재했다.

반면 온디바이스 AI는 내 바카라상 위에 유능한 개인 비서를 상주시키는 방식이다. 스마트폰 기기 자체가 경량화된 AI 모델을 내장하고 있어 외부와의 데이터 송수신 없이 즉각적인 연산을 수행한다.