앞에서는 AI 학습을 위한 데이터를 어떤 절차와 방법 등을 통해 수집하는지에 대해서 이야기했다.
그렇다면 AI 학습용 데이터를 수집하고 나면, 어떠한 절차를 통해 AI 시스템이 구축되는 걸까?
일명 'AI 시스템 수명주기'에 대해 이야기하고자 한다.
AI 시스템 수명주기는 ‘데이터 수집’ → ‘AI 학습’ → ‘AI시스템 구축’ → ‘AI시스템 운영’ → ‘AI시스템 폐기’ 5단계로 구성된다. AI 학습과 AI시스템 구축 단계는 순서가 바뀌거나 동시에 추진될 수 있다.
학습데이터 수집 단계는 앞에서 이야기했기 때문에 패스하고, AI 학습부터 이야기해보겠다.
AI 학습
AI 학습은 앞서 구축한 학습데이터를 AI 모델에 학습시키는 과정으로, AI 학습을 위한 인프라 자원을 우선 확보하는 것이 중요하다. 기본적으로 AI 학습을 하지 않더라도, AI 모델을 운영하려면 GPU나 NPU 같은 고성능 연산 자원이 필요하다. 데이터를 학습하고 나면 AI 모델을 평가하는 과정을 거치게 되는데, 품질 및 성능을 평가하고 평가 결과가 기준치에 미달하면 재학습을 통해 최적화를 진행한다. 평가 결과가 기준치 이상을 달성하면, AI 모델이 AI 시스템에 활용될 수 있도록 배포하게 된다.
AI시스템 구축
학습된 AI 모델을 활용한 AI 시스템을 구축하기 위한 단계로, 관련 소프트웨어를 개발 및 도입하고 CPU, GPU, 스토리지 등 인프라를 확보하고, 필요시 기존 시스템 및 서비스를 연계(API 등 활용)하는 과정을 통해 AI 시스템을 구축한다.
AI시스템 운영
구축된 AI시스템을 운영하며 사용자에게 챗봇, 추천, 업무 지원 및 자동화 등 다양한 서비스를 제공한다. 이때 서비스는 주로 사용자 요청을 받으면 AI 시스템이 응답하는 형태로 운영된다. 관리자는 AI 시스템을 운영하며 AI 시스템이 정상적으로 동작하는지 로깅 및 모니터링하고, 이상상황 발생시 신속한 대응을 진행해야 한다. 또한 시스템이 기대 성능을 유지할 수 있도록 데이터를 재학습하거나 업데이트를 하는 등 유지보수를 지속적으로 수행해야 한다.
AI시스템 폐기
AI 시스템 운영이 종료되거나 새로운 시스템으로 교체되면, AI모델, 인프라, 데이터 등 불필요한 구성요소를 삭제하고 파기한다. 폐기 절차가 부실할 경우에는 새로운 보안 취약요소가 발생하며, 재사용 등의 악용 문제가 발생 가능하므로, AI시스템의 모든 구성요소를 복구 또는 재사용이 불가능하도록 완전삭제 소프트웨어 등을 이용하여 삭제 및 폐기해야 한다.
참고자료
국가·공공기관 AI보안 가이드북(국가정보원&NSR, 2025)
AI 학습데이터 구축 안내서(한국지능정보슬롯진흥원&과학기술정보통신부, 2025)