11장. AI가 짠 코드를 AI가 잡다

비전공자가 AI로 개발할 때 가장 불안한 지점이 있다. "AI가 짠 코드가 맞는지, 내가 어떻게 알아?" 나는 코드를 못 읽는다. AI가 "다 됐어요"라고 하면, 정말 된 건지 확인할 방법이 없어 보인다. 이 장은 그 불안에 대한 내 답이다.

AI는 그럴듯하게 틀린다

먼저 인정할 것. AI는 완벽하지 않다. 그리고 AI의 실수는 특히 위험한데, 틀려도 자신 있게 틀리기 때문이다. 사람이라면 "이 부분은 좀 자신 없어요"라고 할 텐데, AI는 잘못된 코드도 멀쩡한 코드와 똑같이 당당하게 내놓는다. 비전공자는 이걸 구별할 수 없다. 코드가 다 똑같이 어려워 보이니까.

특히 위험한 게 보안 구멍이다. 앱이 겉으로는 잘 작동한다. 버튼도 눌리고 화면도 뜬다. 그런데 그 안에 나쁜 사람이 파고들 틈이 숨어 있을 수 있다. 이건 작동 여부로는 절대 안 보인다. 멀쩡히 돌아가는데 뚫려 있는 것이다.

그래서: AI에게 AI를 검사시켰다

내 해법은 이거였다. 만든 AI와 검사하는 AI를 분리한다.