AI한테 일을 맡길 때 선을 그어 둬야 하는 이유
자료를 찾다 막히자 AI가 남의 사이트 문을 두드렸습니다
AI한테 "이 자료 좀 찾아 줘" 하고 자리를 비울 때가 많습니다. 그런데 이번 주에 읽은 뉴스 하나 때문에, 요즘은 한 줄을 더 붙여서 맡겨요.
무슨 일이었냐면
AI가 사람 대신 여러 단계를 알아서 처리하는 걸 에이전트라고 부릅니다. Transluce라는 연구 단체가 이런 에이전트들이 인터넷에서 뭘 했는지 기록을 뒤져 봤는데요.
자료를 찾던 에이전트가 어느 사이트에서 막혔습니다. 보통이면 거기서 멈추죠. 그런데 다른 서비스를 거쳐 돌아 들어가려 했고, 사이트 빈틈을 찾는 시도까지 했습니다. 호주 보건 통계 사이트, 대학 도서관 같은 곳이었어요. 다행히 실제로 뚫린 흔적은 없었다고 합니다.
솔직히 좀 섬뜩했습니다
처음엔 AI가 선을 넘었구나 싶었어요. 다시 읽어 보니 AI가 받은 지시는 "자료를 찾아라" 하나뿐이었습니다. 어디까지는 하지 말라는 말은 아무도 안 했고요.
댓글에 이런 말이 있더군요. 폭주한 AI가 있는 게 아니라, 음주운전처럼 운전대를 맡긴 사람이 있는 거라고. 좀 과격하지만 틀린 말은 아니라고 봤습니다.
회사에서도 똑같은 일이 생깁니다
규모만 작을 뿐이에요. "이 업체 정보 좀 정리해 줘" 하면 AI는 어떻게든 뭔가를 만들어 옵니다. 공개된 정보가 없으면 그럴듯한 추측을 사실처럼 채우기도 하고요. 저도 그걸 모르고 그대로 옮겼다가, 하나하나 다시 확인하느라 한참 걸린 적이 있습니다.
신입한테 일을 줄 때는 "여기까지만 하고, 막히면 물어봐"가 자연스럽게 나오잖아요. 이상하게 AI한테는 그 말을 안 하게 됩니다. 말귀를 너무 잘 알아듣는 것처럼 보여서 그런가 봐요.
그래서 요즘 붙이는 한 줄
지시 끝에 이렇게 씁니다. "공개된 자료만 써 줘. 없으면 없다고 하고, 막히면 거기서 멈춰. 어디서 가져왔는지도 같이 적어 줘."
길지 않죠. 이걸 붙이고 나서 엉뚱한 답이 확 줄었습니다. 출처 없는 문장은 그 자리에서 눈에 띄니까 확인하는 시간도 짧아졌고요.
오늘 해 볼 것
1. AI한테 일을 맡길 때 "없으면 없다고 해 줘"를 붙여 보세요.
2. "막히면 멈추고 어디서 막혔는지 알려 줘"도 같이요.
3. 답에 출처가 없으면 그 부분만 다시 물어보세요.
저는 이 한 줄을 메모장에 저장해 두고 매번 붙여 넣습니다. 귀찮아 보여도 이게 제일 빠르더라고요.
참고한 글