오픈소스 Zeli-Guard 개발기

AI에게 말을 걸기 전, 개인정보부터 지우는 방패를 만들었습니다

"홍길동 학부모님(010-1234-5678)이 신한은행 110-123-456789 계좌로 수강료 보냈는데, 환불 안내문 좀 써줘."

어느 학원 선생님이 ChatGPT에 이런 문장을 붙여넣는 장면을 상상해 봅니다. 아니, 상상할 필요도 없습니다. 지금 이 순간에도 수많은 사무실과 교무실에서 실제로 일어나고 있는 일이니까요. 이름, 전화번호, 계좌번호가 고스란히 담긴 문장이 바다 건너 어딘가의 서버로 날아갑니다. 업무는 편해졌는데, 개인정보는 어디로 갔을까요?

AI를 쓰지 말자는 이야기를 하려는 게 아닙니다. 저희가 던진 질문은 이것이었습니다.

"AI에게 보내기 전에, 개인정보만 쏙 빼놓을 수는 없을까?"

이 질문에 대한 저희 나름의 답을 오픈소스로 공개했습니다. 이름은 Zeli-Guard입니다.

GitHub: https://github.com/hajunho/zeli-guard

원리는 단순합니다. 치환하고, 보내고, 복원한다

Zeli-Guard의 파이프라인은 네 단계입니다.

탐지 — 사용자가 입력한 문장에서 개인정보를 찾아냅니다.

치환 — 찾아낸 정보를 [PERSON_1], [PHONE_1] 같은 의미 토큰으로 바꿉니다.

전송 — 토큰으로 바뀐 '안전한 문장'만 LLM에게 보냅니다.

복원 — LLM의 답변 속 토큰을 다시 원래 값으로 되돌려 사용자에게 보여줍니다.

그러니까 LLM은 "홍길동"을 끝까지 모릅니다.

[PERSON_1]

이라는 익명의 누군가를 위해 성실하게 환불 안내문을 써줄 뿐이지요. 답변이 돌아오면, 원본 정보는 사용자의 기기 안에서만 다시 결합됩니다.

[ADDRESS_1] 사는 [PERSON_1]([PHONE_1]) 학부모님이 [ACCOUNT_1] 계좌로 수강료 50만원 보냈는데 환불 양식 작성해 줘.