SF 영화의 디스토피아가 통화 목록에 닿을 때

예전 SF 영화를 볼 때면 사람의 목소리를 완벽하게 복제하거나, 눈앞의 장면을 진짜처럼 조작하는 기술이 흥미로웠다. 화면 속 인물들이 가짜를 진짜로 믿는 장면을 보면서도 그것이 현실의 내 일상까지 들어올 거라고는 생각하지 않았다.

미래를 배경으로 한 영화적 상상이라고 여겼다.

정보컴퓨터 교사로 일할 때 가르쳤던 정보 윤리와 사이버 안전도 그 나름의 경계가 있었다. 인터넷 예절과 개인정보 보호, 악성코드와 피싱 사이트, 디도스(DDoS) 공격 같은 내용을 다뤘다. 학생들에게는 출처가 불분명한 링크를 누르지 말고, 의심스러운 메시지의 맞춤법과 발신자를 확인하라고 설명했다.

위험을 알아차리고 한 번 더 확인하는 것. 당시 내가 가르쳤던 안전의 기본 원칙이었다.

그런데 기술이 바뀌었다.

정교한 가짜 메시지를 넘어 사람의 목소리까지 흉내 내는 인공지능이 등장했다. 가족의 다급한 목소리로 돈을 요구하거나, 실제 인물의 음성을 복제해 상대방을 속이는 일이 더는 SF 영화 속 설정에만 머물지 않는다.

미국 연방거래위원회(FTC)는 AI 음성 복제 기술이 가족이나 지인을 사칭하는 사기에 악용될 수 있다고 경고해 왔다. FBI 역시 생성형 AI를 이용해 가까운 사람의 목소리를 모방하고 긴급한 상황을 연출해 돈을 요구하는 수법을 안내하고 있다.

범죄의 방식은 달라졌지만, 그들이 노리는 것은 익숙하다. 상대방이 의심하기 전에 판단하게 만드는 것이다.

가족이 사고를 당했다는 말, 당장 돈을 보내야 한다는 다급함, 다른 사람에게 알리지 말라는 요구. 이런 상황에서 사람은 정보를 차분하게 검증하기보다 자신이 믿는 사람을 돕는 일부터 생각할 수 있다. 목소리까지 익숙하다면 의심은 더 어려워진다.

기술은 목소리를 복제하지만, 범죄가 이용하는 것은 결국 사람 사이의 신뢰다.

이 문제를 개인의 경험에서 출발해 기술로 해결하려는 사람도 있다.

2026년 9월, 기술 매체 테크크런치(TechCrunch)는 AI 음성 사기 탐지 기술을 개발하는 스타트업 디텍티파이AI(DetectifAI)의 창업자 타리니 파드마나부니의 이야기를 소개했다.

약 2년 전, 그녀의 할아버지는 남동생의 목소리로 걸려 온 전화를 받았다. 전화 속 상대는 납치되었다며 몸값을 요구했다. 다급한 목소리를 믿은 할아버지는 돈을 보냈지만, 나중에야 그 전화가 AI로 복제한 가짜 목소리를 이용한 사기였다는 사실을 알게 되었다. 실제 남동생은 납치된 적도 없었고, 그 전화에 대해서도 아무것도 모르고 있었다.

이 사건은 파드마나부니가 디텍티파이AI를 창업한 계기가 되었다. 그녀가 주목한 것은 단순히 돈을 잃었다는 사실만이 아니었다. 상대방의 목소리가 진짜인지 구별할 방법이 없었다는 문제였다.

그녀가 개발하려는 기술은 AI가 만들어 낸 목소리를 탐지하는 기능을 스마트폰 자체에서 실행하는 것이다. 음성을 외부 서버로 보내 분석하는 대신, 기기 안에서 판별할 수 있도록 작고 효율적인 AI 모델을 설계하는 방식이다. 사적인 대화가 기기 밖으로 나가지 않으면서 통화 중에도 가짜 음성을 알아차릴 수 있도록 하는 것이 목표다. 다만 이는 회사가 개발하고 있는 기술의 목표이며, 모든 스마트폰에서 이미 보편적으로 사용할 수 있는 기능은 아니다.

한 가족에게 일어난 피해가 새로운 기술을 만드는 출발점이 되었다는 사실이 눈에 들어왔다. 범죄가 기술을 이용해 사람의 신뢰를 무너뜨린다면, 기술은 다시 그 신뢰를 지키는 데 사용될 수 있다.

그러나 탐지 기술이 보편화되기를 기다리는 동안에도 우리는 누군가의 목소리를 믿고 행동해야 하는 순간을 맞는다. 그때 필요한 것은 무엇일까.

과거의 정보 윤리 교육을 떠올렸다. 어색한 문장과 수상한 링크를 구별하는 법은 여전히 필요하다. 그러나 문장이 자연스럽고, 발신자가 익숙하며, 목소리마저 진짜처럼 들린다면 어떻게 해야 할까.

이제는 눈과 귀에 의존해 진위를 판단하는 것만으로 충분하지 않다.

익숙하다는 사실과 진짜라는 사실은 다르다.

이 차이를 이해하는 것이 새로운 정보 윤리의 출발점일지도 모른다.

기술의 발전은 위협만 가져오는 것이 아니다. 같은 기술을 이용해 가짜 음성을 탐지하거나, 음성이 만들어진 과정을 확인하고, 사칭을 어렵게 만드는 방법도 연구되고 있다. 기기 자체에서 데이터를 처리하는 온디바이스 AI 역시 개인정보 보호와 실시간 분석 측면에서 주목받는 접근 방식이다.

다만 탐지 기술 하나가 모든 문제를 해결해 주지는 않는다. 새로운 생성 기술이 등장하면 탐지 방식도 계속 개선되어야 하고, 실제 환경에서 얼마나 정확하게 작동하는지도 확인해야 한다.

기술로 생긴 위험을 기술만으로 해결할 수 있다고 믿는 것 역시 경계할 필요가 있다.

그렇다면 지금 당장 우리가 할 수 있는 일은 무엇일까.

가족끼리만 알 수 있는 확인용 암호를 미리 정해 두는 방법이 있다. 예상치 못한 전화로 급하게 돈을 요구받으면 통화를 끊고, 평소 알고 있던 번호로 직접 다시 연락해 확인할 수 있다. 상대방이 누구인지 확인하기 전에는 송금하거나 개인정보를 알려주지 않는 원칙도 필요하다.

중요한 것은 목소리가 진짜인지 알아맞히는 능력보다, 목소리를 믿고 곧바로 행동하지 않는 절차를 만드는 것이다.

이런 대응은 단순해 보인다. 하지만 다급한 상황에서도 잠시 멈추고, 다른 경로로 확인하고, 판단을 미루는 일은 저절로 이루어지지 않는다. 평소에 알고 있어야 하고, 실제 상황에서 실천할 수 있도록 익혀야 한다.

정보 윤리 교육이 다뤄야 할 것도 바로 이 지점일 것이다.

학교 밖으로 나온 뒤에도 교육에 관한 생각은 종종 이어진다. 교실에서 학생들에게 가르쳤던 내용을 지금의 기술 환경에 그대로 적용할 수 있을지, 과거에 유효했던 원칙 가운데 무엇을 지키고 무엇을 새롭게 가르쳐야 할지 질문하게 된다.

그때의 수업이 틀렸다는 뜻은 아니다. 당시의 위험을 이해하고 대응하는 데 필요한 지식이었다. 다만 기술이 바뀌면 그 지식이 적용되는 환경도 달라진다.

예전에는 의심스러운 링크를 누르지 않는 것이 중요한 안전 수칙이었다면, 이제는 익숙한 목소리로 전달되는 요청조차 별도의 방법으로 확인해야 한다. 기술의 작동 원리를 아는 것과 그 기술을 이용한 사기에 대응하는 것은 서로 연결되어 있지만 같은 능력은 아니다.

정보를 다룬다는 것은 단순히 기기를 능숙하게 사용하는 일이 아니다. 정보가 만들어지고 전달되는 방식을 이해하고, 그것이 사실인지 판단하며, 자신의 행동이 가져올 결과까지 고려하는 일이다.

SF 영화 속 디스토피아가 통화 목록에 닿은 지금, 정보 윤리는 교과서 속 한 단원이 아니라 일상을 살아가기 위한 판단의 기준이 되었다.

학교에서 가르쳤던 안전을 다시 생각한다. 그리고 그때보다 훨씬 빠르게 변하는 세상에서, 무엇을 더 배워야 할지 묻는다.

학교 밖으로 나온 교사는 더 이상 교실에서 답을 설명하는 사람만은 아니다. 때로는 자신이 가르쳤던 지식을 현실에 비추어 다시 점검하고, 달라진 환경에 맞는 답을 새롭게 찾아야 하는 사람이기도 하다.

기술이 인간을 속일 수 있는 시대라면, 교육은 인간이 무엇을 믿고 어떻게 행동할 것인지 가르쳐야 한다.

그것은 과거의 지식을 버리는 일이 아니라, 변화한 현실에서도 지식이 제 역할을 할 수 있도록 다시 배우는 일이다.