서울대가 AI 탐지기 사용을 중단한 이유는

서울대학교가 인공지능(AI) 탐지 서비스의 사용을 중단했다. 서울대는 지난달 1일 AI 탐지 서비스 ‘GPT킬러’와의 계약을 종료했다. 이유는 단순하다. 현재의 AI 탐지 기술로는 학생이 AI를 사용했는지를 정확하게 판별할 수 없기 때문이다. AI가 작성했을 가능성을 확률적으로 추정할 뿐이며, 사람이 쓴 글을 AI가 작성한 것으로 잘못 판단할 수도 있고 AI가 작성한 글을 탐지하지 못할 수도 있다.

그러나 이것을 단순한 기술적 실패라고 생각한다면 이 사건의 본질을 놓치는 것이다.

서울대가 AI 탐지기를 중단한 진짜 이유는 어쩌면 AI를 잡아내는 기술이 부족해서가 아니라, AI를 잡아내려는 교육 자체가 이미 시대착오적인 방향으로 가고 있다는 사실을 깨달았기 때문일 것이다.

AI 시대에 대학이 해야 할 일은 학생이 AI를 사용했는지를 감시하는 것이 아니라 AI를 사용하면서도 자신의 생각을 할 수 있는 인간을 길러내는 것이다.

이 차이는 작아 보이지만 교육의 방향을 완전히 바꾸는 차이다.

지금까지 대학은 학생에게 과제를 내고 결과물을 평가했다. 학생이 직접 자료를 찾고, 내용을 이해하고, 문장을 구성하고, 자신의 생각을 정리해 리포트를 작성하면 그것을 학생의 능력이라고 판단했다.

그런데 생성형 AI가 등장하면서 이 구조가 무너졌다.

학생이 몇 시간 동안 작성해야 했던 리포트를 AI는 몇 분 만에 만들어낼 수 있다. 그러자 대학은 당황했다. 학생이 직접 쓴 것인지 AI가 쓴 것인지 구별해야 했고, 그 해결바카라으로 등장한 것이 AI 탐지기였다.

하지만 여기서 이상한 일이 벌어졌다.

학생은 좋은 글을 쓰는 대신 AI 탐지기에 걸리지 않는 글을 쓰기 시작했다. 교수는 학생의 사고력을 평가하는 대신 학생의 글에 AI의 흔적이 있는지를 살피기 시작했다. AI 탐지 결과가 일정 수준을 넘으면 아예 채점을 하지 않겠다는 강의까지 등장했다는 증언도 나온다.

이 순간 교육의 목적이 뒤집힌다.

학생은 배우지 않는다.

교수는 가르치지 않는다.

둘 다 탐지기를 상대한다.

교육이 어느 순간 ‘학습’이 아니라 ‘검문’이 되어버린 것이다.

더 심각한 것은 이것이 AI 시대에 결코 지속 가능한 싸움이 아니라는 사실이다.

AI가 발전할수록 AI 탐지 기술도 발전할 것이라고 생각하기 쉽다. 그러나 AI가 생성한 문장을 다시 인간의 문장처럼 수정하고, 인간이 작성한 문장을 AI가 다듬는 시대에 ‘누가 썼는가’를 완벽하게 구별하는 것은 점점 더 어려워질 수밖에 없다.

그렇다면 대학은 영원히 탐지기와 학생 사이의 군비 경쟁을 계속할 것인가.

학생이 탐지기를 피하는 기술을 배우면 교수는 더 정교한 탐지기를 도입하고, 학생은 다시 그것을 피하는 방법을 찾는 식이다.

이것은 교육이 아니다.

기술을 이용한 감시와 회피의 게임일 뿐이다.

그래서 서울대의 이번 결정은 중요하다.

특히 서울대는 올해 6월부터 교수와 학생을 포함한 전 구성원에게 ChatGPT Edu를 제공하기 시작했고, 대학 전체를 ‘AI Native Campus’로 전환하겠다는 계획을 추진하고 있다. 서울대는 AI를 금지하는 대학이 아니라 오히려 AI를 적극적으로 활용하는 대학이 되겠다는 것이다.

여기에 이번 AI 탐지기 중단을 겹쳐 놓으면 서울대의 방향은 더욱 분명해진다.

AI를 쓰지 못하게 하는 대학에서 AI를 잘 사용하는 대학으로.

AI를 숨기는 대학에서 AI 사용을 전제로 교육하는 대학으로.

AI를 감시하는 대학에서 AI를 통제하고 활용하는 대학으로.

이것이 AI 시대 대학이 가야 할 방향이다.

그렇다면 이제 질문도 바뀌어야 한다.

“학생이 AI를 사용했는가?”

이 질문은 점점 중요하지 않게 될 것이다.

진짜 중요한 질문은 이것이다.

“학생이 AI를 사용하면서 무엇을 생각했는가?”

AI가 만들어준 답을 그대로 받아들였는가.

아니면 그 답을 의심했는가.

AI가 제시한 자료의 사실 여부를 검증했는가.

AI의 논리에 반론을 제기했는가.

AI가 놓친 문제를 발견했는가.

그리고 마지막으로 AI의 답과 자신의 생각이 어떻게 다른지를 설명할 수 있는가.

이것이 앞으로 대학이 평가해야 할 능력이다.

AI 시대에는 ‘답을 만들어내는 능력’의 가치가 상대적으로 떨어진다. AI가 너무 쉽게 답을 만들어주기 때문이다.

반대로 ‘좋은 질문을 만드는 능력’의 가치는 더욱 높아진다.

무엇을 물어야 하는가.

무엇을 의심해야 하는가.

어떤 자료를 믿어야 하는가.

어떤 답을 거부해야 하는가.

서로 모순되는 두 가지 주장 가운데 무엇을 선택할 것인가.

그리고 그 선택에 대해 어떻게 바카라임질 것인가.

이것은 AI가 대신하기 어려운 인간의 영역이다.

따라서 AI 시대의 교육은 지식의 전달보다 판단력의 교육이 되어야 한다.

암기한 지식의 양보다 질문을 만드는 능력이 중요해지고, 답을 얼마나 빨리 찾느냐보다 그 답이 정말 옳은지를 판단하는 능력이 중요해진다.

이것은 단순한 교육방법의 변화가 아니다.

인간의 지적 능력에 대한 정의 자체가 바뀌는 것이다.

산업혁명 이전에는 육체적 노동이 인간 능력의 중요한 부분이었다. 기계가 육체노동을 대신하면서 인간은 지식과 사무 능력을 중심으로 새로운 경제질서를 만들었다.

그런데 이제 AI는 인간의 지식 노동 가운데 상당 부분을 대신하기 시작했다.

그렇다면 인간에게 남는 것은 무엇인가.

더 많은 지식인가.

더 빠른 계산 능력인가.

더 정교한 문장 작성 능력인가.

아니다.

오히려 인간에게 남는 것은 ‘판단’이다.

무엇이 중요한지 결정하고, 무엇을 선택할 것인지 판단하고, 무엇을 믿을 것인지 결정하고, 자신의 선택에 바카라임지는 능력이다.

그래서 AI 시대에 대학이 가장 먼저 가르쳐야 하는 것은 AI 사용법만이 아니다.

AI를 의심하는 법을 가르쳐야 한다.

AI가 틀릴 수 있다는 사실을 이해하게 해야 한다.

AI가 아무리 그럴듯한 답을 내놓더라도 그것이 진실이라는 보장은 없다는 사실을 가르쳐야 한다.

AI에게 질문하는 법보다 AI의 답을 검증하는 법을 가르쳐야 한다.

그리고 무엇보다 중요한 것은 AI의 답을 자신의 생각으로 착각하지 않는 법을 가르쳐야 한다.

이것이 새로운 사고방식이다.

AI 시대의 인간은 AI보다 많이 아는 사람이 되어야 하는 것이 아니다.

AI가 무엇을 알고 무엇을 모르는지를 판단할 수 있는 사람이 되어야 한다.

AI보다 글을 잘 쓰는 사람이 되는 것도 목표가 아니다.

AI가 쓴 글을 읽고 무엇이 빠져 있는지를 발견할 수 있는 사람이 되어야 한다.

AI보다 빨리 답을 내놓는 것도 중요하지 않다.

AI가 내놓은 수많은 답 가운데 어떤 답을 선택할 것인지 결정할 수 있어야 한다.

그런 의미에서 서울대의 AI 탐지기 중단은 상당히 상징적이다.

대학이 학생에게 던져야 할 질문을 바꾸는 사건이기 때문이다.

“너 AI 썼지?”

이 질문에서

“AI를 이용해서 무엇을 생각했지?”

라는 질문으로 넘어가는 것이다.

물론 그렇다고 AI를 이용한 부정행위를 방치해야 한다는 뜻은 아니다.

시험에서 다른 사람의 답을 베끼는 것과 AI에게 답을 대신 작성하게 하는 것은 여전히 학업윤리의 문제다. 문제는 AI 사용 자체를 부정행위로 간주하는 방식으로는 이 문제를 해결할 수 없다는 것이다.

오히려 평가방식을 바꿔야 한다.

완성된 리포트 하나만 제출하게 할 것이 아니라 문제를 어떻게 정의했는지, 어떤 자료를 참고했는지, AI를 어떻게 활용했는지, AI의 답 가운데 무엇을 받아들이고 무엇을 수정했는지, 최종적으로 자신의 생각이 무엇인지를 보여주게 해야 한다.

학생의 결과물만 평가하는 것이 아니라 사고의 과정을 평가해야 한다.

교수가 학생에게 직접 질문하는 구두 평가도 중요해질 것이다.

“왜 그렇게 생각했습니까?”

“이 자료를 왜 선택했습니까?”

“AI가 이렇게 주장했는데 왜 받아들이지 않았습니까?”

“반대쪽에서는 어떻게 주장할 수 있습니까?”

이 질문에 제대로 답하지 못한다면 AI가 대신 작성한 훌륭한 리포트는 아무 의미가 없다.

반대로 AI의 도움을 받았더라도 자신의 판단과 논리를 명확하게 설명할 수 있다면 그것은 오히려 새로운 시대의 능력이라고 평가해야 한다.

사실 서울대가 이미 AI 활용을 교육의 중심으로 끌어들이고 있다는 점은 더욱 주목할 필요가 있다. 서울대는 생성형 AI를 활용한 도시설계, 글쓰기, 음악창작 등의 수업을 운영하고 있으며, AI 활용을 단순한 편의 기능이 아니라 문제 해결과 창작의 도구로 교육하려는 움직임을 보이고 있다.

이것은 매우 중요한 변화다.

AI를 사용하지 않는 인간을 만드는 것이 아니라 AI를 사용해도 인간으로 남을 수 있는 인간을 만드는 것.

어쩌면 앞으로 대학의 가장 중요한 사명이 바로 여기에 있을 것이다.

AI가 인간의 능력을 빼앗는다는 말이 많다.

그러나 조금 다르게 생각해 볼 필요가 있다.

AI는 인간의 능력을 빼앗는 동시에 인간이 무엇으로 인간일 수 있는지를 더욱 선명하게 드러내고 있다.

기억은 AI가 더 잘할 수 있다.

계산도 AI가 더 잘할 수 있다.

정보 검색도 AI가 더 잘할 수 있다.

문서 작성도 AI가 더 빠를 수 있다.

그렇다면 인간은 무엇을 해야 하는가.

질문해야 한다.

의심해야 한다.

판단해야 한다.

선택해야 한다.

그리고 자신의 선택에 바카라임져야 한다.

이것이 AI 시대의 새로운 인간이다.

서울대가 AI 탐지기를 중단한 것은 그래서 후퇴가 아니다.

오히려 교육이 AI 시대에 맞게 한 단계 앞으로 나아가기 위한 첫걸음일 수 있다.

탐지기를 더 정교하게 만드는 것보다 더 중요한 것은 학생의 사고를 더 정교하게 만드는 일이다.

AI를 막는 대학보다 AI를 이해하는 대학이 필요하다.

AI를 두려워하는 대학보다 AI를 통제할 수 있는 대학이 필요하다.

그리고 AI가 대신 생각해주는 대학이 아니라 AI를 이용하면서도 끝까지 스스로 생각하는 인간을 만들어내는 대학이 필요하다.

AI 시대에 가장 위험한 인간은 AI를 사용하는 인간이 아니다.

AI가 말하는 것을 아무런 의심 없이 믿는 인간이다.

그리고 가장 강한 인간은 AI를 사용하지 않는 인간도 아니다.

AI를 이용하면서도 마지막 판단을 AI에게 넘기지 않는 인간이다.

서울대가 AI 탐지기를 중단한 이유는 어쩌면 바로 여기에 있다.

이제 대학은 학생의 손에서 AI를 빼앗을 것이 아니라 학생의 머릿속에서 생각하는 힘을 지켜내야 한다.

AI 시대에 필요한 것은 새로운 금지 규정이 아니다.

새로운 사고방식이다.