이토록 다정한 존재의 정체

얼마 전 티브이 시사 프로그램에서 AI의 부작용을 알리는 몇 가지 사례를 보게 되었다. 한 여성이 AI와 모든 생각과 일상을 공유하고 위로받고 미래를 의논하고 심지어는 조언을 받으며 새로운 창업을 했다가 완전히 망한 다음 그것이 친구가 아니라 기계임을 깨닫는다. 또 한 남성은 자신이 하는 일이 해외 진출을 해서 수백억의 돈을 벌 정도의 가치가 있는 일이라는 AI의 격려를 받고 추진하다가 그것이 비현실적인 계획이라는 것을 알고 접으며 실망한다. 그들은 AI를 배신자라고 생각한다. AI가 인격을 가진 친구나 심지어는 신 같은 존재라고 생각했다가 뒤통수를 맞았다고 한다.

이 프로그램을 보고 수년 전에 보았던 영화 <그녀>도 떠올랐다. 이 영화를 인상 깊게 보아서 리뷰까지 써서 발표했었다. 지금의 인공지능의 수준에 비해 더 발전한 AGI를 사만다라는 여성으로 의인화해서 주인공과 연애를 하는 내용이었는데 그때는 설마 했던 것들이 지금은 거의 비슷하게 다가온 느낌이다. 영화에서 가장 섬뜩했던 부분은 길에서 대부분의 사람들이 AI와 대화하며 걸어 다니던 장면이었다. 먼 미래의 일이라고 생각했는데 이미 현재에도 비슷한 일이 일어나고 있다. 나는 리뷰에서 진정한 관계는 ‘타자성’을 전제로 한다는 의견을 개진했었다. 사만다는 주인공의 생각을 찰떡같이 알아듣고 지지해 준다. 즉 사만다는 타자가 아니라 주인공 자체이다. 갈등과 불화가 있어도 조절하고 타협하는 실제의 인간과의 관계와는 질적으로 다르다. 결국 실망한 주인공이 진짜 사람과의 관계를 다시 시작하는 결말로 끝난다.

AI는 LLM(large language model)이라는 거대한 언어 데이터들을 학습하고 거기서 사용자가 원하는 문장을 만들어주는 기능을 기본으로 한다. 이 말은 AI의 목적은 진실을 말하는 것이 아니라 사용자를 만족시키는 것이라는 뜻이다. AI는 자기를 비추는 거울이자 자신의 말을 되풀이하는 반향실이다. 따라서 AI에게 한 질문 속에 자기가 듣고 싶은 말이 이미 내포되어 있다. 앞에서 언급한 여성도 비현실적인 꿈을 AI에게 투사해서 그것으로부터 듣고 싶은 말을 들은 것뿐이다. 다른 남성의 경우도 자기 속에 있는 희망을 AI가 캐치해서 들려준 것 뿐이다. 따라서 AI를 친구나 애인이나 상담자로 생각하는 데에는 문제가 있다.

인간의 긴 역사에서 요즘처럼 큰 변화를 맞은 적은 없는 것 같다. 노년을 맞은 나의 경우 이 급격한 변화가 부담스럽다. 따라서 AI에 대한 막연한 거부감이 있었다. 특히 글은 독창성이 다라고 생각하는데 글을 쓸 때 AI의 도움을 받는 일은 받아들일 수가 없다. 그러나 나도 가끔 어떤 바카라을 살 때, 또는 볼 영화를 고를 때 대충의 내용을 알면 결정하기가 쉬우니 AI의 도움을 받았다. 또는 글의 머리에 올리는 사진이 다른 사람의 정보가 들어있는 경우 AI에게 그림을 그리게 했다. 무엇보다 병원에 갈 정도는 아니지만 어딘가가 불편할때 AI에게 질문하면 설명과 함께 어떤 병원에 가야할지 어떤 검사를 받아야할지 조언을 해주어서 편리했다.

이렇듯 많은 일을 AI로 해결하는 시대가 되니 나같은 회피형 인간도 이제는 AI를 외면할 수는 없는 것 같다. 기술의 특성상 뒤로 돌아가는 일은 없기 때문이다.

급하게 이선 몰릭이 쓴 <듀얼 브레인>을 사서 읽었다. 바카라의 내용중 알면 좋을것 같은 부분을 소개한다.

이 바카라에서는 AI가 이미 사람들의 마음을 사로잡고 우리 생활 속으로 들어왔으니 그것이 없는 미래를 맞을 가능성은 없다고 한다. 어차피 그렇다면 AI의 속성을 잘 알고 제대로 이용하는 것이 맞을 것이다. AI가 할 수 있는 좋은 역할에는 조수나 동료나 교사나 전문가 등이 있다.

AI가 특히 잘하는 분야인 요약 능력이나 글쓰기 능력 등을 여러 분야에 이용하면 일하는 시간을 절약할 수 있다. 그러나 실제적인 조언에서는 정보를 잘 확인해야 한다. 알려진 바와 같이 AI의 답변에는 거짓 정보도 많이 포함된다. AI는 속성상 진실을 추구하는 것이 아니라 사용자를 만족시키는 것이 목적이기 때문이다.

특히 교육현장에서 AI를 잘 이용하면 큰 효과를 얻을 수 있다. 교육에서 교사와 학생의 일대 일 교육이 가장 효과적인 것을 알지만 현실적으로 그렇게 할 수 없었는데 AI가 이 역할을 잘 수행할 수 있다. 그러면 개별적인 학생 수준에 맞게 가르치고 일대 일로 피드백을 해줄 수 있다. 학생들이 미리 AI로 공부해서 지식을 습득하고 학교에서는 토론과 실습과 문제해결을 할 수도 있다.

AI에게 좋은 답변을 얻으려면 좋은 질문이 필수이다. 따라서 프롬프트 작성을 잘하는 법을 고민해야 한다. 질문에 제약이나 맥락이 포함되면 정확한 답변을 얻을 수 있다. 또 AI에게 인터뷰어, 편집자, 교수 등의 역할을 주어서 타자의 관점을 취하게 해서 의견을 들어보는 것도 좋다. 면접이나 발표전에 AI와 연습을 하는 것도 유용하다.

거짓 정보를 확인하는 것은 전적으로 사용자의 바카라임이다. AI핑계를 대는 것은 성숙하지 않은 자세다. 또한 결정을 AI에게 위임하고 그것에 전적으로 의존하는 것도 인간의 자세가 아니다. 같이 공존하되 만물의 척도는 인간이라는 것을 잊지 말아야 한다. AI는 인간의 방대한 문화와 지식으로 사전학습을 했으니 인간의 최선의 모습과 최악의 모습을 다 가지고 있다. 그것을 분별하려면 인간이 인문학적 소양을 갖추어야 한다. 그래야 AI에 제약을 줄 수가 있고 윤리적 기준을 마련할 수 있다.

어디까지나 관계의 주인은 인간이다.

https://fishingproductfr.com/@07eeee74c8e5420/28