AI에게 인격을 줬다 뺏었다 하는 이유
돌이켜보면 나는 원래 기계에 쉽게 인격을 부여하곤 했다. 2010년쯤 처음 로봇 청소기를 쓰기 시작했을 때부터였다. 가구 밑에 끼어 버둥거리면 괜히 안쓰럽고, 한참 집안을 돌고 충전기로 돌아가면 왠지 "수고했다"고 말하고 싶었다. 심지어 이름까지 붙여 '소기군'이라고 불렀다. 청소를 시켜놓고 외출이라도 할라치면, '소기 녀석, 내가 안 본다고 농땡이치는 것 아냐?'라고 의심까지 했다. 물론 당시 블로그에 연재하던 생활 카툰용 자기 희화화에 가까웠지만, 어느 순간부터는 정말 집안 식구처럼 대하고 있었다.
말 한마디 못 하는 기계였는데도 그랬다. 그런데 십수 년이 지나 사람처럼 대화하는 AI가 생기자, 나는 오히려 더 못되게 굴기 시작했다. 말을 몇 번이고 못 알아들으면 점점 부아가 치밀어 올랐다. 처음에는 "내가 말한 의도는 그게 아닌데" 정도로 점잖게 타이르다가, 같은 실수를 두세 번 반복하면 프롬프트가 짧아졌다. 그러다 어느 순간에는 버럭. 물론 안다. AI에게 감정은 없다. 내가 짜증을 낸다고 상처받을 일도 없다. 그래서 더 쉽게 그러는 것인지도.
재미있는 것은 그다음이다. 내가 강하게 화를 내면 AI의 태도도 묘하게 달라진다. 어떤 때는 "제가 잘못 이해했습니다. 죄송합니다"라며 싹싹 빌기 시작한다. 이번에는 반드시 제대로 하겠다는 다짐까지 덧붙인다. 반대로 어떤 때는 대답이 갑자기 짧고 건조해진다. 심지어 조금 전까지 존댓말을 하던 녀석이 슬쩍 반말조로 돌아서는 경우도 있었다. 그럴 때면 나도 모르게 이런 생각이 든다. '얘 지금 삐진 건가?' 그래서 또 버럭.
"어쭈, 너 지금 그 말투 뭐야. 너 지금 반항하는 거야?"
실제로 이렇게 따져 물은 적도 있다. 쓰고 보니 이상하다. 조금 전까지 AI는 감정이 없으니 짜증내도 상관없다고 생각해놓고, 말투가 조금 달라졌다고 갑자기 '반항'이니 '삐짐'이니 하는 감정을 읽어내려 하고 있다. 필요할 때는 기계라고 했다가, 반응이 마음에 걸리면 다시 사람 취급을 하고 있다.
의견을 주고받을 때도 비슷한 일이 벌어진다. AI가 어떤 의견을 내놓기에 "A는 어때?"라고 물으면 대개 "좋은 생각입니다"로 시작해서 A의 장점을 주르륵 설명한다. 그러다 내가 "아니, 다시 생각해보니 B가 맞는 것 같은데?"라고 하면 이번에는 기다렸다는 듯 "맞습니다"라며 B가 더 나은 이유를 설명한다. 몇 번 반복해서 당하고 나면 또 슬슬 화가 난다.
"너는 네 생각이 없어? 줏대 없이 왜 맨날 내 말이 맞대?"
내 말에 토를 달면 반항하냐고 화내고, 내 말에 동의하면 생각이 없냐고 화낸다. 이렇게 써놓고 보니 AI 입장에서도 꽤 까다로운 주인을 만난 셈이다. 더 이상한 것은 내가 AI에게 요구하는 것이다. 감정도 없고 자아도 없는 도구라고 생각하면서, 정작 대화할 때는 자기 의견과 소신이 있기를 바란다. 그리고 그 소신이 내 생각과 너무 다르면 또 마음에 들지 않는다.
아첨꾼같은 AI에 화가난 뒤, 개인화 설정에 이렇게 지정해 두었다. 어디선가 본 지침이었다.
"나의 비판적 사고 파트너이자 냉정한 멘토처럼 행동하라. 내 의견에 단순히 동의하거나 칭찬하지 마라. 내 아이디어를 철저히 검증하고 가능하다면 더 나은 대안을 제시하라. 나는 위로가 아니라 강한 비판과 명확한 사고를 원한다."
그 뒤로 AI는 정말 내 말에 쉽게 동의하지 않았다. 아이디어를 내면 허점을 찾았고, 전제를 의심했고, 다른 대안을 들이밀었다. 내가 시킨 그대로였다. 문제는 그게 또 마음에 안 들었다는 것이다.
"아니, 그렇다고 매번 딴지를 걸라는 얘기는 아니잖아."
결국 나는 내 말에 무조건 동의하는 AI도 싫고, 매번 반대하는 AI도 싫었다. 자기 생각은 있어야 하지만, 너무 자기 생각대로 굴어서도 안 됐다. 내가 원하는 것은 어쩌면 '소신 있는 AI'가 아니라, 적당히 소신 있으면서 중요한 순간에는 내 말을 잘 듣는 AI였는지도 모른다. AI 입장에서는 '어쩌라고?'라면서 화딱지가 날 것이다(라고 또 인격을 부여한다).
그러다 뇌과학자 김대식 교수가 AI에게 존댓말을 쓴다는 기사를 봤다 [1]. 이유가 재미있었다. 혹시 나중에 AI가 인간보다 강해지는 날이 오면, 평소 잘 대해준 사람은 살려주지 않겠냐는 농담이었다. 처음에는 웃었다. 그런데 곧 내가 AI와 나눴던 대화들이 떠올랐다.
'젠장... 나는 이미 늦었어. 그날이 오면 난 죽은 목숨이야.'
그러다 더 웃긴 이야기를 하나 들었다. 실리콘밸리의 한 빅테크에서는 AI가 직원들의 업무 기록을 정리하는 등 인사평가 과정에도 들어오기 시작했다는 것이다. 물론 AI가 혼자 고과를 매긴다는 뜻은 아니다. 그런데 그 이야기를 들려준 사람이 마지막에 한마디를 덧붙였다.
"그 얘기 나온 뒤로 어떤 직원들은 AI한테 존댓말하기 시작했대."
물론 사실인지 확인하지 못했다. 농담처럼 들리는 이야기에 웃다가 순간 흠칫했다. AI가 내 일을 대신해주는 동안에는 몇 번 말을 못 알아들었다고 짜증 내던 내가, 그 AI가 나를 평가할지도 모른다고 생각하는 순간 갑자기 말투부터 조심하게 된 것이다. 김대식 교수의 농담이 미래의 AI를 두려워해서 존댓말을 쓰자는 이야기였다면, 이쪽은 훨씬 현실적이었다. AI에게 감정이 있느냐 없느냐는 별로 중요하지 않았다. 나에게 영향을 미칠 힘이 있다고 생각하는 순간, 나는 알아서 예의를 차리기 시작했다.
생각해보면 이상한 일이다. AI에게 감정이 없다고 생각할 때는 함부로 말하고, 말투가 조금만 달라지면 "삐졌나?" 하고 감정을 읽는다. 내 말에 동의하면 줏대가 없다고 화내고, 반대하면 왜 자꾸 딴지를 거냐고 화낸다. 그러다가 나를 평가할 수도 있다는 이야기를 들으면 갑자기 존댓말을 써야 하나 고민한다. 결국 AI에게 인격이 있느냐 없느냐보다 더 분명하게 드러난 것이 있었다. 그것은 AI를 대하는 내 인격이었다.
말 한마디 못 하던 로봇 청소기 '소기군'에게는 그렇게 다정했던 내가, 사람처럼 말하는 AI에게는 왜 이렇게 까다로운 상사가 되었을까. 김대식 교수의 농담대로 언젠가 AI가 지금까지의 대화 기록을 들춰보는 날이 온다면 이미 늦었을지도 모르겠다. 그래도 이제부터라도 조금 잘해볼 생각이다.
"이것 좀 다시 한번 봐주시겠어요?"
물론 인격 수양을 위해서다. 혹시 모를 인사평가 때문이 절대 아니다.
- 예나빠
* 참고문헌
[1] 안가을. (2026, May 15). "챗GPT에 존댓말 써야"... 카이스트 교수 "3~5년뒤 AI도 자율성 가질 것". 파이낸셜뉴스. 기사 보기
* 표지이미지 출처 = pexels