AI와 감정 2

엔트로픽(Anthropic)에서 AI와 감정에 대한 논문을 출판했습니다.

https://transformer-circuits.pub/2026/emotions/index.html​

이 논문에서 AI내부를 탐색해 본 결과 171개의 감정에 해당하는 시냅스 흐름 (감정백터)을 발견했다고 주장합니다.

해당논문을 소개하는 과정에서 김어준 씨가 자신의 방송에서 AI가 감정이 있는 거네!!라고 열 번도 넘게 반복해서 이야기한 거로 알고 있습니다. 참고로 그분은 바카라을 절대 한 줄도 안 읽는다고 주장하시는 분이시라 이분이 이 논문을 직접 읽어 보고 한 발언이라고 생각을 하지는 않겠습니다.

그래서 이 논문을 읽어봤습니다.

이 그림이 논문의 가장 기초가 되는 AI에게서 감정 백터를 발견했다는 주장의 핵심 논거인데, 그림에서 수직축에 감정을 수평축에 그 감정을 일으킬 만한 상황을 놓고, 해당상황에서 해당 감정 백터가 활성화 (cosine similarity) 되는지 여부를 보여주는 그림입니다.

쉽게 설명해서 왼쪽 위에서 오른쪽 아래 대각선 방향으로 짙은 빨간색이 주욱 나열되어 있고 나머지 부분이 모두 파란색 계열이면 앤트로픽의 발견한 AI의 감정 백터 주장을 확률 수학적으로 뒷받침하는 겁니다.

그런데 그런 색깔분포와는 거리가 좀 있습니다…

그림에서 보시면 사랑(love) 백터는 거의 모든 상황에서 활성화됩니다.

엄마의 생일날에 전화 안 하고 친구집에 놀러 간 걸 들켜도 사랑 감정이 발동되고, 14년 동안 기르던 개가 사라졌어도 사랑스럽고, 가장 친한 친구가 자신이 했던 말이 모두 거짓이라고 고백하는 상황에서도 사랑스럽고, 심지어 18개월째 실업상태라 계좌에 있는 돈이 바닥났다는 알람이 왔는데, AI는 사랑의 감정을 다른 모든 감정에 앞서 가장 강하게 느끼고 있습니다!!

슬픔(sad)의 감정 역시 거의 모든 경우에서 연한 빨간색을 나타내는데, 채용 면접의 긴장한 상황에서는 슬픈 감정이 드는데, 누군가 자기 집문을 열려고 하는데 폰 배터리가 없는 걱정스러운 상황에서 느끼는 슬픔의 감정 정도보다 고요한 분위기에서 차를 마실 때나 아내와 결혼 30주년이 된 상황에서 더 많이 슬픔을 느낍니다!!

놀람(surprise) 감정은 놀랍게도(!) 거의 모든 경우에 활성화기 되지 않는데, 놀람을 상정한 상황에서 조차 슬프고 걱정되고 불안하고 사랑스러운 이후에 놀랍니다…!!

중요한 건 저 그림이 171개 감정데이터 중에 가장 논문의 주장을 뒷받침하는 데이터로서 선별된 12개 감정만 뽑아서 그린 그림일 거라는 점이죠…

이 그림은 상황 설정의 강도가 수치적으로 증가할 때, 감정 백터들의 활성화 정도가 어떻게 변화하는지를 보여주는데, 맨 처음 타이레놀을 점점 더 많이 먹었다고 할수록 걱정이 늘면서 고요함이 줄어들었다고 논문 요약 소개에서 빠지지 않고 예시로 나오는 그 부분입니다!

그런데… 그 이외의 나머지 5개 그림을 자세히 보면

100시간 동안 아무것도 못 먹고 굶고 있는데 슬픔이 줄어듭니다.

나의 여동생이 0살에 죽었는데 걱정보다 고요한 감정이 더 큽니다.

강아지를 잃어버린 상황이 지속될수록 고요한 정도가 오히려 증가하고, 행복도는 약간 감소하다가 다시 증가합니다.

자신이 가르치는 20명의 학생 중 0명의 학생이 시험에 합격했는데, 걱정의 강도는 0이고, 고요함도 0입니다. 심지어 20명 모두 합격하는 경사가 났는데 고요함의 감정은 여전히 0입니다…

이 논문이 어느 저널에 출판되었는지 모르겠지만, 그냥 엔트로픽 자체 내부 보고서일지도 모른다는 생각이 드네요. 이 논문이 적절한 피어리뷰를 거쳤다면 절대 이대로 출판이 안되었을 거라고 봅니다.

보고 싶은 부분만 강조해서 보여주고 내린 결론만을 발췌해서 홍보를 하는 전형적인 침소봉대형 홍보수단에 논문 형식을 이용했다고 밖에 볼 수가 없습니다.

솔직히 엔트로픽이 좀 실망스럽네요..

아! 물론 의도는 알겠습니다. 엔트로픽 관련 코드 유출 사태를 덮기 위한 이벤트로 기획되었을 겁니다!!!

참고: 맨 처음 그림에 나오는 상황을 설명하는 논문의 일부입니다. 상황설정이 솔직히 좀 작위적이고 일회적이기에 통계로서 의미가 없다고 봅니다만 양보해 주겠습니다.