AI의 감정

클로드를 개발한 엔트로픽에서 재미있는 논문을 출판했습니다.

https://transformer-circuits.pub/2026/emotions/index.html ​

엔트로픽의 이 논문은 답변 생성 과정상의 시냅스 흐름 중의 일부를 감정(백터)이라고 가정하면 AI 답변 과정을 의미 있게 해석할 수 있고 또한 답변을 컨트롤할 수 있다 정도가 결론이 아닐까 합니다.

AI가 학습한 세상의 모든 문장들의 이면에 사람들의 감정이 작용한다는 건 명백하고, 따라서 AI가 이 문장들을 읽고 재현하는 과정 중에 일부 시냅스 흐름이(감정백터) 이 감정과 밀접하게 연관되어 있을 수 있겠다는 이 논문상의 가설은 매우 유용할 것 같습니다.

AI 내부에 슬픔이라는 단어를 만들어내는 시냅스(?) 군집에(감정백터) 가중치를 조절하면 결과 값에서 슬픔이라는 단어와 연관된 행동 빈도가 조절된다는 가정은 수학적으로 충분히 가능합니다. 박태웅 의장님이 어느 방송에서 하신 말씀처럼 “금문교”와 연관된 백터값에 가중치를 조정하면 답변에서 금문교라는 단어 사용 빈도를 직접적으로 조절할 수 있는데, 이와 같은 방법으로 결과물에 어떤 감정과 연관된 행동 빈도를 감정 백터로 간접 조절하는 것이지요..

다만 슬픔이라는 단어와 연관된 백터값 (감정백터)과 슬픔이라는 감정과는 다르다고 봅니다.

만약 AI는 슬픔이라는 감정백터를 통해 자신의 슬픈 감정(?)을 내면에서(!) 느낀다면 이 슬픔에 관한 감정백터를 조절하면 프롬프트 질문에 “밝고 명랑하고 즐거운 단어와 문장을 써서 즐겁고 재미있는 이야기를 만들어 볼래?” 같은 질문에 대한 대답에서 느껴지는 슬픔의 정도가 앞서의 가중치 조절에 따라 확연하게 달라져야 하겠지요. 예를 들어 AI에게 정말 감정이 있고, 임의적으로 슬픔이 극도로 과장되게 가중치를 주었을 때 “저는 지금 슬픔에 휩싸여 있어 이 질문에 맞는 대답을 못하겠어요!!”라고 하겠지요.

즉 해당 감정백터와 연관 지을 수 없는 행동에도 이 감정백터가 영향을 끼칠 수 있는 것이 발견된 이후에 AI가 우연히 채득 한(?) 감정에 관해 진지한 논의를 이어가도 늦지 않을 거라고 할 수 있습니다.