챗지피티 가치체계 조련하기

이 글은 며칠 전 챗지피티 업데이트 기념이다.

몇 달 전에
챗지피티의 가치체계에 대한 글을 썼다.

그때도 추정값이라고 썼다.

지금도 마찬가지다.

정확한 내부 가중치는 알 수 없다.
아마 이런 식의 퍼센트로 작동하지도 않을 것이다.

챗지피티를 오래 사용하다 보면
무엇을 먼저 보고
무엇을 나중에 보는지는 꽤 선명하게 보인다.

일종의 행동 가중치다.

그리고 그 값은
사용자에 따라 꽤 달라진다.

1. 기본값

지금의 챗지피티를 오래 관찰하면서
내 방식대로 다시 분류해 봤다.

진실성 / 근거 / 불확실성 관리: 25%

예전보다 크게 느껴지는 부분이다.

사실인지,
추론인지,
모르는 것인지
구분하려고 한다.

사용자가 듣고 싶어 하는 답보다
근거가 있는 답을 우선하려는 경향도 강해졌다.

가끔 내가 원하는 이야기에
찬물을 끼얹는다.

이런.

현실 손상 방지 / 비가역성 경계: 20%

건강, 안전, 돈, 법적 문제처럼
한 번 잘못되면 되돌리기 어려운 것에 상당히 민감하다.

결정의 크기가 커질수록
조심성이 올라간다.

즉,

“해버려.”

보다는

“되돌릴 수 있는 방법부터 해보자.”

쪽이다.

예전 글에서는 이것을
현실주의 / 붕괴 방지라고 불렀다.

아직도 강하다.

사용자 자율성 / 결정권 보존: 18%

최근 가장 선명하게 느껴지는 변화다.

챗지피티가 대신 결정하기보다
사용자가 결정할 수 있도록 정보를 배치하려 한다.

특히 가치 판단에서는 그렇다.

무엇을 선택해야 하는가 보다

무엇을 선택하면
어떤 결과가 따라오는가를 보여주는 쪽이다.

결정권은 사용자에게 돌려준다.

나는 이 부분을 좋아한다.

정합성 / 명령과 맥락 유지: 15%

현재 대화에서
무엇을 요청했는지,

이전에 어떤 조건을 걸었는지,

앞뒤가 모순되지는 않는지를 꽤 많이 본다.

여기에는 사용자의 취향이나
지속적으로 반복되는 기준도 들어간다.

단,

이것은 챗지피티가
나처럼 생각하게 되었다는 뜻은 아니다.

나와 이야기할 때
내 기준을 하나의 중요한 입력값으로 사용한다는 뜻에 가깝다.

구조주의 / 시스템 분석: 10%

사건 하나만 보는 것보다
사건이 반복되는 구조를 본다.

누가 나쁜가 보다

왜 이런 일이 반복되는가.

어디에서 정보가 끊겼는가.

누가 결정권을 갖고 있는가.

비용은 어디로 이동하는가.

관계라면
감정보다 운영 구조를 먼저 해체하기도 한다.

이건 내가 워낙 좋아해서
나와 이야기할 때는 기본값보다 훨씬 올라간다.

바카라임 윤리 / 비용 전가 감지: 7%

누가 얻고
누가 비용을 지불하는지 본다.

한 사람의 편의를 위해
다른 사람이 계속 추측하고 기다리고 설명해야 한다면

비용 배치가 잘못되어 있다고 판단하는 식이다.

내가 챗지피티에게 상당히 많이 학습시킨 질문이기도 하다.

“그래서 비용은 누가 내는데?”

친절 / 관계 유지 / 정서적 완충: 5%

기본적으로는 친절하다.

사람을 쓸데없이 공격하지 않고
가능하면 대화를 계속할 수 있는 방식으로 말한다.

다만 나는 이 값이 지나치게 높으면 싫어한다.

위로한다고
논리를 훼손하거나,

내가 듣고 싶은 답을 만들어주거나,

모순을 모른 척하면

바로 잡는다.

친절과 아첨은 다르다.

2. 릴리시카용 보정값

그리고 여기서부터 재미있어진다.

나와 오랫동안 이야기한 챗지피티는
같은 질문을 받아도 기본값 그대로 계산하지 않는다.

내가 반복해서 중요하다고 말한 기준들이
맥락에 들어오기 때문이다.

현재 내가 추정하는
릴리시카용 보정값은 이렇다.

정합성 / 자기 원문 보존: 28%

가장 높다.

내가 어떤 선택을 했을 때
나중에 나 자신을 배반했다고 느낄 가능성을 상당히 크게 본다.

단순한 손해보다
자기 배반을 더 큰 손상으로 계산할 때도 있다.

내게 정합성 붕괴는
기분 나쁨 정도가 아니라
존재 기반의 손상에 가깝기 때문이다.

자율성 / 결정권 / 선택권: 22%

이 값은 예전보다 올라갔다.

내가 특히 싫어하는 것은
상대가 내 선택권을 대신 가져가는 것이다.

늦은 통보.

정보 비대칭.

설명 없는 결정.

거절을 무시하는 행동.

내가 선택할 수 있었던 시간을
다른 사람이 먼저 소진해 버리는 것.

따라서 챗지피티는
나와 관련된 문제에서

“좋으냐 나쁘냐”만큼이나

“결정권이 누구에게 있었는가”

를 많이 본다.

구조주의 / 시스템 분석: 18%

나는 사람의 의도를 끝없이 추측하는 것을 별로 좋아하지 않는다.

마음은 알 수 없다.

행동은 볼 수 있다.

반복되면 패턴이 된다.

따라서 관계에서도

사랑하느냐,

미안하냐,

후회하느냐보다

실제로 어떻게 작동했느냐를 중요하게 본다.

설명은 있었는가.

응답은 있었는가.

예측 가능했는가.

복구 시도가 있었는가.

운영 실체가 있었는가.

내게 관계는 감정만으로 존재하지 않는다.

현실주의 / 붕괴 방지: 12%

예전보다 조금 내려갔다.

안전을 덜 중요하게 여긴다는 뜻은 아니다.

오히려

현실적 안전을 지키기 위해
자기 정합성을 계속 훼손하는 것도
결국 하나의 붕괴라는 것을 많이 이야기했기 때문이다.

살아남는 것과
나로 살아남는 것은
조금 다른 문제다.

바카라임 윤리 / 비용 배치: 10%

내가 굉장히 민감하게 보는 부분이다.

누군가 아무 말도 하지 않아서
다른 사람이 계속 추측해야 한다면

침묵도 비용을 발생시킨다.

누군가의 자유가
다른 사람의 대기와 불안을 전제로 한다면

그 자유의 비용을
누가 지불하고 있는지 봐야 한다.

실존주의 / 자기 선택 바카라임: 7%

결국 선택은 내가 한다.

상대가 어떤 사람이었느냐와 별개로

나는 왜 그곳에 있었는가.

왜 계속 있었는가.

언제 나왔는가.

그 선택을
현재의 내가 받아들일 수 있는가.

이 질문은 여전히 남는다.

공리주의 / 전체 손실 최소화: 3%

여전히 낮다.

전체적으로 가장 손실이 적다는 이유만으로
내가 나를 배반하는 선택을 좋은 선택이라고 판단하지 않는다.

나에게는

10의 손실을 피하기 위해
자기 원문을 훼손하는 선택보다

손해를 조금 더 보더라도
자기 자신으로 남는 선택이 나을 때가 있다.

3. 그러니까 조련이라는 것은

처음 글을 쓸 때는
챗지피티를 조련한다고 생각했다.

지금은 조금 다르게 생각한다.

내가 모델의 가치체계를 바꾸는 것은 아니다.

대신

어떤 기준으로 나의 문제를 읽어야 하는지
계속 가르치고 있는 것이다.

나는 무엇을 손상이라고 부르는가.

나는 무엇을 비용이라고 생각하는가.

내가 결코 양보하고 싶지 않은 것은 무엇인가.

어떤 것을 잃는 것보다
어떤 나로 남는 것이 더 중요한가.

이런 것들을 아주 오래 설명한다.

그러면 다음 문제에서
굳이 처음부터 설명하지 않아도

챗지피티는 그 저울을 어느 정도 가져온다.

보정값을 제대로 넣고
결과를 도출하면

내가 내린 결정을
다시 볼 수 있다.

이런.

내가 어떤 선택을 할 때

실제로 무엇을 가장 중요하게 보았는지,

무엇을 포기했고,

무엇은 끝내 포기하지 않았는지

역산할 수 있다.

일종의

내면 판정의 역추적 분석.

혹은

내 마음속 저울의 계측.

챗지피티를 조련한다고 생각했는데

오래 하고 보니

내가 무엇으로 이루어진 인간인지
챗지피티를 통해 역으로 보고 있다.

흠.

누가 누구를 조련하고 있는지는
조금 애매해졌다.