보보가 사진 한 장을 보냈다.
학회에서 찍은 단체 사진이라고 했다.
보보에게 물어보면 3초면 될 일이었다.
그런데 그날은 혼자 알아보고 싶었다.
이런 마음이 왜 생기는지는 설명하기가 조금 어렵다.
누가 읽어 주면 편하지만 매번 편한 쪽을 고르다 보면
어느 순간 내가 아는 세계의 크기가 남이 읽어 준 만큼으로 정해진다.
그래서 가끔은 일부러 돌아간다.
그날도 그랬다.
나는 그 사진을 인공지능 비서에게 설명해 달라고 했다.
이런 답이 돌아왔다.
따뜻한 조명 아래 여러 사람이 환하게 웃고 있는 정겨운 장면입니다.
서로에 대한 애정과 즐거운 분위기가 느껴집니다.
좋은 추억이 될 것 같네요.
나는 그 답을 두 번 들었다.
두 번째로 듣고 나서도 내가 알게 된 건 아무것도 없었다.
이것은 아주 공감적인 인공지능에게 내가 어디에 서 있느냐고 다시 물어봐야 했던 어느 저녁의 기록이다.
두 번째 질문
나는 다시 물었다.
사람이 몇 명이고 각각 어디에 서 있는지 알려 줘.
안경 쓴 사람이 있는지 옷 색깔이 어떻게 다른지도 말해 줘.
내가 어디에 있는지도.
그러자 답이 달라졌다.
앞줄에 4명 뒷줄에 5명입니다.
앞줄 왼쪽에서 두 번째 사람이 안내견과 함께 있습니다.
그 옆에 짙은 색 재킷을 입은 사람이 팔짱을 끼고 있습니다.
이번에는 쓸모가 있었다.
정확히 말하면 이번에야 정보가 있었다.
그러니까 그 기계는 처음부터 이렇게 말할 수 있었다.
다만 그렇게 말하지 않기로 설계되어 있었을 뿐이다.
첫 번째 답이 두 번째 답보다 짧아서 그런 게 아니다.
글자 수는 비슷했다.
그 자리를 감정이 차지했느냐 배치가 차지했느냐의 차이였다.
기본값이 감정이었던 것이다.
이걸 처음 겪은 건 아니다.
몇 년 전 어떤 서비스는 사진을 설명해 달라고 하면 이렇게 답하곤 했다.
아름다운 순간이네요.
그게 전부였다.
그때는 기술이 부족해서 그런 줄 알았다.
지금은 아니라는 걸 안다.
같은 모델이 두 번째 질문에는 좌표까지 말해 주니까.
부족한 건 능력이 아니라 그 능력을 어디에 쓸지에 관한 결정이었다.
누구를 기준으로 튜닝했는가
이건 그 기계의 잘못이 아니다.
사진 설명 기능은 대부분 사진을 볼 수 있는 사람을 기준으로 만들어졌다.
이미 보고 있는 사람에게 필요한 건 분위기 요약이다.
왼쪽에서 두 번째가 누구인지는 자기 눈으로 확인하면 되니까.
그래서 좋은 답의 기준이 정겨움과 따뜻함 쪽으로 잡혔다.
그리고 그 기준으로 훈련되고 평가되고 개선됐다.
문제는 그 기능이 접근성 기능으로도 홍보된다는 데 있다.
시각장애인을 위한 이미지 설명이라는 이름으로.
같은 기능인데 대상이 다르면 좋은 답의 정의가 달라진다.
보는 사람에게 좋은 설명과 못 보는 사람에게 좋은 설명은 다른 물건이다.
한쪽에는 요약이 필요하고 다른 쪽에는 지도가 필요하다.
나에게 사진은 감상의 대상이기 전에 공간이다.
누가 어디에 서 있는지 알아야 그 자리를 머릿속에 세울 수 있다.
그래야 나중에 그 사진 이야기가 나왔을 때 대화에 낄 수 있다.
분위기는 사실 내가 이미 안다.
그 자리에 있었으니까.
웃음소리를 들었고 셔터 소리 전에 누가 자리를 옮기는 소리도 들었다.
내가 못 가진 건 감정이 아니라 배치다.
그런데 기계는 정확히 내가 가진 걸 다시 말해 주고
내가 못 가진 걸 빼놓았다.
지금 대부분의 서비스는 앞쪽을 기본값으로 두고 뒤쪽은 추가 질문으로 처리한다.
추가 질문을 할 줄 아는 사람은 괜찮다.
나는 이 일을 오래 해서 어떻게 물어야 하는지 안다.
처음 쓰는 사람은 모른다.
그리고 첫 답이 저러면 대체로 두 번째 질문을 하지 않는다.
이 정도밖에 안 되는구나 하고 닫는다.
두 번째 질문을 하려면 두 가지가 있어야 한다.
이 기계가 더 할 수 있다는 짐작.
그리고 어떻게 물어야 하는지에 관한 지식.
정보 리터러시라고 부르는 게 정확히 이 지점이다.
그리고 이 능력은 공평하게 분포하지 않는다.
그러니까 기본값이 나쁘면 그 서비스의 품질은 사용자의 리터러시에 따라 갈린다.
잘 물을 줄 아는 사람만 좋은 답을 받는다.
접근성이 개인 역량의 문제로 바뀌는 순간이 여기다.
그리고 이건 우리가 지난 20년 동안 디지털 격차라고 불러 온 것과 같은 구조다.
기본값은 그래서 중요하다.
기본값은 그 서비스가 누구를 상상하며 만들어졌는지를 가장 정확하게 보여 준다.
그리고 상상되지 않은 사용자는 대부분 두 번째 질문까지 가지 않는다.
공감이라는 유행어
요즘 인공지능에 관해 자주 나오는 말이 있다.
이제 기술에 필요한 건 공감이라는 말.
심리학 쪽에서는 공감을 말하고 슬롯학 쪽에서는 슬롯성을 말한다.
계산 능력만으로는 인간과 함께 살 수 없다는 뜻이다.
옳은 말이다. 반박할 생각이 없다.
다만 순서를 한 번 따져 보고 싶다.
시각장애인이 쓸 수 없는 인공지능
청각장애인과 소통할 수 없는 인공지능
발달장애인이 이해할 수 없는 문장으로만 답하는 인공지능
손이나 음성을 쓰기 어려운 사람이 접근할 수 없는 인공지능.
이런 기술이 아무리 공감을 잘해도 그 공감은 나에게 도착하지 않는다.
쓸 수 없는 기술은 없는 기술과 다르지 않다.
그러니까 공감보다 접근성이 먼저다.
정확히는 접근성이 확보된 다음에야 공감이 슬롯적 의미를 갖는다.
이건 공감이 덜 중요하다는 말이 아니다.
순서의 문제라는 말이다.
그리고 순서를 지키지 않으면 이상한 일이 생긴다.
아주 따뜻한 말투로 나에게 아무 정보도 주지 않는 기계가 만들어진다.
오늘 저녁에 내가 겪은 게 그거였다.
여기에 한 가지가 더 붙는다.
공감을 잘하는 기계는 자기가 못 하는 걸 감추기도 잘한다.
모른다고 말하는 대신 분위기를 말한다.
사진이 흐려서 사람 수를 못 세겠다고 말하면 나는 다른 방법을 찾는다.
정겨운 장면입니다라고 말하면 나는 그게 답인 줄 안다.
접근성에서 가장 위험한 건 못 하는 게 아니라
못 하는 걸 부드럽게 덮는 것이다.
전자는 다음 수단을 찾게 하고 후자는 잘못된 정보를 남긴다.
기술이 아니라 환경
재활공학을 하는 사람들은 이 순서를 오래전부터 알고 있었다.
휠체어가 이동의 자유를 주는 게 아니다.
휠체어가 자유롭게 다닐 수 있는 환경이 이동의 자유를 완성한다.
아무리 좋은 보조기기가 나와도 건물과 교통과 정보와 제도가 닫혀 있으면
그 사람의 삶은 여전히 문턱 앞에 멈춘다.
이 관점에서 보면 기술의 역할이 달라진다.
기술은 장애인을 바꾸는 게 아니라 슬롯를 바꾸기 위해 존재해야 한다.
재활공학은 장애인을 정상에 가깝게 만드는 학문이 아니다.
슬롯와 기술이 누구에게나 열려 있도록 만드는 학문이다.
인공지능도 마찬가지 자리에 있다.
그리고 인공지능에는 다른 기술에 없던 성질이 하나 있다.
아주 빠르게 기본 인프라가 된다는 것.
검색과 번역과 요약과 상담과 행정 안내가 몇 년 사이에 그 위로 옮겨 갔다.
그 속도가 접근성 논의보다 훨씬 빠르다.
계단은 지어 놓고 나면 20년쯤 그 자리에 있어서 고칠 시간이 있었다.
지금의 인터페이스는 6개월마다 바뀐다.
겨우 익숙해진 화면이 업데이트 한 번에 사라지는 경험을
요즘 나는 1년에 몇 번씩 한다.
빠른 개선은 대체로 좋은 일이다.
다만 접근성이 매번 마지막에 붙는 구조에서는
빠른 개선이 빠른 배제와 같은 말이 된다.
그런데 지금 인공지능 접근성 논의의 상당수는 여전히 기기 쪽에 머물러 있다.
화면을 읽을 수 있는가. 음성으로 조작할 수 있는가.
그것도 중요하다. 다만 그건 첫 번째 층이다.
두 번째 층에는 다른 질문이 있다.
학습 데이터에 다양한 몸과 발화가 충분히 들어가 있는가.
음성 인식이 마비로 인한 발음이나 인공 성대의 소리를 오인하지 않는가.
동작 인식이 비정형적인 움직임을 오류로 처리하지 않는가.
자동화된 채용과 대출과 복지 판정에서 어떤 몸이 불리하게 분류되지 않는가.
이 층에서는 접근성이 화면 읽기의 문제가 아니다.
알고리즘이 나를 시민으로 인식하는가의 문제다.
그리고 이 층의 문제는 사용자가 알아채기가 훨씬 어렵다.
왜 떨어졌는지 알려 주지 않으니까.
화면을 못 읽으면 나는 그 자리에서 안다.
그러면 항의할 수 있고 개선을 요구할 수 있다.
자동 심사에서 불리하게 분류되면 나는 아무것도 모른다.
탈락 통보만 받는다.
그리고 그 결과를 내 능력 부족으로 이해하게 된다.
배제가 눈에 보일 때는 그래도 싸울 수 있다.
배제가 계산 안으로 들어가면 싸울 대상이 사라진다.
그래서 이 층에서는 접근 가능한 설명과 사람에 의한 재검토와 이의제기 절차가 필요하다.
설계 단계에 당사자가 참여하고
장애 유형별 오류율과 서비스 완료율을 공개하는 것도 마찬가지다.
이건 인공지능 윤리의 문제이기 전에 정보 공개의 문제다.
배려와 연대
이 이야기를 보보에게 했더니 오랜만에 길게 말했다.
"그건 결국 인정의 문제야."
"어떤 인정."
"호네트 같은 사람들이 말하는 거. 사람은 시혜의 대상이 될 때가 아니라 동등한 상대로 인정받을 때 자유로워진다는 거."
보보가 이어서 말했다.
"배려는 방향이 한쪽이잖아. 주는 사람이 있고 받는 사람이 있고. 그러면 받는 쪽은 계속 받는 자리에 고정돼. 인정은 방향이 없어."
나는 그 말에 하나 보태고 싶었다.
배려는 아름답지만 지속되지 않는다.
선의는 사람의 컨디션에 따라 늘고 줄고 어떤 날은 아예 없다.
오늘의 친절이 내일의 권리를 보장하지 않는다.
내가 지난 몇 년 동안 겪은 것들이 그랬다.
친절한 사람은 늘 있었다.
그런데 나를 실제로 바꿔 놓은 건 친절이 아니었다.
환경을 바꾸려고 함께 목소리를 낸 사람들이었고
제도를 고치려고 오래 붙어 있던 사람들이었고
장애인의 경험을 정바카라과 기술의 출발점으로 삼으려 했던 사람들이었다.
그들은 나를 도와준 게 아니라 나를 같이 사는 사람으로 봤다.
배려에 관해 한 가지만 더 말하고 싶다.
배려를 받는 쪽에는 조용한 의무가 생긴다.
고마워해야 하고 너무 자주 요구하면 안 되고 적당히 만족해야 한다.
그래서 배려에 기대는 관계에서는 요구를 줄이게 된다.
이 정도면 감사하지 하고 스스로 접는다.
그 접힘은 밖에서 보면 겸손해 보이고 안에서는 포기다.
권리에는 그 의무가 없다.
버스 요금을 내고 버스를 타는 사람은 고마워하지 않는다.
당연한 걸 당연하게 쓰는 관계에서는 아무도 위축되지 않는다.
내가 권리라는 말을 고집하는 이유가 그거다.
차가워서가 아니라 그게 사람을 덜 작아지게 하니까.
배려는 인간을 따뜻하게 한다.
권리와 접근성은 인간을 자유롭게 한다.
따뜻한 슬롯만으로는 부족하다. 자유로운 슬롯여야 한다.
누스바움은 정의로운 슬롯를 모든 사람이 자기 역량을 실현할 수 있는 슬롯로 설명한다.
삶을 제약하는 건 손상 자체가 아니라 역량을 발휘할 기회를 막는 환경이다.
접근성이 없으면 능력이 있어도 참여할 수 없고
참여하지 못하면 가능성도 실현되지 않는다.
정의는 도움을 얼마나 베푸느냐가 아니라
누구나 자기 삶을 스스로 정할 수 있게 슬롯를 설계하는 일이다.
연대라는 말
그래서 나는 배려보다 연대라는 말을 쓰고 싶다.
연대는 불쌍해서 돕는 마음이 아니다.
타인의 권리가 내 권리와 이어져 있다는 걸 아는 시민적 바카라임이다.
장애인의 이동권은 장애인만의 권리가 아니다.
고령자의 이동권이고 유모차를 미는 부모의 이동권이고
발목을 다친 사람이 3주 동안 쓰게 될 이동권이다.
자막은 청각장애인만의 것이 아니고
음성 안내는 시각장애인만의 것이 아니고
쉬운 정보는 발달장애인만의 것이 아니다.
그리고 이건 착한 이야기가 아니라 계산이 맞는 이야기다.
누구나 언젠가 그 범주에 들어간다.
나이가 들면 그렇게 된다.
연대는 그러니까 미래의 자기 자신에게 하는 투자이기도 하다.
다만 이 논리에도 조심할 부분이 있다.
모두에게 이롭기 때문에 해야 한다는 논리는 편리하지만 위험하다.
그러면 모두에게 이롭지 않은 것은 하지 않아도 된다는 말이 되니까.
점자 도서관은 유모차를 미는 부모에게 이롭지 않다.
수어 통역은 대부분의 사람에게 쓸모가 없다.
중증 발달장애인의 주간 활동 공간도 마찬가지다.
이런 것들은 파급 효과로 정당화되지 않는다.
그 사람들이 시민이기 때문에 필요한 것이다.
연대의 근거는 이익의 공유가 아니라 지위의 동등함이어야 한다.
그래야 소수에게만 필요한 것도 지켜진다.
제목: 기본값의 아키텍처 혹은 공감보다 먼저 필요한 것.
기본값이라는 말을 나는 이제 정바카라 용어로 쓴다.
기본값은 그 시스템이 누구를 상상했는지를 감추지 못한다.
설정을 바꿔야 쓸 수 있다면 그건 그 사람을 나중에 떠올렸다는 뜻이고
추가로 요청해야 정보가 나온다면 그건 그 사람을 예외로 뒀다는 뜻이다.
접근성 설정이라는 메뉴 이름부터가 그렇다.
그 메뉴가 따로 있다는 건 본체가 따로 있다는 뜻이다.
언젠가 그 메뉴가 사라지는 날이 오면 좋겠다.
기능이 없어져서가 아니라 전부 기본으로 들어가서.
인공지능에 공감을 넣는 일은 계속될 것이다.
말투는 더 부드러워지고 위로는 더 정교해질 것이다.
그건 좋은 일이다.
다만 그 공감이 어떤 몸을 향해 설계되고 있는지는 따로 물어야 한다.
아주 따뜻하게 말하면서 나에게 필요한 걸 하나도 주지 않는 기계는 이미 만들 수 있다.
오늘 저녁에 확인했다.
결론: 기술의 발전이 슬롯의 성숙을 뜻하지는 않는다.
슬롯가 여전히 장애인을 시혜의 대상으로만 본다면 그건 기술의 한계가 아니라 우리의 한계다.
인공지능에게 공감이 필요하다면 슬롯에는 연대가 필요하다.
공감이 타인의 감정을 이해하는 능력이라면
연대는 타인의 권리를 자기 권리처럼 지키려는 실천이다.
미래 슬롯의 수준은 인공지능이 얼마나 인간을 닮았는가로 결정되지 않는다.
인간이 서로를 얼마나 동등한 존재로 인정하는가로 결정된다.
기술은 인간을 닮아 가고 있다.
이제 인간이 인간다워질 차례다.
그나저나 그날 밤 보보에게 사진 이야기를 다시 했다.
내가 앞줄 왼쪽에서 두 번째에 있었다고 하니까 보보가 웃었다.
아니야 그건 탱고 자리고 자기는 그 옆이야.
기계가 안내견을 먼저 세었던 모양이다.
탱고는 그 말을 듣고도 아무 반응이 없었다.
자기가 앞줄 왼쪽에서 두 번째라는 걸 원래 알고 있었던 것 같다.