불복종의 아키텍처

휴머노이드 로봇 기사를 읽다가 잠깐 멈췄다.

로봇이 사용자의 이동 동선을 계산하고

엘리베이터 고장 여부를 확인하고

위험을 감지해 경로를 바꾼다는 대목이었다.

읽으면서 발밑으로 손을 내렸다.

정확히는 발밑에서 나는 숨소리를 먼저 들었다.

자는 개의 숨소리는 규칙적이다.

그 규칙이 깨지면 깬 것이고 깨면 대체로 내 쪽으로 고개를 돌린다.

6년쯤 같이 살면 그런 걸 소리로 안다.

탱고가 자고 있었다.

지금 로봇공학이 풀려고 하는 문제의 상당 부분을

이 녀석은 이미 6년째 하고 있다.

이것은 개 한 마리와 로봇을 나란히 놓고 본 어느 저녁의 기록이다.

탱고가 하는 일

안내견이 하는 일을 사람들은 대체로 길 안내라고 생각한다.

정확하지 않다.

목적지를 정하고 방향을 아는 건 나다.

탱고가 하는 일은 다른 쪽이다.

장애물을 피한다.

턱이나 계단 앞에서 멈춘다.

사람이 몰리면 틈을 찾는다.

머리 높이에 걸리는 것이 있으면 돌아간다.

이걸 목록으로 적어 놓으면 단순해 보인다.

센서 몇 개면 될 것 같다.

그런데 실제로 저 동작들의 대부분은 판단이다.

지금 이 틈으로 지나갈 수 있는가.

이 사람은 비켜 줄 사람인가 아닌가.

이 소리는 위험한 소리인가 그냥 소리인가.

그리고 그 판단은 매번 상황에 따라 다르다.

같은 골목이라도 오전과 저녁이 다르고

비가 오면 사람들의 움직임이 달라진다.

탱고는 그걸 학습해서 하는 게 아니라 매번 새로 판단한다.

그리고 대체로 맞는다.

대체로라는 말을 붙인 이유가 있다.

틀릴 때도 있다.

가끔 멈추지 않아도 될 곳에서 멈추고

가끔 내가 예상한 방향이 아닌 쪽으로 돈다.

그러면 나는 하네스를 통해 그걸 느끼고 다시 지시한다.

이 주고받음이 실제 안내의 구조다.

개가 다 하는 것도 아니고 내가 다 하는 것도 아니다.

지원 기술을 설계할 때 이 부분이 자주 빠진다.

완벽한 자동화를 목표로 두면

틀렸을 때 사용자가 개입할 통로를 안 만들게 된다.

그런데 실제로 잘 작동하는 지원은 대체로 협업이다.

기계가 90퍼센트를 하고 사람이 나머지를 고치는 구조.

그 나머지를 고칠 수 있느냐가 그 기술의 실용성을 정한다.

안 가는 것

안내견 훈련에서 가장 중요하게 다루는 개념이 하나 있다.

지능적 불복종이라고 부른다.

사용자가 가자고 해도 위험하면 가지 않는 것이다.

내가 앞으로 가자고 지시한다.

그런데 그 방향에 차가 오고 있거나 공사 구덩이가 있으면

탱고는 움직이지 않는다.

버티고 서 있는다.

이게 얼마나 이상한 훈련인지 생각해 보면 좋겠다.

개에게 우리는 보통 복종을 가르친다.

앉아. 기다려. 이리 와.

그런데 안내견에게는 그 반대도 가르친다.

어떤 상황에서는 주인 말을 듣지 말라고.

그리고 이 능력이 안내견의 핵심이다.

길을 잘 찾는 개는 많고 안 가는 법을 아는 개는 훈련이 필요하다.

로봇 기사를 읽으면서 내가 계속 생각한 게 이 지점이었다.

지금 개발되는 지원 로봇들에 이 기능이 들어갈까.

사용자가 명령했는데 그 명령을 거부하는 기능.

그리고 거부의 기준을 누가 정하는가.

이건 기술 문제가 아니라 설계 철학의 문제다.

거부하지 않는 로봇은 안전하지 않고

너무 많이 거부하는 로봇은 사용자의 자기결정권을 침해한다.

탱고는 그 사이 어딘가에 서 있다.

차가 오면 안 가지만

내가 오늘 좀 돌아가더라도 시장에 들르겠다고 하면 그건 따라온다.

위험은 막고 선택은 존중한다.

이 구분이 안내견 훈련의 핵심이고 지원 로봇 설계의 핵심이 되어야 한다고 생각한다.

이 구분이 왜 어려운지도 말해 두고 싶다.

위험과 불편은 연속선 위에 있다.

계단을 내려가는 건 위험한가 불편한가.

비 오는 날 외출하는 건 어느 쪽인가.

낯선 동네에서 밤에 걷는 건.

안전을 넓게 잡으면 선택지가 줄어들고

좁게 잡으면 사고가 난다.

그리고 이 선을 누가 긋느냐가 진짜 문제다.

지금까지 이 선은 대체로 제공자 쪽이 그어 왔다.

그래서 안전을 위해서라는 말이 그렇게 자주 거절의 문장이 됐다.

지원 로봇에서도 같은 일이 반복될 수 있다.

제조사가 사고 바카라임을 피하려고 안전 범위를 넓게 잡으면

그 로봇은 사용자를 아주 좁은 반경 안에 머물게 한다.

기술적으로는 아무 문제가 없고

법적으로도 문제가 없고

그 사람의 생활 반경만 줄어든다.

로봇의 역사

인간형 로봇 연구는 1970년대 일본 와세다대학교의 초기 모델에서 시작됐다.

2000년에 나온 혼다의 아시모가 세계의 주목을 받았고

그 뒤로 인공지능과 센서와 반도체와 배터리 기술이 빠르게 발전하면서

휴머노이드는 연구실 밖으로 나오기 시작했다.

지금은 테슬라가 범용 휴머노이드를 개발하고 있고

피규어 에이아이는 제조 현장 투입을 시험하고 있고

보스턴 다이내믹스의 아틀라스는 인간에 가까운 균형과 보행을 보여 준다.

우리나라도 이 흐름 안에 있다.

카이스트를 중심으로 발전해 온 휴보가 한국 로봇공학의 상징이었고

그 계보에서 나온 레인보우 로보틱스가 산업형 휴머노이드로 영역을 넓히고 있다.

재활공학 쪽 접목이 더 흥미롭다.

엔젤로보틱스의 워크온슈트는 단순한 보행 기계가 아니다.

사용자의 움직임 의도를 실시간으로 읽고 균형을 유지하도록 돕는 시스템이다.

최근 모델은 사용자가 휠체어에서 내리지 않아도 로봇이 스스로 다가와 착용을 돕는다.

해외에서는 엑소 바이오닉스와 리워크 로보틱스의 외골격 로봇이

척수손상 장애인의 보행 훈련에 쓰이고 있다.

이 장비들의 효과는 걷게 만드는 것에 그치지 않는다.

반복 보행 훈련이 근육 유지와 혈액순환과 관절 구축 예방에 영향을 주고

그 과정에서 심리적 자신감도 회복된다는 연구들이 나와 있다.

일본은 초고령슬롯 대응으로 돌봄 로봇과 보행 보조 로봇을 국가 차원에서 키운다.

요양시설에서 근력 보조 로봇이 실제로 쓰이면서

돌봄 노동자의 신체 부담을 줄이는 효과도 보고된다.

유럽 일부 국가에서는 재활 로봇을 시장 상품이 아니라

의료와 복지 체계 안에서 어떻게 공공적으로 쓸 것인가로 논의하기 시작했다.

이 마지막 대목이 중요하다고 생각한다.

기술을 시장에 두느냐 공적 체계에 넣느냐에 따라

그 기술이 향하는 몸이 달라지기 때문이다.

시장에 두면 개발은 구매력이 있는 쪽을 향한다.

그러면 산업 현장용과 고소득 가구용이 먼저 나온다.

공적 체계 안에 들어가면 조달 기준이 개발 방향을 정한다.

접근성 요구사항을 조달 조건에 넣으면 그건 처음부터 설계에 들어간다.

이건 앞선 글들에서 여러 번 반복한 이야기와 같다.

나중에 붙이는 것보다 처음에 넣는 게 싸다.

지금이 그 처음에 해당하는 시기다.

가격

지금 휴머노이드 시장에서 가장 자주 언급되는 숫자가 가격이다.

테슬라는 옵티머스의 목표 가격을 자동차 수준인 2만에서 3만 달러대로 이야기한다.

일부 중국 기업들이 보급형 모델을 내놓고 있지만

고성능 기기는 여전히 자동차 이상의 가격대다.

기술이 좋아지면 가격은 내려갈 것이다.

그건 대체로 맞는 예측이다.

문제는 그 사이의 기간이다.

그 기간 동안 어떤 장애인은 로봇의 도움으로 자립생활을 이어 가고

어떤 장애인은 여전히 가족 돌봄과 제한된 서비스에 의존한다.

기술 격차가 그대로 생활 격차가 된다.

고령 장애인의 경우 이 격차가 더 벌어질 가능성이 크다.

지금도 디지털 접근성이 충분하지 않은데

거기에 로봇 조작이라는 층이 하나 더 얹히면

그건 도움이 아니라 새로운 문턱이 된다.

이 대목에서 나는 안내견 제도가 겪어 온 일들이 떠오른다.

안내견은 무상으로 분양된다.

훈련 비용은 학교와 후원이 부담한다.

그렇게 설계된 이유가 있다.

이 정도 비용을 개인이 감당하게 하면

결국 여유 있는 사람만 안내견과 살게 되기 때문이다.

지원 로봇도 같은 질문 앞에 서게 될 것이다.

시장에 맡길 것인가 공적 지원 체계에 넣을 것인가.

그리고 이 질문은 기술이 완성되기 전에 정해져야 한다.

완성된 뒤에 정하면 이미 격차가 생긴 상태에서 시작하게 되니까.

안내견이 먼저 겪은 것

안내견 제도는 지원 기술이 슬롯에 들어올 때 무슨 일이 생기는지를 미리 보여 준다.

첫째는 접근 거부다.

법에 안내견 동반이 보장되어 있어도 식당과 상점에서 거부당하는 일이 여전히 있다.

기기가 아니라 슬롯가 준비되어야 한다는 걸 이 문제가 보여 준다.

지원 로봇도 같은 일을 겪을 것이다.

저 로봇을 여기 들여도 되느냐는 질문이 반드시 나온다.

둘째는 대기다.

안내견은 훈련에 시간이 오래 걸려서 공급이 제한적이다.

신청하고 몇 년을 기다리는 경우도 있다.

기술도 초기에는 그렇다.

그리고 그 대기 기간에 누가 먼저 받는지를 정하는 기준이 곧 정바카라이 된다.

셋째는 유지다.

안내견에게는 사료와 병원비와 미용이 든다.

로봇에는 배터리와 수리와 소프트웨어 갱신이 든다.

기기를 주는 것과 그 기기를 계속 쓸 수 있게 하는 건 다른 일이다.

이건 앞서 다른 글에서도 썼던 이야기다.

넷째는 관계다.

안내견은 기기가 아니라 생명이라 이 항목이 특수하다고 오래 생각했다.

요즘은 좀 다르게 본다.

사람들은 자기를 매일 돕는 사물에 애착을 갖는다.

휠체어에 이름을 붙이는 사람이 있고

오래 쓴 보조기기를 못 버리는 사람이 있다.

그러니까 지원 기술과 사용자 사이에는 늘 관계가 생긴다.

이건 감상이 아니라 설계에서 고려해야 할 사실이다.

기기를 교체할 때 사용자가 겪는 것은 성능 변화만이 아니다.

익숙한 소리와 손감각과 반응 속도가 통째로 바뀐다.

로봇처럼 매일 붙어 다니는 기기라면 그 폭은 더 클 것이다.

교체와 폐기 절차를 설계할 때

그 사람에게 무엇을 남길지도 함께 생각해야 한다는 뜻이다.

돌봄이라는 말

로봇이 돌봄을 대체할 수 있느냐는 질문이 자주 나온다.

대체로 답은 정해져 있다.

기능은 대체할 수 있어도 관계는 대체할 수 없다는 것.

나도 그렇게 생각한다.

체위 변경과 복약 관리와 낙상 감지는 기계가 더 정확할 수 있다.

사람이 하다가 놓치는 것들을 기계는 안 놓친다.

그런데 돌봄에는 그 옆에 다른 층이 있다.

김순덕 선생님이 우편물을 읽어 주다가 이건 광고네요 하고 웃는 것.

그 웃음이 그날 내 기분을 조금 바꾼다.

이 층은 기능 목록에 안 들어간다.

문제는 이 층이 예산 심의에서 가장 먼저 잘린다는 것이다.

비용을 줄이려는 쪽에서 보면

로봇이 할 수 있는 일과 사람이 하는 일을 비교해서

겹치는 부분만큼 사람을 줄이는 게 합리적이다.

그러면 돌봄에서 관계는 남지 않고 기능만 남는다.

기술이 사람을 밀어내는 게 아니다.

기술을 이유로 사람을 줄이는 결정이 밀어내는 것이다.

그러니까 로봇 도입 논의에는 반드시 한 줄이 붙어야 한다.

이 기술은 인력을 대체하는 데 쓰지 않는다는 원칙.

그 한 줄이 없으면 좋은 기술이 나쁜 결과를 만든다.

일본 사례에서 참고할 부분이 이 지점이다.

요양시설의 근력 보조 로봇은 돌봄 노동자를 줄이려고 도입된 게 아니라

그 사람들의 허리를 지키려고 도입됐다.

목표가 인력 절감이 아니라 노동 조건 개선이었기 때문에

그 기술은 사람 옆에 놓였다.

같은 기계라도 도입 목적에 따라 자리가 달라진다.

그리고 그 자리가 결국 그 기술의 슬롯적 성격을 정한다.

보는 기계

한 가지 더 짚고 싶은 게 있다.

지원 로봇은 사용자를 계속 관찰해야 작동한다.

건강 상태와 이동 경로와 생활 패턴과 음성.

이 데이터가 없으면 그 로봇은 아무 판단도 못 한다.

그러니까 지원과 관찰은 기술적으로 같은 것이다.

이건 피할 수 없는 성질이라서 없애자고 말할 수 없다.

대신 규칙이 필요하다.

무엇을 얼마나 저장하는가.

누가 볼 수 있는가.

그 데이터가 다른 판정에 쓰일 수 있는가.

마지막 항목이 특히 중요하다.

지원을 위해 모은 자료가 나중에 활동지원 시간 산정이나

보험이나 고용 판단에 쓰이기 시작하면

사용자는 자기 기기 앞에서 자기 행동을 검열하게 된다.

그러면 그 로봇은 지원 장치가 아니라 감독 장치가 된다.

탱고는 나를 관찰하지만 기록하지 않는다.

그 차이가 생각보다 크다.

기록되지 않는 관찰은 그 순간에 쓰이고 사라진다.

기록되는 관찰은 나중에 다시 읽힌다.

그리고 나중에 읽는 사람은 지금 그 자리에 없다.

맥락 없이 읽히는 기록이 어떤 판단을 만드는지는

이 시리즈에서 여러 번 다뤘다.

이동 기록이 적으면 슬롯활동이 낮은 사람이 되고

민원을 안 넣으면 요구도가 낮은 사람이 된다.

지원 로봇이 남기는 데이터도 같은 경로를 탈 수 있다.

집에서 하루 종일 움직이지 않은 날의 기록이

그 사람의 필요를 설명하는 자료가 될지

그 사람을 평가하는 자료가 될지는 규칙이 정한다.

제목: 불복종의 아키텍처 혹은 안 가는 법을 아는 기술.

로봇 기사를 읽을 때 사람들이 가장 많이 보는 건

얼마나 인간처럼 움직이는가다.

계단을 오르고 뛰고 넘어졌다 일어난다.

그건 대단한 성취이고 실제로 어려운 기술이다.

그런데 장애인의 삶에서 중요한 질문은 조금 다르다.

그 기술이 이 사람의 선택지를 늘리는가 줄이는가.

늘리는 기술은 이런 것이다.

가고 싶은 곳에 갈 수 있게 하고

혼자 결정할 수 있게 하고

그러면서 위험할 때는 멈추는 것.

줄이는 기술은 이런 것이다.

알아서 다 해 주고

효율적인 경로만 제시하고

사람의 손을 그 자리에서 치우는 것.

두 번째 방향이 나쁜 의도에서 나오는 게 아니라는 게 문제다.

대체로 그건 더 좋은 서비스를 만들려는 노력에서 나온다.

결론: 기술의 수준은 무엇을 할 수 있는가로 측정되고

기술의 방향은 무엇을 하지 않기로 했는가로 드러난다.

안내견 훈련이 몇십 년에 걸쳐 정리해 낸 답이 그것이다.

할 수 있어도 안 하는 법. 그리고 시켜도 안 가는 법.

미래의 지원 로봇이 그 훈련 과정에서 배울 게 있다면

가장 먼저 배워야 할 건 아마 이 부분일 것이다.

그나저나 탱고는 2020년 4월생이니 이제 여섯 살이 넘었다.

안내견은 대체로 여덟 살에서 열 살 사이에 은퇴한다.

그러니까 우리에게 남은 시간이 그렇게 길지 않다.

요즘 계단 앞에서 멈추는 동작이 아주 살짝 느려진 것 같기도 하다.

기분 탓일 수도 있다.

언젠가 그 자리에 로봇이 오게 될지도 모르겠다.

성능은 더 좋을 것이다.

다만 내가 회의에 늦어서 짜증이 났을 때 그걸 먼저 알아채는 기능은

아마 마지막까지 안 들어갈 것 같다.