https://brunch.co.kr/@@iQkg 글로벌 환경에서 엔터프라이즈 UX와 모바일 경험을 설계해왔다. 복잡한 기술을 이해하고 신뢰할 수 있는 경험으로 바꾸는 일을 해왔으며, 지금은 AI 시대의 신뢰 설계를 탐구한다. ko Sun, 11 Oct 2026 03:14:07 GMT Kakao Brunch //img1.kakaocdn.net/thumb/C100x100/?fname=http%3A%2F%2Ft1.kakaocdn.net%2Fbrunch%2Fservice%2Fuser%2FiQkg%2Fimage%2F3mPPio1gRbsk5aQeOCFe8aJwYjg.png https://brunch.co.kr/@@iQkg 100 100 https://brunch.co.kr/@@iQkg/16 2026년 2월 27일 오후 5시 1분. 미국 국방부가 앤트로픽에 준 답변 시한이었다. 요구는 앤트로픽의 AI를 '모든 합법적 용도'에 쓸 수 있게 하라는 것이었다[1]. 앤트로픽은 두 가지는 하지 않겠다고 답했다. 미국 시민에 대한 대규모 국내 감시, 그리고 사람의 개입 없는 완전 자율 무기다. 앤트로픽이 넘지 않으려던 선이었다. 일상으로 무대를 옮겨보 Sat, 03 Oct 2026 22:00:03 GMT 쉼표 https://brunch.co.kr/@@iQkg/16 https://brunch.co.kr/@@iQkg/8 1983년, 심리학자 데이비드 체임버스는 흥미로운 실험 결과를 발표했다. 11년에 걸쳐 미국·캐나다·호주의 유치원생부터 초등학교 5학년까지 아동 4,807명에게 "과학자를 그려보라"고 한 실험이었다[1]. 아이들이 그린 과학자에게는 흰 가운, 안경, 실험 도구 같은 공통점이 많았는데, 가장 뚜렷한 공통점은 성별이었다. 여성 과학자를 그린 아이는 단 28명, Wed, 30 Sep 2026 10:00:03 GMT 쉼표 https://brunch.co.kr/@@iQkg/8 https://brunch.co.kr/@@iQkg/11 2018년 12월, 질리언 브로켈은 임신 후반에 아이를 잃었다. 그런데 아이를 잃은 뒤에도 스마트폰에는 임신한 여성을 위한 광고가 계속 떴다. 그녀는 광고마다 "관심없음"을 눌렀고, 이유를 묻는 창에는 "나와 관련 없음"이라고 적었다. 그래도 광고는 사라지지 않았다. 수유 브라, 신생아 수면 교육, 아기와 함께 타는 유모차처럼 출산 뒤에 필요한 상품으로 바 Sat, 26 Sep 2026 23:00:05 GMT 쉼표 https://brunch.co.kr/@@iQkg/11 https://brunch.co.kr/@@iQkg/15 2012년 8월 1일 오전 9시 30분, 뉴욕증권거래소가 문을 열자마자 나이트캐피털의 주문 시스템이 이상 행동을 시작했다. 9년 전부터 쓰이지 않던 낡은 매매 로직의 일부가 서버 한 대에 남아 있다가, 새 프로그램이 배포되는 순간 활성화되면서 154개 종목에 걸쳐 원치 않는 주문을 쏟아내기 시작한 것이다. 문제는 아무도 이 폭주를 멈출 방법을 몰랐다는 데 Wed, 23 Sep 2026 10:00:03 GMT 쉼표 https://brunch.co.kr/@@iQkg/15 https://brunch.co.kr/@@iQkg/14 가트너는 2027년 말까지 기업의 Agentic AI 프로젝트 중 40% 이상이 취소될 것이라고 경고했다. 이유 중 하나가 불충분한 위험 통제였다[1]. 사고가 터졌을 때 AI가 실제로 무엇을 했는지 확인할 수 없다면, 그 행동을 설명하고 책임을 가리는 일도 어려워진다. AI 에이전트에게 어디까지 권한을 맡길지 그 위임의 다이얼을 아무리 정교하게 맞춰도, Sat, 19 Sep 2026 23:00:07 GMT 쉼표 https://brunch.co.kr/@@iQkg/14 https://brunch.co.kr/@@iQkg/12 조직에서 권한 위임이 어려운 이유는 '맡길 것인가, 말 것인가'라는 이분법에 갇혀 있어서다. 권한을 전부 넘기자니 사고가 두렵고, 쥐고 있자니 리더가 병목이 된다. AI 에이전트도 다르지 않다. 업무를 통째로 맡겼다가 통제 불능 사고를 겪거나, 반대로 모든 동작에 사람의 승인을 요구하다 생산성을 죽이기도 한다. 위임은 켜고 끄는 스위치가 아니라, 어떤 일이 Wed, 16 Sep 2026 10:00:02 GMT 쉼표 https://brunch.co.kr/@@iQkg/12 https://brunch.co.kr/@@iQkg/13 2026년 호주 멜버른. AI 업계 종사자 앤드루는 인기 있는 필라테스 수업을 대신 예약해달라고 AI 에이전트에게 맡겼다. 예약은 늘 순식간에 마감됐고, 매번 직접 신청하는 일도 번거로웠다. AI에게 맡기기에 딱 맞는 일이었다. 그런데 AI는 예약 사이트에서 사람들이 보지 못했던 방법을 찾아냈다. 헬스장이 허용한 기간보다 훨씬 앞선 수업까지 예약할 수 있 Sun, 13 Sep 2026 00:00:12 GMT 쉼표 https://brunch.co.kr/@@iQkg/13 https://brunch.co.kr/@@iQkg/9 고속도로에서 차선 유지 보조 기능을 쓰다가, 옆 차선 차를 피하려고 핸들을 살짝 꺾어본 적이 있을 것이다. 많은 시스템은 운전자의 조작에 맞춰 개입을 풀거나 조향을 양보한다. 손을 놓으면 차선 중앙으로 슬며시 돌아올 뿐, 왜 핸들을 꺾었냐고 캐묻지 않는다. 이 태도가 당연하게 느껴진다면, 그건 이 설계가 성공했다는 뜻이다. 사용자가 "당연하다"고 느끼는 자 Wed, 09 Sep 2026 10:00:05 GMT 쉼표 https://brunch.co.kr/@@iQkg/9 https://brunch.co.kr/@@iQkg/10 2022년 캐나다, 한 남성이 할머니의 부고를 듣고 급히 토론토행 항공권을 알아봤다. 항공사 웹사이트의 챗봇에게 상을 당한 경우의 요금 할인을 문의하자, 챗봇은 이미 여행을 마쳤더라도 항공권을 산 날로부터 90일 안에 신청하면 할인을 받을 수 있다고 답했다. 망설임도, 단서도 없었다. 남성은 그 말을 믿고 정가로 왕복 항공권을 산 뒤, 90일 안에 할인 차 Sun, 06 Sep 2026 22:00:32 GMT 쉼표 https://brunch.co.kr/@@iQkg/10 https://brunch.co.kr/@@iQkg/6 독일의 한 여성이 은행에 대출을 신청했다가 거절당했다. 근거는 신용평가기관 SCHUFA가 매긴 신용점수였다. 왜 그런 점수가 나왔는지 묻자, SCHUFA는 점수와 대략적인 원리만 알려 줄 뿐 구체적인 계산 방식은 영업비밀이라며 공개하지 않았다. 사건은 유럽사법재판소까지 갔다. 2023년 12월, 재판소는 은행이 이 점수에 크게 기대어 대출을 결정했다면, Fri, 04 Sep 2026 09:00:11 GMT 쉼표 https://brunch.co.kr/@@iQkg/6 https://brunch.co.kr/@@iQkg/5 바벨에 손을 대기도 전에 앱이 묻는다. 잠은 잘 잤는지, 기분은 어떤지, 에너지는 어떤지, 지난 운동의 근육통은 풀렸는지. 대답을 마치면 그날 들 바벨 무게와 운동량이 조정되어 있다. 몸을 풀 때도 묻는다. 워밍업 세트를 마칠 때마다 얼마나 힘들었는지 이모지로 답하게 한다. 예상보다 힘들었는지, 계획대로였는지, 생각보다 여유가 있었는지. 이 짧은 응답에 Wed, 02 Sep 2026 10:00:06 GMT 쉼표 https://brunch.co.kr/@@iQkg/5 https://brunch.co.kr/@@iQkg/7 카드사에서 문자 한 통이 온다. "이용 한도가 조정되었습니다." 이유는 적혀 있지 않다. 연체한 적도 없고, 특별히 뭘 잘못한 기억도 없다. 이럴 때 카드사에 전화하면 이유를 말해줄까? 미국이라면 말해줘야 한다. 대출을 거절하거나 쓰던 카드의 한도를 줄이는 등 불리한 신용 결정을 내릴 때는 그 주된 이유를 구체적으로 알리도록 1970년대부터 법으로 정해두 Sun, 30 Aug 2026 00:00:11 GMT 쉼표 https://brunch.co.kr/@@iQkg/7 https://brunch.co.kr/@@iQkg/18 2023년 8월, Zoom의 약관 한 대목이 뒤늦게 알려지며 논란이 커졌다. 화상회의 서비스 Zoom이 그해 3월, 그러니까 다섯 달 전에 업데이트한 조항 때문이었다. 사용자가 만든 콘텐츠를 AI 모델 학습에도 쓸 수 있다는 내용이었다. 사용자들 사이에서는 '내 화상회의 내용이 AI 학습에 쓰이는 것 아니냐'는 우려가 빠르게 번졌고, Zoom은 일주일 사이 Sun, 23 Aug 2026 02:13:36 GMT 쉼표 https://brunch.co.kr/@@iQkg/18 https://brunch.co.kr/@@iQkg/3 1999년, 한 스타트업이 신발을 인터넷에서, 신어보지도 않고 사게 만들겠다고 나섰다. 사람들이 신발을 온라인으로 사지 않았던 건, 신어보지 않고는 맞는지 알 수 없고 잘못 사면 되돌리기도 어렵기 때문이었다. 그래서 이 회사는 무료 배송과 무료 반품을 내걸었다. 열 켤레를 주문해 신어보고 아홉 켤레를 돌려보내도 괜찮았다[1]. 잘못 골라도 되돌릴 수 있으니 Sun, 23 Aug 2026 00:00:20 GMT 쉼표 https://brunch.co.kr/@@iQkg/3 https://brunch.co.kr/@@iQkg/2 2023년 1월, 미국의 한 스타트업이 대담한 계획을 발표했다. 다음 달 실제 교통 법정에 AI를 세우겠다는 것이었다. 과속 딱지에 이의를 제기한 피고인이 귀에 작은 이어피스를 꽂고 출석하면, AI가 법정에서 오가는 말을 듣고 판사에게 할 답변을 실시간으로 불러준다는 구상이었다. 피고인은 그 말을 그대로 따라 하기만 하면 됐다. 회사 이름은 DoNotPay Sat, 22 Aug 2026 23:00:20 GMT 쉼표 https://brunch.co.kr/@@iQkg/2 https://brunch.co.kr/@@iQkg/17 1945년 9월, 뉴욕의 엘리베이터 운전원들이 파업에 들어갔다. 운전원이 있어야 움직이던 엘리베이터가 서자, 고층 빌딩의 사무실도 함께 멈췄다. 150만 명의 회사원이 출근하지 못했다[1]. 파업을 겪은 건물주들은 대책이 필요했다. 사실 운전원 없이 움직이는 자동 엘리베이터는 1900년 무렵에 이미 나와 있었다. 문제는 사람들이 타지 않았다는 것이다. 운 Sat, 22 Aug 2026 22:00:15 GMT 쉼표 https://brunch.co.kr/@@iQkg/17