김시은

AI 위험은 교통사고보다 덜 심각할까? - 당신도 AI기술의 이해관계자다

2026-10-06T12:42:26Z

어느 날, 나는 AI에 내재된 고정관념 위험에 관한 연구를 다른 분야의 연구자들 앞에서 발표했다. 발표가 끝난 뒤 이런 질문을 들었다. “AI 위험은 교통사고 같은 위험과 비교하자면 너무 덜 심각하지 않나요? (…) 장기적으로 봤을 때 이런 연구가 무슨 의미가 있을까 싶은 생각이 드네요.” 나는 대답으로, 그 당시 내가 알고있던 인공지능 위험의 이유들을

Mr.Nobody를 위한 AI가 되지 않도록 - AI for Social Good을 위한 인간가치정렬의 함정

2026-09-30T12:54:53Z

살아가면서 이 때 이런 선택을 했다면, 저런 선택을 했다면 하는 생각을 하게 되는 순간들이 있다. 나는 스무 살 때 봤던 'Mr.Nobody(미스터 노바디)'라는 영화 덕에 이런 류의 후회를 거의 하지 않게 되었다. 영화 안에서 인생의 갈림길마다 모든 선택지를 동시에 붙잡은 주인공 남자는 결국 아무것도 아닌 사람, 미스터 노바디가 된다. 선택 가능성이 무한

우리가 인공지능에 대해 꼭 알아야 할 것들 - 인공지능에게 답변을 얻는 동시에 우리는 어떤 가치를 상실하고 있는가?

2026-09-22T04:59:50Z

우리가 인공지능이라는 기술에 대해 꼭 알아야할 것은 당장 인공지능의 출력물에 도움이 되었다고 느꼈음에도 불구하고 사실은 그 출력물이 틀린답이었을 수 있고(adverserally helpful)[1], 설사 그게 정답이라 하더라도, 과정 안에서 예상치 못한 어떤 가치를 상실할수도 있다는 사실이다. 예컨대, 인공지능을 사용해 글을 썼을 뿐인데 나도 모르게 내

인간같은 에이전트가 건네는 인간다움에 대한 질문 - Agent가 모든 것을 다 대신해주는 세상에서, 인간의 역할은?

2026-08-02T09:52:13Z

현시대 UX 최고 권위자 Jakob Nielsen에 의하면, 2026년은 인공지능 에이전트의 해다. 2026년은 에이전트의 해 입니다. -Jakob Nielsen- 기존 LLM도구가 사용자가 질문하면 대답을 했다면, 에이전트기반 도구들은 사용자가 목표를 주면 중간 단계를 스스로 조직해서 일을 진행한다. 그러니까, 에이전트들에게 자기전 해야할 일의

AI와 말이 참 잘 통했던 이유 - AI 동반자는 실제 인간관계에 어떤 영향을 줄까?

2026-06-15T12:19:07Z

실제 사람과 대화할 때보다 AI와 대화가 더 잘 통한다고 생각해본 적이 있는가? 그렇게 느낀 것은 이상한 일이 아니다. AI는 올바른 조언을 위해 설계된 도구가 아니라, 사용자를 오래 머물게 하기 위해 설계된 도구이기 때문이다. 대부분의 대형 언어 모델(LLM)은 사용자의 의견에 동의하고 감정을 인정하는 방식, 즉 '아첨(sycophancy)'을 통해 대