AI 안전팀은 왜 연구실을 떠나는가

AI를 더 강력하게 만드는 것만큼 중요한 일이 있다. 그 AI가 어디까지 위험해질 수 있는지를 먼저 확인하는 일이다.

그래서 구글의 이번 조직 개편은 단순한 인사 이동보다 조금 더 흥미롭다. 약 90명 규모의 ‘AI Responsibility’ 조직이 Google DeepMind에서 분리돼 Google의 Global Affairs 조직으로 이동하는 방향이 추진되고 있기 때문이다.

중요한 질문은 사람 수가 아니다. AI의 위험을 평가하는 조직이 실제 모델을 만드는 조직과 얼마나 가까이 있어야 하는가다.

위험을 연구하던 90명의 역할

AI Responsibility 조직은 단순히 기업 윤리 원칙을 정리하는 부서가 아니다. 첨단 AI 모델이 화학·생물학·방사능·핵과 관련해 위험한 능력을 가질 가능성을 평가하고, 인간과 AI의 상호작용이나 챗봇이 사람의 심리에 미치는 영향도 연구해 왔다.

즉 모델이 얼마나 똑똑한지를 평가하는 조직이라기보다, 그 능력이 어디에서 문제로 바뀔 수 있는지를 살펴보는 조직에 가깝다.

Google DeepMind 역시 이런 위험 관리를 별도의 체계로 다뤄 왔다. Frontier Safety Framework는 첨단 AI 시스템에서 심각한 피해로 이어질 수 있는 위험 역량을 미리 식별하고 평가·완화하기 위한 체계다. 2026년 4월에는 세 번째 버전까지 공개됐다.

안전은 이미 모델 개발의 일부였다

Google DeepMind는 AI 안전과 바카라임을 ‘responsible governance, research and impact’를 중심으로 운영한다고 밝히고 있다. Responsibility and Safety Council과 AGI Safety Council도 각각 두고 있다.

AI Responsibility 조직을 이끄는 Helen King 역시 Google DeepMind의 Vice President, Responsibility로 소개돼 있으며 Responsibility and Safety Council의 공동 의장을 맡고 있다.

이 구조만 놓고 보면 안전은 제품 출시 뒤 문제를 검토하는 부가 업무가 아니라, 첨단 모델 개발 과정과 가까운 곳에서 함께 움직이는 기능이었다고 볼 수 있다.

그런데 조직의 주소가 바뀐다

이번 개편에서 AI Responsibility 조직이 이동하는 곳은 Google의 Global Affairs다. 이 조직은 공공정바카라과 대외 업무 등을 담당하며 Kent Walker가 Google 및 Alphabet의 President of Global Affairs를 맡고 있다.

물론 조직도가 바뀐다고 연구 환경까지 즉시 달라지는 것은 아니다. 내부에 전달된 내용에 따르면 AI Responsibility 팀은 개편 이후에도 기존의 컴퓨팅 자원과 인력 규모를 유지하고, DeepMind에 대한 접근 권한도 계속 갖게 될 예정이다.

Google이 설명하는 방향 역시 안전 기능의 축소와는 다르다. 회사 전체의 안전·바카라임 관련 조직을 더 긴밀하게 연결하고, 모델뿐 아니라 다양한 제품에 더 넓게 영향을 미치도록 하려는 개편이라는 것이다.

문제는 권한보다 물리적 거리다

그럼에도 일부 직원 사이에서는 우려가 제기된 것으로 알려졌다. 모델 개발팀과 조직적으로 멀어지면 최신 모델에 접근하거나 독립적으로 위험을 평가하는 능력이 약해질 수 있다는 것이다.

다만 이것은 현재 직원들의 우려다. 실제로 모델 접근권한이나 평가 능력이 감소할지는 확인되지 않았다.

약 90명 규모의 이동과 세부 운영 조건 자체도 공개된 공식 조직개편 발표가 아니라 내부 이메일과 관계자 취재를 통해 알려진 내용이라는 점을 함께 봐야 한다. 일부 직원이 다른 DeepMind 연구팀 이동을 요청했지만 받아들여지지 않았다는 내용과 인력 이탈 가능성 역시 아직 보도 단계다.

모든 안전팀이 떠나는 것은 아니다

이번 일을 ‘DeepMind에서 AI 안전 조직이 사라진다’고 해석하는 것도 정확하지 않다. 모델 행동과 개인정보보호, 보안 등을 담당하는 다른 안전 관련 조직들은 Google DeepMind에 남는 것으로 알려졌다.

오히려 지금 보이는 것은 안전 기능의 제거보다는 재배치에 가깝다. 특정 위험을 연구하는 조직 일부는 회사 차원의 조직으로 이동하고, 모델 자체의 안전과 보안에 가까운 기능들은 연구 조직 안에 남는 형태다.

이 차이는 꽤 중요하다. AI 안전이라는 하나의 단어 안에는 모델의 위험 능력을 연구하는 일, 실제 제품 정바카라을 결정하는 일, 개인정보를 보호하는 일, 보안을 관리하는 일이 모두 섞여 있기 때문이다.

개발 조직과 감독 조직은 얼마나 가까워야 하나

여기서부터는 사실보다 해석의 영역이다.

AI 안전 조직이 개발팀 안에 있으면 모델과 연구자, 컴퓨팅 자원에 가까이 접근할 수 있다는 장점이 있다. 반대로 회사 전체를 바라보는 조직에 놓이면 특정 연구팀을 넘어 여러 제품과 정바카라에 영향을 줄 수 있다는 논리도 성립한다.

구글이 이번 이동을 통해 강조하는 것도 후자에 가깝다. 문제는 두 장점을 동시에 유지할 수 있느냐다.

조직도에서 몇 칸 떨어지는 것보다 중요한 것은 실제 모델에 언제 접근할 수 있는지, 위험 신호를 발견했을 때 누구에게 얼마나 직접적으로 전달할 수 있는지, 그리고 제품 출시 과정에서 그 판단이 어느 정도 영향력을 갖는지일 것이다.

AI 시대에는 조직도가 기술이 된다

이번 변화는 Google DeepMind 내부의 더 큰 재편과 같은 시기에 진행되고 있다. Demis Hassabis는 일상적인 운영 바카라임에서 물러나 Chair of Google DeepMind와 Chief Scientist of Alphabet을 맡았고, Koray Kavukcuoglu가 SVP of Google DeepMind로서 Gemini 모델 개발과 Frontier AI 연구, Gemini 앱 및 개발자 팀을 이끌게 됐다.

AI 기업이 커질수록 기술을 만드는 조직만큼 그것을 감시하고 조정하는 조직의 위치도 중요해질 가능성이 크다.

최첨단 AI에서는 안전이 마지막 단계의 검수만으로 끝나기 어렵다. 모델의 능력을 이해하려면 개발 과정에 가까워야 하고, 동시에 실제 서비스에 영향을 주려면 기업 전체의 의사결정 구조에도 연결돼야 한다.

그래서 이번 개편에서 봐야 할 것은 ‘안전팀이 DeepMind를 떠났다’는 한 문장이 아니다.

구글이 연구 조직과 기업 정바카라 조직 사이에서 AI 안전의 자리를 다시 정하고 있다는 점이다. 그리고 앞으로 평가해야 할 것도 조직의 이름이 아니라, 그 새로운 위치에서도 안전 조직이 모델 개발 현장에 충분히 가까이 접근하고 실제 의사결정에 영향력을 행사할 수 있는지일 것이다.