구글 AI 연구 부문인 구글 딥마인드에 근무하는 직원 200명이 AI를 포함한 구글 서비스를 정부나 군대에 판매하는 계약을 맺고 있는 것에 대해 계약 해제를 요구하는 서한에 서명했다고 보도되고 있다.
구글 딥마인드는 지금까지 군사 기술에는 절대 관여하지 않겠다는 입장을 보여왔지만 구글은 프로젝트 님버스(Project Nimbas)라고 불리는 구글 딥마인드 AI 기술을 포함한 클라우드 서비스를 전개하고 있다. 프로젝트 님버스는 각국 정부와 군사 조직에 제공되고 있으며 구글과의 계약 상대에는 가자 지구에서 무장 세력 하마스와의 격렬한 전투가 계속되는 이스라엘군도 포함되어 있고 가자 지구에서의 폭격 작전에 대량 감시나 표적 선택에 AI를 사용하고 있다는 보고도 있다.
이런 상황에 대해 구글 직원들은 자신의 일이 군사적으로 이용되는 것에 대해 항의의 뜻을 보이고 있으며 지난 4월에는 프로젝트 님버스에 반대하는 구글 직원이 항의 농성을 벌인 결과 체포되는 사태도 발생했다.
그리고 구글 딥마인드 직원 200명은 동사 AI 기술이 전쟁에 이용되고 있다는 우려와 군사 조직과의 계약을 해제할 것을 요구하는 5월 16일자 서한에 서명했다. 서한에는 특정 분쟁의 지정학적 상황에 관한 게 아니라는 걸 강조한다고 언급한 뒤 군사 및 무기 제조 관여는 윤리적이고 책임 있는 AI 리더로서의 입장에 영향을 미치며 당사 AI 원칙에 반하는 것이라고 주장하고 있다. 구글 AI 원칙은 기업이 전체적인 해를 일으킬 가능성이 있는 AI 애플리케이션을 개발하지 않고 무기 또는 기타 기술에 기여하지 않으며 그 목적이 국제법과 인권에 널리 받아들여지는 원칙을 위반하는 기술을 구축하지 않는다는 것이다.
서한에서는 구글 딥마인드 경영진에게 군사 조직이나 무기 제조업체가 구글 클라우드 사용자라는 의혹을 조사하도록 요구하고 있으며 이런 조직이나 기업이 구글 딥마인드 기술에 접근하는 걸 금지하도록 요구하고 있다. 또 향후 구글 딥마인드 기술이 군사 조직에 의해 사용되는 것을 막기 위한 새로운 거버넌스 조직 설립을 요구하고 있다.
하지만 서한 제출로부터 3개월이 지난 8월 시점에서도 구글 측 대응은 이뤄지지 않았다고 한다. 관계자는 지금까지 명확한 반응을 받지 못했으며 점차 불만이 쌓이고 있다고 비판했다. 구글 딥마인드 직원들은 구글 AI 원칙이 지켜지고 딥마인드 경영진이 이런 우려를 공유해 줄 것이라고 믿고 있다고 말했다.
한편 구글 측은 자사는 AI 기술을 개발하고 이를 고객에게 제공할 때 책임감 있게 기술을 개발한다는 약속과 AI 원칙을 준수하고 있다며 프로젝트 님버스는 어디까지나 이스라엘 정부 부처가 자사 상용 클라우드 상에서 실행되는 워크로드를 대상으로 한 계약으로 무기나 정보기관과 관련된 기밀성이 높거나 군사적인 워크로드는 대상으로 하지 않으며 이스라엘 정부는 당사이용 약관과 이용 규정에 동의했다고 반박했다. 관련 내용은 이곳에서 확인할 수 있다.