마이크로소프트, AI 기술 위험 평가팀 해체했다

마이크로소프트가 올초부터 실시한 대규모 감원에 의해 오픈AI 기술을 제품에 통합할 때 리스크 평가를 실시하는 AI팀을 해고했다고 한다. 오픈AI 대규모 언어 모델을 통합한 마이크로소프트 빙챗이 각광받는 가운데 회사 측이 내건 책임 있는 AI 원칙을 보증하는 역할을 맡은 전문팀이 사라진 것에 대해 우려의 목소리가 나오고 있다.

보도에 따르면 정보 제공 관계자에 따르면 마이크로소프트가 실시한 1만 명 규모 해고에 따라 사내 윤리‧사회팀이 전원 없어지고 팀은 해산했다고 한다. 이 팀은 윤리적이고 책임있는 AI 혁신을 이끌어내는 걸 전문으로 하며 규모가 최대였던 2020년에는 엔지니어, 디자이너, 철학 전문가를 포함한 30명을 보유한 대규모였다. 이후 2022년 10월 조직 개편으로 7명 정도로 줄었지만 마이크로소프트가 오픈AI와 제휴한 뒤 오픈AI 기술을 자사 제품에 통합하는 것에 의한 리스크 관리를 실시하고 있었다.

AI 부사장인 존 몽고메리는 재편 후 팀과 실시한 회의에서 마이크로소프트 CEO들로부터 압력을 받고 있다고 밝혔다고 한다. 그는 최고 기술 책임자인 케빈 스콧과 CEO인 사티아 나델라의 압박은 최신 오픈AI 모델과 이후 모델을 빠른 속도로 고객에게 전달하라는 것이라고 밝혔다고 한다.

이를 들은 윤리‧사회팀은 우려를 표했다. 그러자 몽고메리 부사장은 팀이 없어지지는 않을 것이라고 말했지만 멤버 대부분은 사내 다른 부서로 이동하고 남은 멤버는 2023년 3월 6일 팀 폐지 통보를 받았다.

이런 움직임에 대해 AI 개발 종사자라면 누구나 이 기술이 잠재적 위험을 겪고 있다는 것에 동의하겠지만 윤리‧사회팀 폐지 이후에도 마이크로소프트 사내에선 3개 그룹이 이 문제를 다루지만 이 기술의 위험성을 감안할 때 책임 있는 AI 사용을 다루는 전문팀 감소는 주목할 만한다는 지적이다.

보도에선 폐지된 윤리‧사회팀이 선견성 있는 제언을 하고 있던 것도 밝혀지고 있다. 마이크로소프트는 2022년 10월 오픈AI 이미지 생성 AI인 달리를 통합한 빙 이미지 크리에이터(Bing Image Creator)를 발표했지만 팀이 남긴 자료에는 자신의 작품을 학습 데이터로 사용하는데 동의할 아티스트는 거의 없다고 생각되며 또 이미지 생성 기술에 의해 자신의 작품 개편 버전이 몇 초 만에 생성된다는 걸 많은 이들이 아직 모른다고 기록하고 있다.

또 오픈AI가 사용자 약관을 업데이트하고 달리로 만든 이미지 전체 소유권을 사용자에게 제공하도록 했다는 내용은 프롬프트를 입력한 사람이 완료된 이미지 전체 소유권을 갖게 하는 건 윤리적으로 의심스럽다고 지적하고 있다.

이런 우려를 바탕으로 연구자는 살아 있는 아티스명을 프롬프트로 사용하는 걸 차단하는 등 완화책을 만들었지만 마이크로소프트는 이를 수행하지 않고 빙 이미지 크리에이터 시험 출시에 나섰다. 마이크로소프트는 성명에서 자사는 AI 제품과 경험을 안전하고 책임감 있게 개발할 걸 약속하며 이를 우선하는 인재, 프로세스와 파트너십에 투자해 이를 실현했다면서 전체 팀과 책임 있는 AI 사무실 ORA(Office of Responsible AI)에 자사 AI 원칙을 확실히 실천하기 위해 책임을 지는 직원 수를 늘렸다며 현재 진행 중인 책임 있는 AI 개발에 있어 윤리‧사회팀이 실시한 선구적인 일에 감사하고 있다고 밝혔다. 관련 내용은 이곳에서 확인할 수 있다.