마이크로소프트 “감정 읽는다? 얼굴 인증 도구 폐지”

마이크로소프트는 나이와 성별, 표정 등을 읽는 얼굴 인식 서비스 일부 기능을 폐지한다고 발표했다. 이런 사람 감정을 읽는 기능은 마이크로소프트 내외부에서 정당성과 개인 정보에 대한 논란을 낳았다.

마이크로소프트는 이에 6월 21일 자사 AI 윤리 지침 새 버전(Microsoft Responsible AI Standard, v2)을 발표했다. 이에 따라 마이크로소프트 AI 최고 책임자(Chief Responsible AI Officer)인 나타샤 크램튼(Natasha Crampton)은 얼굴 인증 서비스인 애저 페이스(Azure Face) 일부 기능을 제한한다고 발표했다.

구체적으론 사용자가 애저 페이스를 사용해 얼굴 인증을 할 때 이 기술을 어디에서 어떻게 사용하는지를 마이크로소프트에 전달해야 됐다고 한다. 하지만 이미지와 동영상에 반영된 얼굴에 자동으로 흐리게 하는 유해하지 않은 용도는 계속 무료 액세스 상태로 유지된다.

마이크로소프트는 또 애저 페이스를 AI 이용에 관한 새로운 기준에 맞추는 작업 일환으로 서비스에서 성별, 미소, 수염, 머리카락, 화장 등 속성을 식별하는 기능을 빼고 감정을 인식하는 기능 공개도 정지하는 걸 발표했다.

이유에 대해 크램튼은 사내외 전문가는 감정 정의에 관한 과학적 컨센서스 부족과 감정 예측이 개별적인 유스케이스, 인구 통계에 어떻게 일반화됐는지 문제와 이런 종류 기능에 대한 프라이버시에 대한 우려 증가를 지적하고 있으며 얼굴 분석이나 다른 AI 기술을 사용하는지 여부에 관계없이 사람의 감정을 추측한다고 주장하는 모든 AI 시스템을 신중하게 분석해 나갈 필요가 있다고 판단했다고 밝혔다. 기술로 얼굴 인증이나 감정 추측을 하는 것에 수반한 프라이버시 문제에 대응하기 위한 것이라고 설명하고 있는 것.

크램튼이 지적한 것처럼 표정이나 감정을 읽는 마이크로소프트 AI 기술은 국가나 인종에 따라 표정이 다른 점이나 외면적 표현과 내면적 감정을 동일시하는 건 부적절하다는 점 등으로부터 전문가에 의해 엄격하게 비난받아 왔다. 한 심리학 전문가는 다만 이런 면을 감지할 수는 있지만 분노를 검지하는 건 아니라고 밝히고 있다.

이번 결정에 따라 애저 페이스에서 성별이나 연령 등 속성을 인식하는 서비스는 당일 신규 사용자에게 제공되지 않으며 기존 사용자도 6월 30일 이후에는 사용할 수 없게 된다. 마찬가지로 음성 합성 서비스인 커스텀 뉴럴 보이스(Custom Neural Voice)에서도 용도를 마이크로소프트에 보고해야 하는 제한이 적용된다고 한다.

크램튼은 녹음된 목소리에서 AI 목소리를 합성하는 이 기능에 대해 교육과 접근성, 엔터테인먼트에서 흥미로운 잠재력을 지니고 있지만 화자를 부적절하게 위장하고 청취자를 속이는 것처럼 사용법을 받는 것도 쉽게 상상할 수 있다고 말했다. 관련 내용은 이곳에서 확인할 수 있다.