마이크로소프트 “빙 검색 결과서 리벤지 성인물 등 차단”

마이크로소프트가 동의 없이 공개된 성적 묘사가 있는 이미지(NCII)로부터 서비스와 개인을 보호하기 위한 최신 정보를 공개했다. 마이크로소프트는 2015년부터 NCII가 인터넷상에서 공유될 경우 발생하는 평판, 감정 및 기타 파괴적인 영향을 인식해 왔다. 하지만 기술 발전으로 실제와 같은 합성 이미지인 딥페이크가 문제가 되거나 생성 AI 등장으로 딥페이크가 더 쉽게 만들어질 수 있게 되면서 NCII가 미치는 영향은 더 심각하고 복잡해졌다. NCII 대표적인 예가 리벤지 포르노와 딥페이크로 만들어진 포르노 이미지인 가짜 포르노다.

이에 마이크로소프트는 여성과 아동을 온라인상 성적 착취로부터 보호하는 데 중점을 둔 미국인을 딥페이크에 의한 학대로부터 보호하기 위한 정책 백서를 지난 7월 30일 공개했다. 마이크로소프트는 이런 노력 일환으로 국제 자선단체 SWGfL 일부인 리벤지 포르노 헬프라인이 운영하는 StopNCII와의 제휴를 발표했다. StopNCII는 자신의 사적인 이미지가 동의 없이 온라인상에서 공유되는 걸 막기 위해 사용할 수 있는 플랫폼으로 사용자는 합성 이미지를 포함해 자신의 이미지를 기기에서 업로드하지 않고도 이미지 해시 또는 디지털 지문을 만들 수 있다. 이 해시 데이터는 다양한 업계 파트너가 이용하고 있으며 페이스북, 틱톡, 레딧, 폰허브, 인스타그램, 온리팬스, 스냅챗 등이 NCII 검출에 이용하고 있다고 한다.

마이크로소프트는 StopNCII와 제휴해 빙(Bing) 이미지 검색 결과에 해당 이미지가 표시되지 않도록 하기 위해 StopNCII 데이터베이스를 시험적으로 사용한다고 발표했다. 또 마이크로소프트는 8월 말 기준으로 StopNCII 데이터베이스를 바탕으로 이미지 26만 8,899장을 삭제했다고 밝혔다.

더불어 마이크로소프트는 기본적 권리를 존중하면서도 불법적이고 유해한 온라인 콘텐츠로부터 사용자를 보호할 책임이 있다고 하며 위험에 맞는 접근 방식을 채택해 여러 서비스에서 NCII 근절이라는 목표를 달성하기 위해 노력하고 있다고 설명했다. 마이크로소프트는 소비자 대상 서비스 전반에서 본인의 허가 없이 NCII를 공유하거나 만드는 걸 허용하지 않는다. 여기에는 기술을 사용해 만들거나 변경된 사진처럼 실제와 같은 NCII 콘텐츠도 포함된다. 마이크로소프트는 자사 서비스에서 NCII를 배포하는 걸 허용하지 않으며 NCII를 칭찬, 지지, 요구하는 콘텐츠도 허용하지 않는다고 설명했다.

또 마이크로소프트는 NCII를 공유하거나 공개하는 것에 대한 협박도 허용하지 않는다고 명시했다. 여기에는 NCII를 공개하지 않는 대가로 금전, 이미지 또는 기타 귀중한 것을 요구하거나 협박하는 것도 포함된다고 한다. 이 포괄적인 정책에 더해 마이크로소프트 스토어 등 관련 플랫폼에서도 NCII 확산 방지를 위한 맞춤형 금지 사항을 마련할 것이라고 설명했다.

그 외에도 마이크로소프트는 전 세계적으로 직접 신고된 콘텐츠나 NGO 및 기타 파트너로부터 위반 콘텐츠로 신고된 콘텐츠를 계속해서 삭제할 것이라고 설명했다. 또 사용자는 마이크로소프트 신고 포털을 통해 NCII 삭제를 요청할 수 있다. 다만 신고 포털에서 신고할 수 있는 NCII는 18세 이상을 대상으로 한 것이므로 18세 미만을 대상으로 한 콘텐츠는 아동 성적 착취 콘텐츠로 별도 신고해야 한다고 한다. 관련 내용은 이곳에서 확인할 수 있다.