MS, 딥페이크 영상 분별해주는 도구 발표해

마이크로소프트가 인공지능으로 영상을 합성해 위화감 없이 영상을 만들어내는 대책 일환으로 마이크로소프트 비디오 인증기(Microsoft Video Authenticator)를 발표했다.

AI 영상을 합성하는 딥페이크 기술은 계속 발전하고 있다. 진짜와 가짜 영상을 분별할 수 없게 될 수 있다는 우려가 나오는 상황인 것. 딥페이크를 활용하면 유명인사가 실제로 말한 적 없는 발언을 손쉽게 한 것처럼 영상으로 만들어낼 수 있다.

오는 11월 미국 대통령 선거를 앞두고 있는 만큼 딥페이크를 이용한 정치 조작이 쏟아질 것으로 예상되고 있다. 이런 딥페이크에 대항하기 위해 마이크로소프트는 정부기관과 협력해 가짜 뉴스와 온라인 선거에 대한 해킹에 대항하는 프로젝트(Defending Democracy Program)를 추진 중이다. 이 일환으로 딥페이크 대항 도구인 마이크로소프트 비디오 인증기를 발표한 것.

마이크로소프트 비디오 인증기는 동영상과 사진을 분석해 딥페이크로 발생하는 인간의 눈으론 알 수 없는 수준의 퇴색이나 그레이스케일 등을 감지하고 딥페이크 편집 여부를 판정한다. 이에 따른 신뢰도 점수를 산출해 한눈에 딥페이크를 사용했는지 여부를 알 수 있게 표시해준다.

마이크로소프트 비디오 인증기를 이용해 실제 영상을 판정하는 과정을 보면 얼굴에 테두리와 신뢰도 점수를 표시하는데 프레임이 녹색이면 딥페이크를 사용하지 않을 확률이 높다는 의미이며 빨간색이면 딥페이크 확률이 높다는 걸 의미한다.

또 마이크로소프트 비디오 인증기는 제작자 측이 디지털 해시와 인증서를 이미지, 동영상에 추가하는 기능도 탑재하고 있다. 이 같은 디지털 해시와 인증서를 확인해 화상과 동영상을 편집하지 않았다고 높은 확률로 보장할 수 있다. 마이크로소프트 비디오 인증기는 마이크로소프트의 클라우드 플랫폼인 마이크로소프트 애저에서 실행한다. 관련 내용은 이곳에서 확인할 수 있다.