딥러닝 기술을 이용해 사진이나 동영상에 비치는 인물 얼굴을 전혀 딴사람에 위화감 없이 대체할 수 있는 딥페이크(Deepfake)가 등장했을 때 재미있는 기술이라는 평가가 나왔다. 하지만 곧 유명 영화배우 얼굴을 성인 영상에 붙이거나 말레이시아 같은 곳에선 정치 지도자 얼굴로 바꾸는 등 악용 사례가 늘어나기 시작했다. 미국에선 내년 선거에서 유권자 인상을 조작하는데 이용될 가능성이 지적되기도 한다.
이런 문제에 대해 페이스북은 딥페이크를 간파할 수 있는 인공지능 개발을 목표로 한 DFDC(Deepfake Detection Challenge)를 시작한다. 이런 DFDC에 아마존이 기술 파트너와 위원회 멤버로 참여한다고 발표했다. 아마존은 기계학습 전문가를 파견하고 딥페이크 탐지 과제 해결에 클라우드 서비스를 이용하고 싶은 팀을 대상으로 10만 달러 상당 AWS 크레딧을 제공할 예정이다.
페이스북은 또 아마존 참여 발표와 함께 연구자를 대상으로 딥페이크 발견 샘플 세트 일부를 제공하기 시작했다. 딥페이크 감지를 위해 생성한 10만 개 이상 딥페이크 소재 중 5,000종 샘플 동영상을 뽑아낸 것이다. 지금은 AI가 어떤 게 가장 동영상인지를 분별하기 위한 용도지만 12월 전체 데이터세트가 출시되고 공모 형식 도전이 시작된다고 한다.
DFDC에는 이미 마이크로소프트 외에도 MIT와 뉴욕타임스, 옥스퍼드대학 등이 협력하고 있는 상태다. 여기에 이번 아마존 참여는 역시 딥페이크 문제 해결을 위해 협력하자는 높은 관심을 나타내는 것이라고 할 수 있다.
미국에선 구글 역시 딥페이크 연구를 지원 중이다. 9월에는 배우 30여 명을 기용해 딥페이크 검출용 동영상 3,000개를 만들었고 얼굴 조작 탐지를 위한 자동 벤치마킹(FaceForensics Benchmark)의 AI 교육용으로 사용한다. 하지만 한 전문가는 앞으로 반년에서 1년 가량 지나면 딥페이크는 육안으로는 구별이 안 될 것이라고 내다보고 있다. 관련 내용은 이곳에서 확인할 수 있다.