AI가 만든 딥페이크 검출하는 플랫폼 ‘리얼리티 디펜더’

리얼리티 디펜더(Reality Defender)는 AI 전문 연구팀이 1억 개 이상 동영상과 이미지, 음성 자산을 바탕으로 구축한 인공지능으로 만든 가짜 이미지, 동영상, 음성 등 딥페이크를 검출할 수 있게 만든 플랫폼이다. 사용자는 리얼리티 디펜더가 제공하는 웹앱 또는 API를 통해 스캔하면 딥페이크가 섞여 있지 않은지 확인할 수 있다.

딥페이크가 처음 큰 화제가 된 건 2017년 말이다. 세계적인 유명 여배우와 성인물 영화를 딥페이크로 만든 게 나오면서 화제가 된 것. 다만 가짜 영상에 대해선 곧바로 규제가 마련되어 가짜 성인물이 탄생한 레딧에서도 등장 3개월 만에 투고 자체가 금지됐다.

이후 AI 진화는 현저하게 딥페이크를 이용한 가상 괴물이나 애니메이션 미소녀 등을 만드는 툴이나 서비스가 등장했다. 이런 딥페이크에 대항하기 위한 기술을 마이크로소프트나 페이스북, MIT 공대 연구원 등이 만들기도 했다.

이런 딥페이크에 대항하기 위한 플랫폼이 리얼리티 디펜더다. 리얼리티 디펜더는 미국국퇀보부, 미 국방부와 육군, 미국 시크릿 서비스 등 정부기관, ABC, 워싱턴포스트, 와이어드, 프로퍼블리카 등 보도 미디어, 링크드인, 페이스북, 보스 같은 기업과 제휴해 이들 조직이 데이터 진위를 판단하는 지원도 하고 있다.

리얼리티 디펜더 개발자는 기계학습 최신 진보로 실제 사람이 말하거나 했던 적 없는 이미지, 동영상, 음성을 만드는 기술 보급으로 모든 사람이 현실적으로 딥페이크를 만들 수 있게 됐다며 판별이 가능하지만 많은 이들이 이런 경험이 없거나 항상 잘 보이지 않기 때문에 판별이 어렵다고 지적했다. 다시 말해 악의가 있는 사람이 딥페이크를 이용하면 현실을 왜곡, 금융 거래, 개인과 브랜드 평판, 여론 심지어 국가 안보조차도 위험에 처할 수 있다.

리얼리티 디펜더 개발자는 하버드대학, 뉴욕대학, 캘리포니아대학 LA 출신 데이터 과학자로 처음에는 아이폰으로 딥러닝을 통해 딥페이크를 만드는 방법을 개발하다가 상상 이상으로 가단하고 정교했기 때문에 진짜와 딥페이크를 구별하는 모델 제작에 착수했다고 한다.

하지만 딥페이크를 탐지하는 모델을 만드는데 착수해 모델 개발이 어렵다는 걸 알게 됐다고 한다. 더구나 페이스북이나 마이크로소프트 같은 기업은 단일 모델 그러니까 모든 걸 해결할 수 있는 단일 모델을 구축하려고 하지만 자신들의 견해는 딥페이크 기반이 되는 기술은 끊임없이 진화하고 있기 때문에 이런 접근법은 작동하지 않을 것이라며 탐지하는 모델 복잡성을 강조하고 있다.

이런 문제를 해결하기 위해 딥페이크 검출 알고리즘을 집약한 멀티 모델 접근이 필요하다고 주장하는 것이다. 이들은 딥페이크 검출 모델 중에서 가장 점수가 높았던 것과 마이크로소프트, 캘리포니아대학 버클리 등 제휴 조직이 만든 모델을 통합해 확장 가능한 솔루션을 구축하고 이를 웹앱으로 이용할 수 있도록 했다. 또 이 웹앱을 통해 우크라이나와 유럽, 미국을 겨냥한 러시아 출신 가짜 정보, 은행 임원이 전신 송금을 의뢰하는 가짜 음성, 말레이시아 정부 지도자 스캔들 영상, 가짜 성인물 등을 감지하는데 성공했다고 한다. 또 딥페이크 기술 진화에 대응하기 위해 타사 모델을 받아 모델 스택에 통합할 수 있도록 조정한다고 밝히고 있다. 관련 내용은 이곳에서 확인할 수 있다.