딥페이크 성인물 피해가 증가하고 있다. 라이브 스트리밍 서비스인 트위치에서 팔로어를 보유한 한 인기 스트리머는 자신의 딥페이크 성인물 피해자 중 하나. 기술이 진화하면서 이를 역으로 딥페이크로 마음대로 얼굴을 바꿔 성인물로 바꾸는 AI 성인물이 여성을 괴롭히고 있다.
이런 피해자 여성 경험을 담은 다큐멘터리인 어나더 바디(Another Body)가 미국에서 공개됐다. 피해자는 괴로운 외상이나 어떻게 싸워야 했는지 사건의 베일을 풀어가는 모습을 담고 있다.
감독은 이 다큐멘터리가 인터넷에서 확산 중인 자신의 딥페이크 성인물을 발견한 한 대학생 생활을 밀착 취재하면서 만들어지게 됐다고 말한다. 물론 다큐멘터리에 등장한 피해자는 가명 뿐 아니라 얼굴이나 신원이 밝혀지지 않게 딥페이크로 만들었다. 한 성인물 사이트에서 자신의 얼굴이 들어간 딥페이크 성인물을 찾아낸 그녀는 누군가 자신의 얼굴 이미지를 SNS 계정에서 찾아 AI 모델로 실행시키고 마치 그녀가 실제로 출연한 것처럼 보이는 성인물을 만들었다는 걸 나중에 알게 됐다.
더 나쁜 건 범인은 그녀의 명의로 폰허브 프로필을 만들고 영상을 올렸고 심지어 피해자 대학명과 출신지까지 그대로 썼다는 것이다. 다큐멘터리는 딥페이크 피해자가 자신의 성적 묘사에 대해 아무 것도 할 수 없는 무력함과 외상을 안고 가는 모습을 그리고 있다. 딥페이크 관련 뉴스는 대부분 유명인을 대상으로 해왔지만 이 다큐멘터리는 점점 늘어나는 딥페이크 기술 활용으로 유명인이 아니라도 누구나 노릴 가능성이 있다는 현실을 말한다.
전문가는 딥페이크가 괴롭힘의 방정식을 바꿨다고 지적한다. 피해자가 실제로 촬영한 성적 사진이나 영상을 이용해 괴롭히던 방정식이 무너지고 지금은 인스타그램이나 대학 웹사이트 등 공개적으로 이용 가능한 사진만 있으면 충분해졌기 때문이다. 모두가 잠재적 피해자가 될 수 있다는 것. 가해자가 필요한 건 얼굴 사진 뿐이기 때문이다.
딥페이크 성인물은 놀라운 속도로 증가하고 있다. 보도에 따르면 지난 7년간 인기 TOP35 딥페이크 성인물 사이트에는 24만 4,625개에 달하는 영상이 올라온 것으로 추정하고 있다. 이 가운데 절반 가량인 11만 3,000개는 올해 1∼9월 사이 올려진 것이라고 한다. 연구자는 연말까지 지난 7년 올려진 전체 숫자보다 더 많은 딥페이크 영상이 올라갈 것으로 예측하고 있다. 여기에는 SNS나 크리에이터 개인 컬렉션에 존재할 수 있는 다른 딥페이크는 포함되지 않으며 성인물 사이트만 예측한 것이다.
물론 입법자도 해결책을 찾기 위해 적극적으로 노력하고 있다. 이미 미국 12개주에서 개인 동의 없이 성적인 딥페이크 제작과 공유를 범죄화하는 법을 제정하고 있다. 뉴욕주에선 AI로 생성된 누군가의 성적으로 노골적인 이미지를 전파하거나 흘리는 걸 불법화하는 법이 12월 시행된다. 위반자는 최대 1년형에 처할 수 있다. 반면 연방 수준 입법자는 디지털 워터마크를 만들기 위해 AI 기업에 압력을 가하고 있다. 프로그램을 이용해 변경 이미지와 영상이라는 걸 명확하게 공개하기 위해서다. 오픈AI와 마이크로소프트, 구글 등 AI 기업은 명확한 워터마크 시스템 구축에 자발적으로 협력하는데 동의하고 있다.
하지만 탐지 대처나 워터마크가 대처할 수 있는 건 일부에 지나지 않는다는 지적이다. 다만 SNS가 지난 10년간 존재했음에도 입법자는 플랫폼에서 괴롭힘이나 학대로부터 사람을 보호하기에 충분한 일을 수행하지 않았지만 지금은 모든 플랫폼을 통해 이 문제에 대처하는 일에 법 집행기관, 기술, 사회 전체가 상당한 관심을 갖고 있다는 건 긍정적이라고 할 수 있다. 관련 내용은 이곳에서 확인할 수 있다.