고정밀 이미지 합성 AI가 등장하면서 부상한 문제 중 하나는 타인 얼굴을 무단으로 사용하는 딥페이크 성인물이다. 보도에 따르면 구글 검색에서 쉽게 찾을 수 있는 웹사이트에 대량 딥페이크 영상이 투고되어 있으며 유명인 뿐 아니라 일반인을 표적으로 한 딥페이크 영상 비즈니스도 존재한다고 한다.
AI 이미지와 영상 일부를 다른 소재로 바꾸는 딥페이크는 AI 기술 발달에 따라 심각한 문제가 되고 있다. 일반 미디어에선 저명한 배우나 정치가 딥페이크가 화제가 되기 쉽지만 가장 널리 사용되는 건 성인물 영상 얼굴을 다른 사람 얼굴로 바꾸는 딥페이크 성인물이다.
AI에 의해 합성된 미디어를 감시하는 네덜란드 기업 센시티(Sensity)에 따르면 딥페이크 96%가 성적인 것이며 콘텐츠 생성에 동의하지 않은 여성 얼굴을 이용한 것이라고 한다. 딥페이크 크리에이터는 유명인 얼굴을 이용한 성인 영상을 투고, 판매하고 있으며 사용자 요구에 따라 일반인 딥페이크 성인물 제작도 하고 있다는 것.
딥페이크 성인물을 둘러싼 경제는 거의 표면화되고 있지 않지만 2023년 2월에는 유명 크리에이터 남성이 여성 크리에이터 딥페이크 성인물이 공개된 웹사이트를 소개해 일부 시청자가 여성 크리에이터를 괴롭히는 사태로 발전했다. 이 사건 이후 구글 검색에서 관련 검색(deepfake porn) 트래픽이 급증했다고 한다.
구글에서 관련 검색을 하면 상위에 올라오는 한 웹사이트(MrDeepFakes)는 딥페이크 성인물에서 가장 유명한 게시 플랫폼이다. 이곳은 무료로 시청할 수 있는 딥페이크 성인물 수천 건이 넘쳐나며 지난 2월 업로드 건수는 역대 최고인 1,400건을 넘고 월 방문자 수는 1,700만 명에 달한다고 한다.
이곳에 올라온 딥페이크 성인물은 몇 분짜리 영상이 많으며 장시간 영상 무료 체험판으로 공개된다. 크리에이터는 영상 정식 버전을 보고 싶은 사용자를 다른 성인 콘텐츠 플랫폼으로 안내하고 딥페이크 성인물 라이브러리에 대한 액세스 권한을 판매한다. 유료 버전 가격은 5달러 정도로 구입은 네덜란드 결제 서비스 베로텔(Verotel)을 이용해 이뤄지며 비자나 마스터카드 등 신용카드도 사용할 수 있다고 한다. 비자나 마스터카드는 이전에 성인 사이트 폰허브에 아동 성인물이나 복수 성인물 투고가 있다며 결제 중단을 결정했지만 이곳에선 계속 사용 가능하다고 한다.
딥페이크 성인물을 둘러싼 경제는 최근 성장하고 있다. 보도에 따르면 딥페이크 성인물 크리에이터는 이곳 포럼에서 콘텐츠 제작 지원자를 유상으로 모집하고 있다고 한다. 이곳에서 가장 많이 다루는 딥페이크 성인물 대상은 여배우 엠마 왓슨과 스칼렛 요한슨이다. 또 일부 딥페이크 성인물 크리에이터는 대화방에서 지원자 요청에 따라 일반인 딥페이크 성인물을 만들고 있다고 한다. 한 크리에이터는 인스타그램 팔로어 수 200만 명인 여성 딥페이크 성인물을 65달러에 만들겠다고 홍보했다.
한 변호사는 유명인이 아닌 일반인이 합의 없는 딥페이크 성인물 피해자가 되는 사례가 늘고 있다며 더 많은 사람이 표적이 되고 있다고 지적한다. 이어 동의하지 않은 성적 콘텐츠를 공개하는 웹사이트를 폐쇄하지 않고 구글 검색에 노출되는 것에 대해 규제 당국과 법 집행 기관, 시스템 전체가 이 상태를 허가하고 있다는 비난으로 이어질 것이라며 딥페이크 성인물에 대한 법적 규제가 필요하다고 지적했다. 관련 내용은 이곳에서 확인할 수 있다.