구글은 2024년 1분기 광고 관련해 700억 달러 매출을 기록하며 인터넷 광고 시장에서 여전히 최고 점유율을 자랑하고 있다. 이런 구글이 광고 정책을 업데이트해 노골적인 성적 표현이나 노출을 포함하도록 변경 또는 생성된 합성 콘텐츠 광고를 금지한다고 밝혔다. 이로 인해 딥페이크로 제작된 성인물 콘텐츠인 딥페이크 포르노를 만들 수 있는 서비스 광고가 금지된다.
구글은 오랫동안 성적으로 노골적인 광고 그러니까 성적 자극을 목적으로 한 생생한 성행위를 표현한 텍스트, 이미지, 음성, 동영상 등을 금지해왔다. 구글 광고 정책 내 성적 콘텐츠 항목에선 누드와 성행위를 목적으로 한 소개팅이 엄격히 제한되는 카테고리로 지정되어 있으며 부분 누드, 성적 주제 소개팅, 성인 제품, 성인 엔터테인먼트, 성인 미용 시술, 성적 내용을 암시하는 요소나 주제 등도 일부 제한 카테고리로 광고 노출이 엄격히 제한되고 있다. 하지만 지금까지 딥페이크 성인물이나 다른 형식 성적 콘텐츠를 생성할 수 있는 서비스 광고는 금지되지 않았다.
지난 5월 1일 구글은 부적절한 콘텐츠에 관한 정책 업데이트를 발표했다. 새롭게 노골적인 성적 표현이나 누드를 포함하도록 변경 또는 생성된 합성 콘텐츠 광고가 금지된다고 명시했다.
이 정책 변경은 5월 30일부터 발효 예정이며 이로 인해 딥페이크 성인물 제작 방법을 안내하는 웹사이트나 앱 등 광고가 금지된다.
구글 측은 이번 정책 변경은 딥페이크 성인물이나 합성 누드 콘텐츠 제작을 제안하는 서비스 광고를 명시적으로 금지하기 위한 것이라고 설명하고 있다.
이에 따르면 구글 광고 정책에 위반되는 광고는 모두 삭제된다고 한다. 구글 광고에서 정책 위반 여부는 인력 리뷰와 기계 자동 인식 시스템을 결합해 판단한다. 2023년에는 이 시스템을 통해 성적 콘텐츠 정책 위반으로 18억 건 이상 광고가 삭제됐다고 한다.
한편 미국에선 딥페이크 성인물로 인한 피해가 심각해지고 있지만 규제가 뒤쳐지고 있다는 지적이 있다. 지난 1월에는 세계적 가수 테일러 스위프트가 딥페이크 성인물 피해를 입어 세계적 문제가 되기도 했다. 관련 내용은 이곳에서 확인할 수 있다.