AI 사기성 광고 영상, 유튜브서 2억회 가까이 재생됐다

AI를 이용해 만든 저명인 등 딥페이크 사기성 광고 영상이 유튜브상에서 유행하고 있다고 지적되고 있다. 딥페이크로 만든 유명 인사는 테일러 스위프트나 앤드류 테이트, 드웨인 존슨, 오프라 윈프리 등 다양하며 딥페이크 광고 영상은 유튜브에서 1억 9,500만 회 이상 재생되고 있다고 한다.

딥페이크로 만든 가짜 유명 인사 등장 영상이 유튜브에 올라와 수백만 명에게 사기성 상품을 팔기 위한 광고로 이용되고 있다고 보도되고 있다. 정보 제공 인물이 정리한 목록에는 딥페이크를 이용해 만든 사기성 영상이 1,633개 목록화되어 있으며 이런 영상 총 재생수는 합계 1억 9,500만 회를 초과한다.

하지만 현재 이런 사기성 광고 영상 대부분은 유튜브에서 삭제됐다. 조사에 따르면 이런 사기성 광고 영상 대부분은 2023년 10월 이후 업로드됐으며 이런 영상을 문제시하는 유튜브와 사용자 지적으로 널리 알려졌다.

딥페이크로 만든 사기성 광고 영상 중 하나는 테일러 스위프트라며 주가 6,400달러 휴일 패키지를 제공하며 이는 인플레이션에 의한 휴일 시즌 보조금으로 갚을 필요가 없다며 가솔린, 식료품에 사용할 수 있는 현금인 만큼 메디케어 등을 갖고 있지 않는 한 휴일 패키지는 승인될 것이라고 말한다. 2가지 간단한 질문에 답하면 나중에 담당자가 대응할 것이라고 테일러 스위프트가 말하는 것이다. 이 영상은 유튜브에서 삭제됐지만 발견 단계에서만 이미 30만 회 이상 재생됐다고 한다.

가짜 테일러 스위프트가 홍보하는 가상 보조금 홍보 영상은 여럿 있으며 가짜 스티브 하베이가 등장하는 사기성 광고 영상은 1,800만 회 이상 재생됐다. 이런 사기성 광고 영상 대부분은 AI가 만든 합성 음성과 유명인사 기존 영상을 결합한 것이지만 일부는 딥페이크를 이용해 만든 것도 있다. 저명인이 등장하지 않는 영상도 있지만 어떤 영상도 같은 사기성 웹사이트로 사용자를 유도하고 광고주도 같은 것으로 보인다.

이런 영상은 미국보건복지부 HHS가 경고하는 사기적 수단 중 하나를 실행하고 있다. 또 딥페이크로 자신의 가짜 영상이 만들어진 유명인 중 일부는 소송을 계획 중이라고 한다. 보도에 따르면 톰 행크스, 오프라 윈프리, 게일 킹 등이 초상권을 침해하는 딥페이크에 대해 언급하고 있다. 레딧 상에서도 2023년 10월경부터 유튜브에서 만연하는 딥페이크를 이용한 사기성 광고 영상 존재가 지적되고 있어 플레이어 수십 명이 이런 광고 영상을 유튜브에 보고했다고 주장하고 있다.

이런 속임수 광고 영상을 누가 올렸는지 구글 광고 투명성센터를 이용해 조사한 바에 따르면 1만 6,000건 이상 기업(Mantilla Marketing, Idea Clan, LOOKFINITY, MILKIT OU) 사기 광고 영상을 유튜브에 게시하고 있다고 한다. 구글에 등록된 정보로 이런 영상이 사기성 광고라는 걸 판단하는 건 비교적 간단하다는 것. 관련 내용은 이곳에서 확인할 수 있다.