가수 테일러 스위프트(Taylor Swift) 딥페이크가 엑스에 확산되고 있다. 이에 따라 엑스에선 검색 기능으로 테일러 스위프트로 검색하는 게 불가능하게 됐다.
AI 기술을 사용해 만든 진짜와 혼란스러운 가짜 이미지와 동영상을 딥페이크라고 한다. 곧 딥페이크를 이용해 만든 성인물이 문제가 됐다. 가짜 성인물은 일부 국가와 지역에선 법률로 금지되어 있으며 리벤지 성인물보다 피해가 크다는 지적이 있을 정도다.
2024년 1월 4주경부터 엑스에서 테일러 스위프트 가짜 성인물이 빠르게 확산되고 있다고 보고됐다. 그 중에서 주목받은 영상 중 하나는 4,500만 회 이상 재생되고 있으며 투고는 2만 4,000회 이상 리포스팅되고 좋아요나 북마크 수십만 건을 모았다. 보도에 따르면 이 포스트는 삭제될 때까지 17시간에 걸쳐 엑스에서 계속 열람되고 있었다고 한다.
가짜 성인물 피해를 받은 테일러 스위프트를 지키기 위해 엑스상에선 해시태그(#ProtectTaylorSwift)를 이용해 가짜 성인물을 비난하는 게시물이 수천 건이나 전해지고 있다. 가짜 성인물 피해자는 테일러 스위프트 뿐 아니라 해외 유명인과 일반 여고생이 피해를 입은 사례도 존재한다. 개인 정보 도난이나 디지털 피해에 초점을 맞춘 조사기업(Home Security Heroes) 조사 데이터에 따르면 2023년 시점 인터넷상에 존재하는 모든 딥페이크 영상 98%가 가짜 성인물이라고 한다. 또 딥페이크 영상 타깃이 되는 건 99%가 여성으로 밝혀지고 있다.
잉글랜드와 웨일즈에선 2023년 6월부터 딥페이크 성인물 공유가 범죄로 간주되고 있으며 영국 정부는 찍은 인물 동의 없이 개인 이미지를 공유하는 학대자와 약탈자, 전 파트너를 단속한다고 발표하고 있다. 미국에선 48개주와 콜롬비아특별구에서 리벤지 성인물 방지법이 제정되어 있지만 일리노이, 버지니아, 뉴욕, 캘리포니아 등 일부 주에선 가짜 성인물을 리벤지 성인물 방지법에 포함하도록 법률을 수정하기 위해 노력하고 있다.
하지만 많은 국가와 지역이 딥페이크 성인물 문제에 진지하게 임하고 있지 않다는 지적이다. 인터넷에서 성적 학대에 있던 이들의 목소리를 넓히기 위한 캠페인(#MyImageMyChoice)은 대다수 정부는 행동하지 않는다며 법률이 없거나 법률에 허점이 많은 상태라면서 대다수 국가에는 누가 인터넷을 감시할 책임을 지는지에 대한 틀이 존재하지 않는다고 지적한다.
테일러 스위프트 가짜 성인물이 확산된 엑스에는 합성 또는 조작된 미디어에 대한 정책이 존재하며 가짜 성인물 게시는 명시적으로 금지되어 있다. 따라서 테일러 스위프트 가짜 성인물 확산에 따라 엑스상 안전성을 확보하기 위한 시책 등을 전하는 공식 계정(@Safety)은 엑스에선 동의 없는 누드 이미지 게시가 엄격하게 금지되어 있으며 이런 콘텐츠에 대해 제로 허용 오차 정책을 채택한다며 확인된 모든 이미지를 적극 삭제하고 게시한 계정에 대해 적절한 조치를 취하고 있다며 사용자에게 안전하고 존경할 만한 환경을 유지할 걸 약속한다고 게시하고 있다.
이후 엑스에선 테일러 스위프트라고 검색할 수 없게 됐다. 현재도 테일러 스위프트라고 검색하면 문제가 발생했다며 이와 마찬가지로 테일러 스위프트 AI 또는 테일러 AI로 검색해도 검색 결과가 더 이상 표시되지 않는다. 하지만 다른 단어(Swift AI, Taylor AI Swift, Taylor Swift deepfake)로 검색하면 검색 결과가 표시된다. AI 이미지 생성 속도와 영향 크기에 따라 지난 몇 개월간 엑스를 포함한 소셜미디어 플랫폼에선 AI 이미지가 급증하게 됐다. 따라서 주요 소셜미디어 플랫폼이 AI에서 생성된 콘텐츠 봉쇄에 어려움을 겪고 있다는 지적이다. 더구나 테일러 스위프트 검색을 불가능하게 한다는 건 엑스가 플랫폼에서 가짜 성인물을 처리하는 방법을 갖고 있지 않다는 걸 시사한다며 엑스가 가짜 성인물을 처리하는 근본적인 조치가 없을 가능성을 지적한다.
이번 사태에 대해 백악관 측은 테일러 스위프트 가짜 이미지가 확산되고 있는 건 우려해야 할 사태라며 바이든 대통령은 실행 조치를 통해 가짜 AI 이미지 위험을 확실히 완화하기 위해 노력하고 있다면서 진정한 해결책을 찾는 작업은 앞으로도 계속될 것이라며 가짜 성인물 규제법이 필요하다고 밝혔다. 관련 내용은 이곳에서 확인할 수 있다.