이원영 기자
AI를 이용해 만든 정교한 가짜 이미지나 영상은 딥페이크라고 불리며 이를 이용한 성인물이 범람하고 있다. 2024년 1월말 엑스를 비롯한 소셜미디어 플랫폼상에서 가수 테일러 스위프트 가짜 성인물이 확산되어 큰 문제가 되고 있지만 가짜 성인물을 금지하기 위한 법안 제출을 향한 움직임이 활발해지고 있다는 지적이다.
2024년 1월 4주경부터 엑스에서 테일러 스위프트 가짜 성인물이 확산됐다. 테일러 스위프트 가짜 성인물 중에는 4,500만 회 이상 재생된 것도 있지만 지금은 테일러 스위프트라는 단어 검색을 불가능하게 해 엑스는 문제를 해결하고 있다. 또 테일러 스위프트 가짜 성인물을 만드는데 사용됐다며 마이크로소프트 역시 생성형 AI 도구인 마이크로소프트 디자이너로 유명인과 비슷한 이미지를 생성할 수 없도록 제한을 추가하기도 했다.
미국에선 48개주와 콜롬비아특별구에서 리벤지 성인물 방지법이 제정되어 있으며 이번 테일러 스위프트 사건에 따라 일리노이주, 버지니아주, 뉴욕주, 캘리포니아주 등 일부 주에선 가짜 성인물이 리벤지 성인물 방지법에 포함되도록 법률 수정이 이뤄지고 있다. 테일러 스위프트 가짜 성인물이 확산되면서 미국 의원 일부는 자신의 가짜 성인물을 만든 사람이 소송을 제기할 수 있도록 하는 법률(DEFIANCE법)을 제안했다. 이 법은 동의 없이 만든 개인을 특정할 수 있는 성적으로 노골적인 위조 이미지에 대해 피해자가 민사 소송을 일으킬 수 있는 권리를 추가하는 것으로 피해자는 이미지를 확산시킬 목적으로 고의로 제작 또는 소지한 인물로부터 금전적 손해배상을 청구할 수 있다.
이 법안은 민주당 딕 더빈 상원 의원이 제출한 것으로 일부 의원도 지지하고 있다. 이 법은 2022년 바이든 대통령에 의해 재허가된 여성에 대한 폭력법 VAWA에 근거하고 있으며 위조되지 않은 노골적 이미지에 대해서도 유사 소송 권리가 부여된다고 한다.
법안을 제출한 더빈 상원 의원은 디지털 조작된 노골적인 가짜 성인물 양이 급격하게 증가하고 있는 것에 대응하기 위한 법률이라고 설명하고 있으며 가짜 성인물은 여성 특히 공적 인물, 정치인을 착취하거나 괴롭히기 위해 어떻게 이용되고 있는지 구체예로 테일러 스위프트 사건을 소개하고 있다.
또 테일러 스위프트 가짜 성인물이 확산되면서 백악관은 테일러 스위프트 가짜 이미지가 확산되는 건 우려해야 할 상황이며 이런 사건이 여성과 아이에게 불균형한 영향을 미친다는 걸 이해하고 있다고 밝혔다. 바이든 대통령은 실행 조치를 통해 가짜 AI 이미지 위험을 확실히 완화하기 위해 노력하고 있으며 해결책을 찾는 작업이 앞으로도 계속될 것이라고 덧붙였다.
DEFIANCE법은 AI에 의한 가짜 성인물에 대응하기 위해 제출된 것으로 설명되어 있지만 소프트웨어, 기계학습, AI 기타 컴퓨터를 이용해 생성 혹은 기술적 수단을 이용해 작성된 모든 성적 이미지는 위조 이미지에 해당한ㄴ 것으로 설명되어 있으며 이를 대상으로 소송을 제기할 수 있게 된다. 포토샵에서 만든 이미지도 위조 이미지에 해당되며 이미지가 진짜가 아니라는 라벨 등이 추가되어도 책임이 면제되는 건 아니라고 한다.
하지만 보도에선 이런 종류 법 규제는 예술적 표현에 대한 큰 의문을 일으킬 것이라고 지적하고 있다. 실제로 정치적 패러디와 창조적 소설 취급을 둘러싸고 유력자가 소송을 일트킬 가능성을 들 수 있다. DEFIANCE법도 비슷한 의문을 제기할 가능성이 있고 가결을 향해 여전히 어려운 싸움에 직면하고 있지만 이 규제 내용은 크게 한정되고 있다는 지적도 있다. 관련 내용은 이곳에서 확인할 수 있다.
정용환 기자
이석원 기자
