이원영 기자
메타가 사진이나 동영상 속 여성을 누드로 만드는 이른바 누드화 앱인 크러시AI(CrushAI)를 개발하는 조이 타임라인(Joy Timeline)을 제소한다고 발표했다. 크러시AI는 메타 플랫폼에서 광고를 게재하고 있었으며 사용자 트래픽 90%를 메타를 통해 확보했던 것으로 알려졌다.
인터넷상에서는 AI를 활용해 동의 없이 가짜 누드 이미지나 성적으로 노골적인 이미지를 생성하는 이른바 누드화 앱 증가가 우려되고 있다. 메타는 오랫동안 동의 없는 성적 이미지에 대한 규칙을 마련해왔으며 1년 이상 전 이런 정책을 업데이트해 누드화 앱이나 유사 서비스 홍보를 일절 허용하지 않는다는 점을 명확히 했다.
메타는 누드화 앱이나 유사 서비스 홍보를 인식할 경우 해당 광고·페이스북 페이지·인스타그램 계정을 삭제하고 메타 플랫폼에서 접근할 수 없도록 이런 서비스를 홍보하는 웹사이트로의 링크를 차단한다. 또 페이스북이나 인스타그램에서 누드화, 탈의, 의복 제거 같은 검색어를 제한해 검색 결과가 표시되지 않도록 하고 있다고 밝혔다.
하지만 메타 플랫폼에서 수백 건에 이르는 누드화 앱 홍보 광고가 발견됐다는 조사 결과가 보도됐다. 이에 따르면 누드화 앱 광고는 주로 미국, 영국, 유럽연합(EU) 가맹국에 거주하는 18~65세 남성을 겨냥한 것이었다고 한다.
이 보도를 받아 메타가 누드화 앱 중 하나인 크러시AI를 운영하는 조이 타임라인을 제소한다고 발표했다. 크러시AI는 AI가 개인의 동의 없이 누드 이미지나 성적으로 노골적인 이미지를 생성할 수 있다는 것. 메타는 조이 타임라인을 이 회사 거점인 홍콩에서 고소할 예정이며 메타는 이미 자사 플랫폼에서 게재됐던 크러시AI 광고를 차단했다.
메타에 따르면 조이 타임라인은 메타의 광고 심사 프로세스를 우회하고 규칙 위반으로 반복적으로 삭제된 뒤에도 광고를 계속 게재하려고 시도했다고 한다.
메타는 조이 타임라인에 대한 법적 조치에 대해 이번 소송은 우리가 누드화 앱에 의한 부정행위를 얼마나 심각하게 받아들이고 있는지, 커뮤니티를 이러한 부정행위로부터 보호하기 위해 전력을 다한다는 자사 결의를 다시 한번 보여주는 것이라고 밝혔다. 이어 자사는 앞으로도 이런 형태로 자사 플랫폼을 악용하는 자에 대해 법적 조치를 포함한 필요한 조치를 취해 나갈 것이라고 언급했다.
메타는 크러시AI 같은 누드화 앱을 홍보하는 광고, 계정, 콘텐츠를 삭제할 때 위반 앱이나 웹사이트로의 URL을 비롯한 정보를 테크 코얼리션(Tech Coalition)의 랜턴(Lantern) 프로그램을 통해 다른 기술 기업과 공유해 메타 이외 조직·단체도 조사 및 대책을 강구할 수 있도록 지원한다.
메타는 이 정보 공유를 지난 3월 말부터 시작했으며 지금까지 3,800건 이상 URL을 공유했다고 한다. 메타는 아동 안전을 침해하는 행위에 관한 경고를 다른 기업과 공유하고 있으며 이는 이런 노력에서 중요한 연속선상에 있다고 보고했다.
메타는 또 크러시AI 같은 메타 이용약관을 위반하는 앱을 플랫폼에서 배제하기 위해 누드가 포함되지 않은 광고라도 이런 종류의 광고를 식별할 수 있도록 특별히 설계된 새로운 기술을 개발하거나 매칭 기술을 활용해 모방 광고를 더 빠르게 발견·삭제할 수 있도록 하고 있다고 밝혔다.
또 부정한 활동을 하는 조직적 네트워크를 저지하기 위해 사용하는 전술을 적용해 이런 광고를 운영하는 계정 네트워크를 특정·삭제하고 있다. 2025년 초부터 메타 전문팀은 철저한 조사를 실시해 이런 서비스를 홍보하는 광고를 게재하려 했던 4개 계정 네트워크를 특정·차단했다고 한다.
한편 누드화 앱 광고가 인스타그램에 게재되고 있다는 사실은 2024년 4월 보도된 바 있다. 이 보도에 따라 애플과 구글은 앱스토어에서 해당 앱을 삭제했다. 관련 내용은 이곳에서 확인할 수 있다.
정용환 기자
이석원 기자
