메타에 성인 콘텐츠를 테러 감시 목록에 등록했다?

성인 콘텐츠가 활발하게 공유되고 있는 SNS인 온리팬스(OnlyFans)가 인스타그램과 페이스북 운영사인 메타 직원에게 뇌물을 보내 온리팬스 이외 플랫폼에서 활동하는 성인 콘텐츠 크리에이터 2만 명 이상을 테러 감시 목록에 등록하자 크리에이터와 경쟁 플랫폼에서 집단 소송을 일으켰다.

2020년 이후 코로나19 유행으로 많은 사람이 집에서 오랜 시간을 보냈기 때문에 온라인 성인 콘텐츠 공유 플랫폼이 급성장했다. 그 중에서도 성장이 현저했던 게 온리팬스로 2022년 순이익은 2020년 5배에 달할 것으로 예측되고 있다.

온리팬스가 성장하면서 다른 플랫폼에서 활동하는 성인용 콘텐츠 제작자는 페이스북과 인스타그램은 자신의 콘텐츠를 적극 차단하지만 온리팬스에서 공유하는 콘텐츠는 열심히 차단한다며 불만을 토로했다. 이 건에 대해 크리에이터나 경쟁 플랫폼이 조사를 진행한 결과 온리팬스가 메타와 공모해 테러 감시 목록을 악용해 경쟁 플랫폼 크리에이터가 작성한 콘텐츠를 SNS로부터 배제하고 있었을 가능성이 부상했다고 한다.

이어 2022년 성인 콘텐츠 제작자와 온리팬스 경쟁 플랫폼이 온리팬스와 메타를 상대로 집단 소송을 제기했다. 소송에 따르면 온리팬스 이외 플랫폼에서 성인용 콘텐츠를 판매한 제작자는 인스타그램 계정이 테러리스트와 관련된 콘텐츠가 포함되어 있다고 잘못 태그를 붙여 비즈니스를 홍보하는 능력을 상실하고 수입이 크게 감소했다는 것.

온리팬스가 자신의 우위를 확립하기 위해 악용했다는 건 2017년 페이스북, 마이크로소프트, 트위터, 유튜브에 의해 설립된 GIFCT(Global Internet Forum to Counter Terrorism)다. GIFCT는 테러리스트와 관련한 영상과 이미지 해시를 데이터베이스화하고 각 플랫폼과 공유해 테러 관련 콘텐츠 확산 억제에 도움이 된다. 참여한 플랫폼 중 하나가 사용자가 게시한 이미지와 동영상에 테러 관련 톤텐츠라고 신고하면 해시가 다른 플랫폼에도 공유되는 구조다.

그런데 온리팬스 모기업인 페닉스인터내셔널(Fenix ​​International)은 2018년 메타 고위 임원에게 홍콩 자회사를 통해 뇌물을 보내 경쟁 플랫폼 크리에이터가 인스타그램에 게시한 콘텐츠에 잘못된 플래그를 붙여 GIFCT 목록에 등록하게 됐다는 주장이다. 일단 GIFCT에 등록되어 버리면 트위터나 유튜브 등 플랫폼에서도 콘텐츠가 금지될 가능성이 대폭 높아진다.

물론 이런 크리에이터는 테러와는 아무런 관련이 없지만 콘텐츠 삭제나 계정 정지에 의해 크리에이터 홍보 능력과 수입은 저하되고 경쟁 플랫폼 트래픽도 급격하게 감소해 버렸다고 한다.

원고 측 대리인은 원고의 블랙리스트로 온리팬스는 시장 점유율을 극적으로 확대하고 경쟁사는 정체 또는 쇠퇴했다며 경쟁 우위를 얻기 위해 테러리스트 블랙리스트를 악용했으며 피해를 입은 2만 1,000건 이상 인스타그램 계정 목록을 갖고 있다고 밝혔다. 또 클라이언트와 콘텐츠가 테러리스트용 데이터베이스에 정말 등록되어 있는지 또 어떻게 하면 등록 해제할 수 있는지 파악하기 위해 메타와 GIFCT에 대한 기록을 공개하고자 한다고 밝혔다.

메타는 소송 거부를 요구하는 주장에서 성인 콘텐츠를 적절한 방법으로 검열하는 건 헌법 수정 제1조와 통신 품위법에 의해 보호되고 있다고 주장하는 동시에 사용자를 인스타그램이나 페이스북에서 온리팬스를 쫓는 장점은 없다고 박히고 있다. 또 페닉스인터내셔널이 메타와 유사한 법률로 보호받을 권리가 있다고 주장하며 소송 거부를 요구하고 있다.

이런 주장에 대 변호단은 원고가 문제로 삼는 건 콘텐츠가 차단된 게 아니라 불공평한 비즈니스 관행과 테러 감시 리스트 악용이며 메타가 말하는 헌법 수정 제1조도 통신품위법도 적용되지 않는다고 반박했다.

한편 GIFCT 측은 콘텐츠 해시가 등록되어도 다른 플랫폼에서 자동으로 콘텐츠가 삭제되는 건 아니며 각 플랫폼은 테러 조직 종류나 콘텐츠 심각도 등을 독자 고려해 검열 대상이 될지 여부를 판단한다고 주장했다. 하지만 GIFCT 테러 감시 리스트는 보통 공개되지 않으며 해시 삭제나 이의 제기는 참여하는 플랫폼별 피드백 툴을 통해 실시할 수밖에 없다.

전자프론티어재단 측은 2020년 시점 GIFCT 데이터베이스 보급에 따라 어떤 동영상과 사진, 투고가 테러 콘텐츠로 잘못 분류되면 소셜미디어 플랫폼 전체적으로 파급되어 사용자 표현의 자유가 한 번에 여러 플랫폼에서 손상된다며 검열에 사용하는 단일 데이터베이스 존재에 위기감을 지적하기도 했다. 관련 내용은 이곳에서 확인할 수 있다.