메타가 NCMEC와 공동으로 19세 미만일 때 촬영한 누드나 성적인 노골적 이미지나 동영상이 온라인으로 나돌고 있다면 이를 삭제 또는 확산을 막는데 도움을 주는 무료 서비스인 테이크잇다운(Take it Down)을 창설했다.
테이크잇다운은 청소년 성적 콘텐츠 확산을 방지하는데 도움이 되는 서비스다. 사용자가 18세 미만일 때 촬영한 콘텐츠를 절차에 따라 제출하면 테이크잇다운은 해당 콘텐츠에 특정 해시값을 할당하고 해시값을 바탕으로 온라인으로 확산된 콘텐츠와 대조하며 SNS 등 플랫폼과 협력해 콘텐츠 삭제 또는 확산 방지 절차를 수행한다.
현재 테이크잇다운과 협력하는 플랫폼은 페이스북과 인스타그램, 온리팬스, 유보, 폰허브 등이다. 이 플랫폼에서 해시값과 일치하는 이미지 또는 동영상이 감지되면 플랫폼은 콘텐츠 확산을 제한하는 조치를 취할 수 있다.
사용자가 제출한 콘텐츠는 기기에 남아 있으며 해시값만 목록에 추가되므로 콘텐츠를 직접 누군가가 확인할 수 없다. 테이크잇다운은 전 세계 누구나 무료로 이용할 수 있으며 현재 18세 이상이라도 18세 미만일 때 촬영한 콘텐츠를 소지하고 있는 경우에도 마찬가지로 사용할 수 있다.
메타는 친밀한 이미지 게시나 성적 행위 같은 젊은층을 착취하는 콘텐츠나 행동은 메타에서 허용되지 않는다며 상호 작용을 방지하기 위해 노력하고 있다고 밝혔다. 또 메타는 인스타그램에 의심스러운 성인이 10대와 교류하는 걸 어렵게 만드는 새로운 기능을 도입하고 있다. 이 기능을 이용하면 18세 이상 사용자 중 일부가 소식에 좋아요를 누른 사람 목록과 게정 팔로우, 팔로워 목록에서 18세 미만 사용자를 찾을 수 없다. 또 의심스러운 성인이 10대 계정을 팔로우하는 경우 해당 10대에게 인스타그램이 알림을 보내 팔로어를 확인하고 삭제하라는 메시지를 표시한다.
또 10대는 자신의 개인정보 보호 설정을 검토하고 제한하라는 알림을 받는다. 10대 소식에 누군가가 댓글을 달거나 10대를 다른 게시물에 태그하거나 멘션한 경우 또는 릴이나 가이드에 10대 콘텐츠가 포함된 경우 10대는 개인 정보 설정을 확인하는 알림을 받고 다른 사람과의 상호 작용을 중지하는 옥션이 제공된다.
메타는 부모를 위한 감시 도구와 10대가 나이에 따른 온라인 경험을 할 수 있게 하는 연령 확인 기술 등 자사 애플리케이션 전반에 걸쳐 10대와 가족 안전을 지원하는 30개 이상 도구를 개발했다며 또 친밀한 이미지를 촬영해 발생할 수 있는 피해나 이런 콘텐츠 확산을 막고 싶을 때 도움이 되는 다른 방법에 대해 10대에게 알리는 리소스를 제공하고 있다며 아이 안전을 지키는 대처에 대해 강조했다. 관련 내용은 이곳에서 확인할 수 있다.