인스타그램 알고리즘, 아이 성적 콘텐츠 판매망 추천?

인스타그램이 아이 성적 콘텐츠를 판매하는 계정으로 이어지는 소아성애자 네트워크를 확대한다는 조사 결과가 나왔다.

일부 소아성애자는 SNS가 등장하기 이전부터 불법 성적 콘텐츠를 인터넷에서 판매, 공유해왔다. 하지만 일부만 액세스하는 파일 전송 서비스나 포럼과 달리 흥미나 관심도에 근거한 콘텐츠나 사용자 추천 시스템이 존재하는 SNS는 잠재적 사용자가 소아성애자 네트워크에 연결되는 걸 촉진할 수 있다.

기술적, 법적 장벽으로 인해 기업 외부에서 SNS상 네트워크를 연구하는 건 어렵지만 스탠포드대학 인터넷 관측소 등이 불법 소아성애 콘텐츠를 홍보하는 대규모 커뮤니티를 파악하는데 성공했다.

연구팀은 인스타그램에서 노골적 해시태그를 검색해 아이 성적 콘텐츠를 판매하는 계정을 찾을 수 있었다고 보고하고 있다. 연구용으로 작성한 테스트 계정에서 소아성애자 네트워크에 포함된 계정 중 하나를 열람하면 미성년자 성적 콘텐츠를 판매, 구매하는 계정이 추천으로 표시됐다고 한다.

실제로 아동 착취 위험성에 대해 인스타그램에서 활동하는 사라 아담스는 팔로어로부터 유아 근친상간이라는 용어를 사용하는 의심 계정에 대해 보고받고 해당 계정에 액세스했다고 한다. 며칠 뒤 그의 부모님으로부터 인스타그램 프로필을 봤는데 이 태그가 추천란에 표시되어 있다는 보고를 받았다고 한다.

소아성애자에게 성적 콘텐츠를 판매하는 계정을 종종 아이가 스스로 성적 콘텐츠를 만드는 것이라고 주장하며 성적인 단어를 통합한 명칭을 사용한다. SNS에 올리는 건 성적 콘테츠 메뉴인 게 보통이며 외부 거래 사이트로 유도해 콘텐츠를 매매하고 있다고 한다.

연구팀은 관련 해시태그를 이용해 자신이 생성한 것으로 표시되거나 자녀가 운영 중이라고 주장하는 405개 성적 콘텐츠 판매 계정을 발견했다. 이런 판매 계정 중 112개는 2만 2,000명 팔로어를 보유하고 있엇다고 한다.

연구팀은 플랫폼이 명확한 성적 학대 콘텐츠를 제어하려면 지속적 노력이 필요하다고 지적한다. 액세스가 제한된 연구팀이 이렇게 거대한 네트워크를 발견할 수 있었던 건 메타에게도 경종을 울릴 것이라며 메타가 소아성애자 네트워크 적발에 투자를 해야 한다는 지적이다.

메타 측은 집행 문제를 인정하고 내부 태스크포스를 설치했다면서 아동 착취는 무서운 범죄이며 이런 행동을 적극적으로 막을 방법에 대해 지속적으로 조사 중이라고 밝혔다. 또 메타는 지난 2년간 27개 소아성애자 네트워크를 중단시켰으며 어린이를 성적으로 취급하는 해시태그 블록과 성적 콘텐츠로 이어지는 용어를 찾는 게 좋다고 밝히고 있다. 인스타그램 내부 통계에 따르면 사용자가 아동 착취와 관련된 콘텐츠를 보는 빈도는 1만 건에 1건 미만이라고 한다. 하지만 다른 SNS에 비해 인스타그램은 소아성애자 네트워크에 중시된다는 지적이다.

연구팀 설문 조사에선 트위터는 아동 성적 콘텐츠를 판매하는데 어려움을 겪는 계정을 128개 찾았는데 이는 인스타그램에서 발견된 수 중 3분의 1 미만이었다. 또 트위터에선 이런 계정이 다른 사용자에게 추천하기 어렵고 계정 삭제도 빠르다고 한다.

청소년에게 인기 있는 플랫폼 중에서도 스냅챗은 주로 직접 메시징에 사용해 소아성애자 네트워크 구축에 도움이 되지 않는다. 또 틱톡에선 미성년자 성적 콘텐츠가 급증하지 않는다는 보고다. 관련 내용은 이곳에서 확인할 수 있다.