“틱톡 알고리즘, 혐오 발언 확산시키고 있다”

홀로코스트를 부정하는 등 특정 프로파간다를 확산시키는 수백 개 계정이 틱톡에 만연하고 있으며 수천만 회 조회되고 있어 틱톡이 혐오 발언 확산에 대처할 능력이 없을 수 있다고 싱크탱크인 전략대화연구소가 문제를 제기했다.

전략대화연구소에 따르면 나치즘을 찬양하거나 백인 우월주의자에 의한 총기 난사 사건을 찬미하는 등 계정이 틱톡에 다수 존재하며 수천만 회 조회되고 있고 다른 사용자 신고를 받고도 계속 존재하고 있다고 한다. 콘텐츠 중에는 특정 음악이나 동영상을 사용해 주목을 끄는 것이나 검열될 만한 단어를 이모티콘으로 대체해 계정 정지를 피하려는 것도 있었다고 전략대화연구소는 보고했다.

전략대화연구소는 이런 콘텐츠 확산 배후에는 특정 의도를 가지고 프로파간다를 확산시키려는 조직이 있다고 보고 있다. 전략대화연구소가 조사한 어떤 조직은 틱톡은 엑스나 비트슈트(BitChute)보다 더 많은 시청자를 확보할 수 있다고 언급하며 틱톡을 자신들에게 유용한 플랫폼으로 인식하고 있는 것으로 보인다.

전략대화연구소는 틱톡은 문제가 있는 계정이나 콘텐츠를 개별적으로 삭제하고 있는 것 같지만 이런 계정은 서로 비슷한 것끼리 서로 팔로우하며 네트워크를 형성하고 있어서 하나를 없애도 또 다른 게 떠오른다며 틱톡은 친나치 혐오 발언이나 프로파간다를 조장하는 계정을 적절하고 빠르게 삭제하지 못하고 있다며 틱톡 알고리즘과 검열 시스템에 문제가 있다고 언급했다.

기술을 이용한 테러에 대항하는 기관인 GNET(Global Network on Extremism and Technology)에 따르면 틱톡 뿐 아니라 스팀(Steam) 같은 젊은이가 모이는 플랫폼에도 극단주의자가 손을 뻗치고 있어 앞으로는 모든 플랫폼에서 적절한 모더레이션이 필요해질 것이라고 한다. 관련 내용은 이곳에서 확인할 수 있다.