페이스북이나 트위터 같은 SNS는 차별적 게시물이나 선동적 게시물을 줄이기 위해 노력하고 있다. 하지만 페이스북에 대해선 페이스북에 증오물이 학살을 초래하고 있다거나 페이스북이 증오물 확산 방지에 실패하고 있다는 지적이 많다. 이런 가운데 새롭게 페이스북 내부 문서에서 페이스북이 자사 서비스가 인도에서 종교적 증오를 증대시키고 있다는 걸 인식하고 있던 것으로 판명됐다.
인도는 2019년 이민 국적을 주는 법 개정이 이뤄지면서 대규모 시위가 전개됐다. 페이스북 내부 문건에 따르면 시위가 활발했던 2019년 12월 페이스북에 선동적인 글이 평소보다 3배까지 증가하고 있었다는 것. 또 53명이 사망한 델리에서 폭동이 발생한 2020년 2월말 페이스북과 왓츠앱에서 폭력을 선동하는 게시물이 증가하고 있던 게 내부 문서에 기록되어 있었다.
선동적 게시물은 무슬림 배척을 목적으로 하고 있으며 코로나19 감염 확산은 무슬림 소행이라거나 이슬람교는 힌두교를 대상으로 한다는 질문을 포함하고 있다. 내부 문건에 따르면 페이스북은 자사 서비스가 종교적 증오 증가에 영향을 미치는지 조사하기 위해 인도에 조사팀을 파견해 페이스북 사용자 수십 명에 대한 청취 조사를 실시했다.
조사 보고서에는 델리에 사는 힌두교 남성이 페이스북이나 왓츠앱에서 힌두교는 위험에 노출되어 있다며 무슬림이 우리를 죽이려 한다는 위험한 메시지를 자주 받고 있다고 말했다거나 많은 사용자가 선동적 콘텐츠를 줄이는 건 페이스북 책임이라고 생각하고 있던 게 기록되어 있다. 이런 내부 문서 설명에서 페이스북은 자사 서비스가 분쟁, 증오, 폭력을 조장하는 대량 콘텐츠를 생산하고 있었다는 걸 알고 있었다고 지적하고 있다.
또 같은 의견을 가진 사용자끼리 모이는 페이스북 그룹에는 이슬람을 돼지나 개와 나란히 배치한 게시물이나 코란은 남성은 여성을 강간하도록 요구하고 있다는 잘못된 주장이 많이 모여 있었다고 한다. 하지만 해당 그룹은 정치적으로 신중한 대응이 필요하다는 이유로 활동 정치 조치를 받지 않은 것도 판명됐다. 또 인도 내 증오 연설 대책이 진행되지 않는 요인은 힌디어와 벵골어를 인식하는 기술 시스템이 부족하기 때문이라는 보고서도 존재하고 있는 등 페이스북에 의한 증오물 대책 지연이 밝혀지고 있다.
페이스북 측은 이번 문건은 조사 보고서이며 페이스북의 기업적 입장을 나타내는 건 아니라고 주장하고 있다. 또 페이스북에 힌디어와 벵골어 등 인도에서 사용하는 5개 언어를 지원하는 시스템이 있고 개선을 위해 노력하고 있다고 덧붙였다.
페이스북은 또 2021년 10월 23일 위험 국가에서 안전한 온라인 환경을 유지하기 위한 접근(Our Approach to Maintaining a Safe Online Environment in Countries at Risk)이라는 제목 성명을 발표하고 인도, 미얀마, 에티오피아 등 위험이 높은 국가에서 선동적 콘텐츠 확산 방지에 주력할 것을 표명했다. 또 2021년 10월 24일 설명을 업데이트하고 힌디어, 벵골어, 타밀어, 우루드어, 암하라어, 오로모어, 버마어 등 헤이트스피치 검새 강화에 종사하는 기술을 추가했다. 관련 내용은 이곳에서 확인할 수 있다.