미국 민주당 의원들이 페이스북과 트위터, 유튜브 등 주요 소셜미디어에 대해 사용자에게 추천 알고리즘이 과격한 사상과 음모론 확산을 촉진하게 않도록 바꾸라고 촉구했다.
의원 수십 명이 서명한 이 편지는 온라인에 가짜 정보를 담은 나쁜 콘텐츠를 삭제하는 것만으로는 해결할 수 없다면서 이는 주요 설계 문제이며 플랫폼을 채용하는 관심 증폭과 권장 시스템은 진실 여부보다 사용자에게 자극적 내용인지 여부를 우선시해 확산시키고 있다고 지적했다.
또 소셜미디어 플랫폼 알고리즘은 화면에 서로를 유지하기 위해 기피하기 싫은 정보와 두려워하는 정보를 더 무섭게 느끼게 정보를 끊임없이 제공하도록 만들어져 있으며 그 결과 사람들은 백인우월주의, 반유대주의, 반정부주의자 등에게 홍보하고 추천하도록 되어 있으며 이 중 일부가 미 의회 습격에 참가했다고 밝히고 있다.
유튜브는 음모론이나 과격한 정보가 포함된 콘텐츠 확산 역할을 하는 것처럼 강하게 비판되고 있다. 민주당은 순다르 피차이 구글 CEO, 수잔 보이치키 유튜브 CEO에게 보낸 문서에서 기본적으로 재생 설정을 해제하고 사용자 페이지에서 음모를 꾸미는 정보 문서 권장을 그만 둬야 한다고 밝혔다. 자동화 프로세스에 의한 단속이 어려운 경우에는 효과가 있는 솔루션이 개발되기 전까지 이런 권장사항을 중지해야 하며 알고리즘에 의한 정보 정렬과 추천 기초 정보로 사용자 참여를 극대화하는 근본적인 사고방식을 재검토할 필요가 있다고 주장하고 있다.
또 페이스북이나 트위터에 보낸 비슷한 편지에도 유해 콘텐츠 확산을 제한하기 위한 플랫폼이 추천 시스템에 영구적 변경을 요구하고 있다. 한편 페이스북은 총선 전부터 폭력을 선동하는 악의적 표현이 고조되기 시작한 그룹 관리자에게 게시물을 검토하거나 승인을 요구하는 등 추가 조치를 실시하고 있다고 밝혔다. 트위터는 해당 내용에 대한 의견을 준비 중이라고 한다.
지난 1월 6일 발생한 미 의회에서 벌어진 난동 전에 큐어넌이나 기타 음모론, 트럼프 전 대통령이 선거 부정으로 대통령직을 빼앗겼다는 주장이 널리 퍼졌다. 특히 폭력을 선동하는 글이 많이 보인 플랫폼 중 하나인 펄러(Perler)는 애플과 구글 앱스토어에서 삭제되고 아마존 호스팅 서비스에서도 퇴출된 바 있다.
펄러는 현재 재개 준비를 진행하고 있지만 연방하원 개혁위원회 위원장은 FBI 측에 의회 습격에서 펄러가 맡은 역할을 조사하라고 요청한 바 있다. 이전부터 소셜미디어에선 사용자 취미나 기호를 분석해 초점을 맞춘 콘텐츠나 광고를 권장하는 방식이 강화되어 왔다. 이는 광고에서 수익을 얻는 서비스에선 수익을 극대화하기 위한 기능 강화지만 예를 들어 사상적으로 순진한 사람이 소셜미디어에서 큐어넌이나 음모론에 관심을 갖게 되면 알고리즘이 이와 관련한 정보를 제공해버리는 일도 생길 수 있다.
인터넷에 떠도는 잡다한 정보는 사실 확인이 안 되는 게 많다는 걸 인식할 필요가 있으며 눈앞에 보이는 정보를 그대로 믿는 게 아니라 다른 의견이나 생각을 참고해서 판단하는 활동이 더 필요해질지 모른다. 관련 내용은 이곳에서 확인할 수 있다.