메타, 新정책 위반 콘텐츠 삭제 시스템 발표

메타 콘텐츠 정책 담당 부사장인 모니카 비카트가 정책 위반 콘텐츠를 삭제하기 위한 새로운 시스템으로 페이스북 제일(Facebook Jail)을 발표했다. 페이스북 제일은 기존 패널티 시스템보다 공정하고 효과적인 걸 목표로 해 콘텐츠 삭제 이유를 사용자가 이해할 수 있도록 하는 것에 중점을 두고 있다.

메타는 전문가, 학자, 지도자와 변호사로 이뤄진 독립 기관인 오버사이트보드(Oversight Board)가 정책 위반 콘텐츠에 대한 패널티 시스템을 더 적절하게 만들 수 있도록 한다는 핃드백을 바탕으로 공정하고 효과적인 패널티 시스템으로 기존 시스템을 업데이트해 페이스북 제일을 발표한 것이다.

오버사이트보드는 이전부터 페이스북 패널티 시스템에 대해 우려를 표명했으며 불균형하고 불투명하다고 지적해왔다. 오버사이트보드는 페이스북에 패널티 시스템에서 처벌을 준 사용자에게 투명성을 높이도록 조언하고 사용자가 메타 결정에 이의를 제기할 때 위반 게시물 컨텍스트를 설명할 수 있도록 해야 한다고 밝혔다.

이런 의견을 바탕으로 업데이트된 페이스북 제일은 사용자 게시 능력을 제한하는 것보다 콘텐츠 삭제 배경 이유를 자세하게 설명하는데 중점을 둔다. 새로운 시스템에선 대부분 7회 정책 위반이 발생하면 콘텐츠 게시물을 30일간 올릴 수 없게 되는 사용자 게시 능력을 제한하는 벌칙이 적용된다.

비카트 부사장은 페이스북 제일에 대해 이는 자사가 항상 올바른 판단을 내릴 수는 없다는 걸 알고 있기 때문이라며 자기 표현 능력을 제한하는 걸 방지하고 정책을 위반하는 사람에게 빠르고 지속적이며 영향력 있는 조치를 취할 수 있다고 밝혔다.

페이스북 제일에선 정책 위반 콘텐츠 삭제에 관한 의사 결정 프로세스는 지금까지 아무것도 바뀌지 않았다고 한다. 하지만 정책 위반이 발생한 경우 사용자에게 정책을 설명하면 의사 결정에 대한 투명성이 향상된다. 지금까지 메타 플랫폼 사용자는 자신의 콘텐츠가 뭘 잘못했기 때문에 삭제됐는지 이해하지 못했다는 설명이다. 그 중에는 갑자기 투고를 할 수 없게 될 때까지 자신이 패널티를 받은 걸 깨닫지 못한 사용자도 있었다고 한다. 메타가 전통적인 패널티 시스템을 분석한 결과 스트라이크 횟수가 적은 사용자 거의 80%가 스트라이크를 받은지 60일간 정책을 다시 위반하지 않은 것으로 나타났다. 따라서 메타는 7회 이상 스트라이크를 받은 사용자에게 더 엄격한 벌칙을 적용하고 악의적 인물을 제거하면서 선의가 있는 사람에게 필요한 지침을 주는 걸 목표로 한다.

메타는 또 테러리즘과 아동 착취, 인신매매, 자살 촉진, 성적 착취, 비의약 약물 판매 또는 위험한 개인이나 조직 홍보를 포함한 게시물에는 계정 삭제를 포함한 즉각적 조치를 실시하고 있다. 보도에선 메타의 페이스북 제일은 몇 년에 걸친 사용자에 의한 항의와 외부로부터의 압력에 대한 결과라고 지적한다. 미국에선 공화당 의원이 페이스북과 구글, 트위터 같은 기술 기업이 보수적 검열을 하고 있다고 오랫동안 주장하고 있으며 최근에는 개별 결정에 대한 자세한 설명을 하라고 기술 기업에 요구해왔다. 덧붙여 오버사이트보드는 메타의 새로운 페이스북 제일을 칭찬하고 있지만 중대한 스트라이크에 대한 투명성에 대해선 개선의 여지가 있다고 지적하고 있다. 관련 내용은 이곳에서 확인할 수 있다.