게임 실황 플랫폼 트위치(Twitch)가 괴롭힘 사례를 줄이기 위해 대처를 더 진행해 계정 BAN이나 차단을 하지 않게 괴롭힘이나 거칠기를 하는 사람을 기계학습으로 검출하는 툴(Suspicious User Detection)을 도입했다고 한다.
트위치는 차별적 댓글이나 다른 사람에게 괴롭히는 댓글을 게시하는 사용자를 차단할 수 있다. 하지만 아무리 차단해도 다른 계정을 준비하고 거칠고 행위를 꾸준히 계속하는 사람도 존재한다. 이 툴이 지원하는 기계학습 모델은 사용자 행동이나 계정 특징 등을 평가하고 이 정보를 스트리머 채널에서 금지된 계정 데이터와 비교해 이미 차단된 것과 같은 인물일 가능성을 검증한다.
잠재 고객이 될 가능성이 높다고 판단한 사용자 메시지는 채팅에 전송되지 않았지만 게재자나 채널 관리 권한이 있는 운영자는 이를 볼 수 있다. 또 게재자와 운영자는 해당 사용자를 계속 모니터링할지 아니면 그 자리에서 차단할지 선택할 수 있다.
트위치는 기본적으로 이 툴을 켠다. 또 게재자나 사회자가 의심스러운 사용자를 수동 선택하고 모니터링할 수 있다. 트위치 측은 이 도구는 커뮤니티에서 전해진 차단 회피자를 다루는 더 좋은 방법이 필요하다는 의견에 크게 영감을 받았다고 밝히고 있다. 또 채널 규칙을 위반하는 댓글 사용자가 성가신 괴롭힘을 반복하고 있는지 아니면 채널 규칙을 모르는 새로운 시청자인지 알 수 있다는 의견이 있었기 때문에 이 툴을 설계했으며 제작자와 채널 운영자는 채널 내에서보다 효율적이고 충분한 정보를 기반으로 결정할 수 있다고 밝혔다.
또 배달자는 채팅에 참가하는 사용자에게 전화번호나 이메일 주소를 사용한 인증을 요구하는 게 가능해 이 기능을 툴과 조합하면 눈에 남는 성가신 사용자와 새로운 시청자 차이가 더 이해하기 쉽다. 하지만 보도에선 의심스러운 사용자 탐지가 실제로 어느 정도 효과를 발휘하는지 그리고 차단을 피하고 채널을 계속 망가뜨리는 사람이 툴을 피하는 방법을 찾을 가능성도 충분히 생각할 수 있다는 지적을 하기도 한다. 관련 내용은 이곳에서 확인할 수 있다.