인기 게임인 콜오브듀티(Call of Duty) 음성 채팅에서 폭언을 한 플레이어에게 플래그를 세우고 규제를 시도하는 중재 시스템이 도입된다. 검출 이후 곧바로 차단되지는 않지만 헤이트 스피치나 차별 용어를 발하는 플레이어를 실시간으로 특정할 수 있게 된다고 한다. 먼저 영어를 대상으로 규제가 시작된다.
새로운 시스템에선 모듈레이트(Modulate)가 개발한 게임 전용 AI 음성 채팅 모델링 기술인 톡스모드(ToxMod)를 이용하고 잇다. 톡스모드는 헤이트 스피치나 차별 용어, 괴롭힘 등을 포함한 유해한 언어를 검출해 뉘앙스에서 미묘한 차이를 구별하는 것도 가능하다. 더구나 플레이러를 장기적으로 추적하고 단순히 흥분하고 무심코 폭언을 유출했을 뿐인지 혹은 폭언을 계속 말하는 독특한 사람인지를 추측하는 기술도 도입되고 있다.
톡스모드를 콜오브듀티에 도입하는 것에 대해 판매사인 액티비전은 검출은 AI에 의해 실시간으로 이뤄지지만 대처는 곧바로 이뤄지는 건 아니라고 설명하고 있다며 구체적으로 시스템이 행동규범에 따라 폭언을 검출하면 플래그를 세우고 이를 인간 중재자가 확인하고 위반이 있으면 대처하는 형태다. 강제 집행을 하기 전에 관련 녹화 리뷰가 이뤄지는 경우도 있다고 한다.
헤이트 스피치 등은 용인되지 않지만 친구끼리 잡담이나 농담 등은 놓칠 수 있다. 또 자신의 목소리를 관리하고 싶지 않은 플레이어는 설정 메뉴에서 게임 내 음성 채팅을 비활성화하도록 안내되어 있다.
현재 지원 언어는 영어 뿐이다. 먼저 북미권 시리즈(Call of Duty: Modern Warfare II, Call of Duty: Warzone)에서 베타 버전을 전개하고 2023년 11월 10일 출시하는 시리즈(Call of Duty: Modern Warfare III)를 시작으로 아시아를 뺀 전 세계에서 중재 시스템을 도입할 예정이다. 추후 영어 이외 언어가 추가될 예정이다.
액티비전은 모던 워페어 II 출시 이후 콜오브듀티 중재팀은 100만 개 이상 계정을 제한해왔다. 새로운 기술을 활용하고 중요한 파트너십을 구축하고 대책 방법을 진화시키는 건 지속적인 노력의 열쇠가 될 것이라고 밝히고 있다. 관련 내용은 이곳에서 확인할 수 있다.