유튜브 “AI로 스팸 댓글 단속해 위반자는 24시간 차단”

유튜브 동영상과 실시간 게재에는 시청자가 감상과 의견을 댓글로 달 수 있지만 가끔씩 욕설이나 거친 댓글이 나타난다. 이런 스팸 댓글을 AI가 감지하고 제거하기 위한 노력과 여러 악성 댓글을 남긴 사용자는 최대 24시간 댓글을 쓸 수 없는 새로운 기능을 유튜브가 발표했다.

유튜브는 댓글 경험을 개선하기 위해 노력하고 있다며 크게 3가지를 제시한다. 먼저 코멘트 스팸을 자동 검출하는 기계학습 모델 개선에 임해 2022년 상반기 사이 11억 건 이상 스팸 코멘트를 제거했다고 한다. 스팸을 게시하는 사람이 전술을 바꾸면서 기계학습 모델도 새로운 유형 스팸을 더 잘 감지할 수 있도록 지속적으로 개선됐다.

둘째는 실시간 전송의 실시간 코멘트란에 나타나는 봇 검출에 대해서도 봇을 배제하기 위한 개선이 진행되고 있다는 것. 유튜브는 라이브 채팅은 다른 사용자와 크리에이터와의 교류 장소이며 봇은 라이브 게재를 시청하는 경험에 부정적 영향을 미친다는 걸 알고 있다고 밝히고 있다.

마지막으로 이런 댓글과 봇 감지 기능을 이용해 커뮤니티 가이드를 위반하는 댓글을 탐지하고 삭제한 경우 해당 댓글을 게시한 사용자에게 경고를 표시하는 새로운 기능에 대해서도 알리고 있다. 이 경고를 무시하고 부정한 코멘트 투고를 계속하면 타임아웃이 발생해 최대 24시간 코멘트를 할 수 없게 된다는 것. 유튜브가 실시한 테스트에 따르면 이 경고 타임아웃을 사용자에게 실시해 사용자가 다시 위반성 코멘트를 남길 가능성이 낮아지는 걸 나타내고 있다고 한다.

악성 댓글을 탐지하고 경고하는 기능 목적은 댓글을 통해 커뮤니티에 악영향을 미치려는 사용자로부터 시청 경험과 크리에이터를 보호하는 동시에 정책 위반으로 인해 댓글이 삭제된 사용자에게 투명성을 부여해 유튜브에서 제공하는 커뮤니티 가이드를 이해할 수 있게 하는 것이다. 위반 코멘트 경고와 타임아웃은 영어로 입력된 코멘트에 대해서만 유효한 상태지만 몇 개월 안에 여러 언어 대응을 계획하고 있다고 한다. 관련 내용은 이곳에서 확인할 수 있다.