2022년 1월 유튜브가 오정보 온상이 되고 있는 80여 개 팩트체크 단체로부터 항의를 받은 유튜브가 오류 확산 방지를 위한 새로운 대처를 발표하고 있다.
유튜브는 지난 5년간 4가지 책임(The Four Rs of Responsibility)으로 불리는 프레임워크에 많은 투자를 해왔다. 헤이트 스피치 등 부적절한 콘텐츠를 삭제(Remove), 저감(Reduce)하고 신뢰할 수 있는 콘텐츠를 향상(Raise), 장려(Reward)한다는 대처를 뜻한다. 이 프레임워크를 기반으로 2019년에는 3개월 만에 10만 개 이상 동영상과 1만 7,000개 채널이 삭제됐다.
여기에선 기계학습과 인간 조합을 활용해 유튜브 정책을 위반한 콘텐츠를 빠르게 삭제하고 신뢰할 수 있는 소스를 만들고 문제가 있는 콘텐츠 확산을 방지하는 활동을 하고 있다. 이로 인해 유튜브에서 표현의 자유가 유지되면서 부적절한 콘텐츠를 눈에 띄지 않도록 억제하는 게 가능해지고 있다. 그래도 최근에는 코로나19 관련 오보나 다양한 오정보가 나돌고 있기 때문에 유튜브 측은 이런 접근을 더 진화시킬 필요가 있다고 밝히고 있다.
유튜브가 새롭게 노력하는 3가지 과제는 첫째 오보가 확산됙 전에 검출하는 것, 둘째 크로스 플랫폼 문제, 오보 확산에의 대응, 셋째는 전 세계 각지에서 오보에 대한 대처를 강화하는 것이다.
먼저 오보가 확산되기 전에 검출하는 것. 지금까지는 달 착륙에 관한 음모론이나 지구 평면설 등 비교적 예전부터 유포되던 어느 정도 콘텐츠가 갖춰진 상태에 있어 오정보에 대응하기 좋았고 콘텐츠 아카이브를 구축해 이와 일치하는 걸 삭제하는 형태로 간단하게 오정보 확산을 방지할 수 있었다.
하지만 최근에는 완전히 새로운 오정보가 확산되고 일례가 코로나19 유행은 5G가 원인이라는 것이다. 코로나19 관련 오정보의 경우 유튜브는 가이드라인을 업데이트하고 이런 종류 콘텐츠를 정책 위반으로 대응했다.
하지만 미래에 등장할 새로운 오정보에 대응하기 위해선 현재 시스템만으로 충분하지 않기 때문에 유튜브는 최신 데이터에 대한 지속적 교육을 시스템에 적용하고 있다고 밝혔다. 구체적으론 분류자, 추가 언어에 의한 키워드, 지역 분석에서 얻은 정보 등을 조합해 활용, 메인 분류자에선 검출할 수 없는 콘텐츠를 검출할 수 있도록 하는 걸 목표로 하고 있다.
이런 오보 확산 방지 대책 외에도 유튜브는 검색 결과에 신뢰할 수 있는 콘텐츠를 표시해 사용자를 오보 등으로부터 보호할 걸 고려하고 있다. 하지만 특정 주제의 경우 신뢰할 수 있는 콘텐츠가 부족한 경우도 있다. 따라서 자연재해 등 주요 뉴스 관련 검색 결과에는 텍스트 기반 기사를 추천 표시해 신뢰할 수 있는 콘텐츠를 제공할 예정이라고 한다.
또 틈새 주제의 경우 시청자에게 사실 확인을 표시해 사용자가 신뢰할 수 있는 콘텐츠인지 여부를 쉽게 확인할 수 있다. 하지만 모든 주제를 사실 확인하는 건 어렵기 때문에 신뢰할 수 있는 콘텐츠인지 여부를 판단하기가 어려운 경우 경고 문장이 표시된다.
둘째는 크로스 플랫폼 문제, 오보 확산 대응. 추가 문제는 유튜브에 올라온오정보를 포함한 동영상을 유튜브 이외 플랫폼으로 확산하는 문제에 대한 접근이다. 그 중에서도 삭제에 관한 정책을 위반하고 있지 않지만 타인에게 추천해선 안 되는 콘텐츠와 같은 이른바 그레이존에 있는 콘텐츠 대처법이 큰 과제가 되고 있다는 것. 이런 유형 콘텐츠를 테두리 콘텐츠라고 하지만 유튜브는 추천 시스템에선 테두리 콘텐츠가 표시되는 비율을 1% 미만으로 줄이려고 한다.
그 밖에 테두리상 콘텐츠 대처법으로는 공유 버튼을 무효로 하는 것이나 영상 링크를 삭제하는 것 등을 들 수 있다. 다만 이를 실행해 버리면 시청자 자유를 제한해 버리기 때문에 유튜브는 지나치게 대응하고 있지 않은지 신중하게 검토하면서 대응을 진행시키고 있다고 한다.
또 연구 논문이나 보도 등으로 경계선상 콘텐츠가 다뤄지는 경우도 있고 유튜브는 이런 민감한 논란의 장을 확보하는 것도 중요하다며 일부 콘텐츠를 예외적으로 다루는 것도 고려하고 있다. 더구나 경계상 콘텐츠가 재생될 때 경고문을 표시하는 것으로 시청자 측에 잘못된 정보를 포함하는 것일 가능성을 시사하는 대처도 검토되고 있다.
셋째는 전 세계 각지에서 오보에 대한 대처 강화. 예를 들어 영국에선 BBC와 같은 공공 방송은 신뢰할 수 있는 출처로 취급되지만 다른 지역에선 공공 방송이 정부 목소리에 기반한 신뢰할 수 없는 정보로 취급되기도 한다. 또 미디어 보도에 대해 엄격한 사실 검사를 실시하는 국가도 있고 감시나 검증이 거의 없는 국가도 존재한다.
유튜브는 이런 지역별 다양성에 대응하면서 뭐가 잘못됐고 뭐가 올바른 정보인지를 결정하기 위해 전 세계 전문가, 비정부 조직과의 파트너십에 대한 추가 투자를 고려 중이다. 오보가 확산되기 전 검출하는 것 대처에서 열거된 콘텐츠 검출 시스템에 로컬 언어를 지원해 지역마다 오정보를 검출하기 위한 모델 구축에 임해 나갈 예정이다. 관련 내용은 이곳에서 확인할 수 있다.