잠재 고객에게 오해를 주고 심각한 피해를 입힐 수 있다며 유튜브가 AI를 이용해 제작한 영상이라는 걸 분명하게 표시할 의무를 부여할 방침을 밝혔다. 이에 따라 앞으로 영상 플레이어 설명란을 보면 AI 생성물이라는 걸 알 수 있다.
크리에이터는 AI를 이용한 영상 생성이라는 새로운 창작 가능성을 손에 넣었지만 한편으로 시청자가 오해를 초래하는 콘텐츠가 생성될 위험성도 밝혀졌다. AI 생성이라는 걸 명시해 작품을 공개하는 경우에는 문제가 없지만 콘텐츠 내에 AI로 변경을 가한 부분이 있거나 전체가 AI 생성이라도 시청자는 눈치채지 못하는 문제가 발생할 수 있다.
이 때문에 유튜브는 앞으로 몇 개월에 걸쳐 AI 도구를 이용한 영상을 시청하고 있을 때 이 영상은 합성이라는 걸 시청자에게 전달하는 업데이트를 실시해 나갈 예정이라고 한다.
구체적으론 영상을 올릴 때 변경 소재, 합성 소재가 사용되고 있다는 새로운 옵션이 추가되고 크리에이터에 AI 생성 등을 이용해 변경을 가한 콘텐츠에 대해선 AI 사용이라는 정보 공개가 의무화된다. 이에 따라 실제로 발생하는 게 아닌 사건을 리얼하게 묘사한 영상이나 누군가가 사실은 하고 있지 않은 언동을 한 것처럼 묘사한 영상을 구별할 수 있게 된다.
설명란에 이 콘텐츠는 어떻게 만들어졌는가(How this content was made)에 대한 항목이 추가되고 소리나 영상은 변경, 생성된 것(Sound or visuals were altered or generated digitally)이라는 주의가 표시된다. 영상 플레이어에도 마찬가지로 주의 사항이 표시된다.
정보를 공개하지 않기로 선택하면 영상 삭제, 유튜브 파트너 프로그램 정지 또는 기타 처벌 대상이 될 수 있다. 라벨링만으로는 위험을 줄일 수 없기 때문에 영상 콘텐츠가 커뮤니티 가이드를 위반하는 건 라벨 유무에 관계없이 삭제된다.
이에 맞춰 얼굴이나 목소리르르 포함한 특정 가능한 개인을 모방한 AI 생성 영상, 변경된 영상 삭제 요청 시스템이 도입된다. 덧붙여 삭제 의뢰가 있던 영상에 대해선 내용이 패러디나 풍자가 아닌지, 개인을 특정 가능한지 공무원이나 저명인이 등장하는지 등 관점에서 체크가 이뤄진다.
유튜브는 좋아하는 아티스트 목소리를 이용한 영상을 만들 수 있는 AI 도구를 위해 음악 레이블과 협의하고 있으며 아티스트 목소리를 사용한 음악 콘텐츠 삭제를 의뢰할 수 있는 기능도 준비되어 있다고 한다. 관련 내용은 이곳에서 확인할 수 있다.