유튜브, 생성형AI 라벨 도구 배포한다

생성형 AI 발전으로 마치 진짜 같은 콘텐츠를 생성할 수 있게 된 지금은 일반 인터넷 사용자가 보고 있는 이미지나 동영상이 진짜인지 아니면 AI에 의해 생성된 콘텐츠인지를 구별하는 게 어려워졌다. 유튜브가 3월 18일 동영상 크리에이터가 생성형 AI로 만들어진 실제 같은 콘텐츠에 라벨을 붙이기 위한 도구를 배포했다.

생성형 AI는 크리에이터에게 강력한 작업 지원 도구가 될 가능성이 있지만 시청자가 생성형 AI로 만들어진 콘텐츠를 보고 진짜 영상이라고 오해할 위험도 내포하고 있다. 그 중에서도 미국에선 2024년 대통령 선거를 앞두고 실제 같은 AI 생성 콘텐츠가 사용자에게 미치는 영향을 완화하는 건 중요하다. 따라서 유튜브는 2023년 11월 AI 생성 동영상에 라벨을 붙이는 걸 크리에이터에게 의무화하는 방침을 밝혔다.

이어 올해 3월 18일 유튜브는 크리에이터를 위한 도구인 유튜브 스튜디오(YouTube Studio)에 생성형 AI로 만들어진 실제 같은 콘텐츠에 라벨을 붙이는 기능을 도입한다고 발표했다. 유튜브는 새로운 라벨은 시청자와의 투명성을 높이고 크리에이터와 시청자간 신뢰 관계 구축을 목표로 하고 있다고 밝혔다.

유튜브에 따르면 새로운 동영상 상세 설정 화면에 변경된 콘텐츠(Altered Content) 항목이 추가되고 실제 같은 콘텐츠 생성에 AI를 사용하면 예(Yes)에 체크를 넣는 게 크리에이터에게 의무화된다. 다만 보도에 따르면 유튜브 발표 이후 새로운 동영상을 올렸지만 라벨 추가 기능이 표시되지 않았다고 보고하고 있다.

유튜브는 생성형 AI를 사용했다는 라벨을 붙여야 하는 콘텐츠 예를 몇 가지 들었다. 먼저 실존하는 사람 초상을 사용하는 것. 콘텐츠를 디지털로 편집해 특정 개인 얼굴을 다른 얼굴로 바꾸거나 목소리를 합성해 동영상 나레이션을 생성하는 것이다. 다음으로 실제 이벤트나 장소를 편집하는 것. 실존 건물이 화재에 빠졌다는 것처럼 보이게 하거나 실제 도시 풍경을 바꿔 실제와 다른 인상을 주는 것이다. 다음은 실제와 같은 장면 생성. 토네이도가 실제 도시를 향해 이동하는 모습 등 가상 사건을 실제로 묘사한 걸 말한다.

한편 생성형 AI가 동영상 시나리오나 콘텐츠 아이디어, 자막 생성 등 생산성 향상을 위해 사용된 경우에는 생성형 AI 라벨 붙이기는 필요 없다. 유튜브 측은 크리에이터에게 생성형 AI를 사용해도 공개를 요구하지 않는 경우도 예를 들고 있다.

먼저 애니메이션이나 유니콘을 타고 판타지 세계를 달리는 인물 등 명백하게 비현실적인 콘텐츠. 다음으로 색조 조정 또는 조명 필터. 배경 흐림이나 빈티지 가공 같은 특수 효과, 미용 필터나 기타 시각 효과도 마찬가지다.

크리에이터가 생성형 AI를 사용했다고 라벨을 붙인 동영상에선 개요란에 변경되거나 합성된 콘텐츠(Altered or synthetic content)라는 라벨이 표시된다. 또 건강·뉴스·선거·금융 등 더 민감한 주제에 관련된 동영상에선 영상 자체에도 눈에 띄는 곳에 라벨이 표시된다.

유튜브는 앞으로 몇 주 안에 라벨을 배포할 예정이며 미래에는 생성형 AI 사용을 공개하지 않는 크리에이터에 대해 콘텐츠 삭제나 수익화 중단 같은 패널티를 부과하는 것도 검토하고 있다. 또 식별 가능한 개인 얼굴이나 목소리를 모방한 AI 생성 콘텐츠나 합성 콘텐츠 삭제 요청을 가능하게 하기 위해 개인정보 처리 절차 업데이트에 대해서도 노력하겠다는 설명이다. 관련 내용은 이곳에서 확인할 수 있다.