유튜브가 9월 5일 크리에이터 얼굴이나 목소리 등 초상권이 복제되어 다른 동영상에서 사용되는 걸 방지하기 위한 AI 탐지 도구를 발표했다. 유튜브에 따르면 회사는 유튜브 자동 콘텐츠 식별 시스템인 콘텐츠 ID(Content ID)를 사용해 크리에이터 노래 목소리를 기반으로 AI가 생성한 콘텐츠를 자동 탐지하고 관리할 수 있게 하는 합성 음성 식별 기술을 개발했다고 한다. 유튜브는 이 기능에 대해 파트너와 협력해 개선에 힘쓰고 있으며 2025년 초 파일럿 프로그램을 실시할 예정이라고 말했다. 또 크리에이터 동의 없이 생성된 딥페이크 콘텐츠를 탐지하고 관리하는 기술을 개발 중이라고 밝혔다. 콘텐츠 ID 도입으로 유튜브는 매년 신고 수십억 건을 처리하면서 아티스트와 크리에이터 작품 재사용을 통해 수십억 달러 규모 수익을 창출하고 있다고 한다. 유튜브는 이와 같은 수준 보호와 권한 부여를 AI가 부상하는 현대에도 가져오는 데 힘쓰고 있다고 말했다.
더불어 유튜브는 플랫폼상 콘텐츠를 스크래핑하는 게 이용 약관 위반임을 지적하며 스크래핑은 크리에이터 가치를 훼손한다고 인식하고 있다고 비판했다. 실제로 지난 4월에는 유튜브 닐 모한 CEO가 AI 훈련에 사용하기 위해 유튜브 동영상을 다운로드하는 건 규칙 위반에 해당한다고 주장했다.
유튜브는 유튜브 콘텐츠 스크래핑을 포함한 부정 접근을 탐지하고 차단하는 시스템에 대한 지속적인 투자를 포함해 이용 약관이 준수되도록 하는 조치를 계속 채택할 것이라고 말했다. 한편 생성형 AI 기술이 계속 진화하는 가운데 크리에이터가 제3자 기업과 협력해 AI 도구를 개발하고 싶어 할 가능성이 있음을 충분히 인식하고 있다. 그래서 유튜브 플랫폼 상에서 콘텐츠 사용 방법에 대해 크리에이터 측이 제3자 기업에 어떤 선택권을 줄 수 있는 새로운 방법을 개발하고 있다. 2024년 후반에는 더 많은 정보를 전달할 수 있을 것이라고 보고했다.
또 유튜브는 AI가 발전함에 따라 AI는 인간 창의성을 대체하는 게 아니라 오히려 강화되어야 한다고 생각한다며 자사는 파트너와 협력해 미래 발전이 크리에이터 입지를 높이는 걸 확실히 할 걸 약속하는 한편 AI에 관한 우려에 대처하고 함께 발전하기 위한 가드레일 개발에 힘쓸 것이라고 선언했다. 관련 내용은 이곳에서 확인할 수 있다.
한편 체중이나 외모 이상을 주장하는 동영상을 반복적으로 시청하면 해로울 수 있다는 전문가 경고에 따라 유튜브가 그런 동영상을 10대 사용자에게 추천 표시하지 않기로 발표했다.
유튜브는 10대 청소년들이 배우고, 열정을 탐구하며 자신을 표현하고 소속감을 느낄 수 있는 장소라며 유튜브가 청소년 삶에서 중요한 역할을 담당하고 있음을 인식하고 있다며 유튜브에 새로운 관리 기능을 도입할 것임을 밝혔다.
유튜브에 따르면 젊은 사용자와 보호자는 계정을 연결해 공유된 분석 정보와 알림을 받을 수 있게 될 것이라고 한다. 보호자는 자녀 유튜브 채널에서의 활동을 파악하고, 책임 있는 콘텐츠 제작을 지원할 수 있게 된다.
구체적으로는 패밀리 센터에서 계정 연결을 하면 보호자는 자녀 유튜브 채널 동영상 업로드 수, 구독자 수, 댓글 수를 확인할 수 있게 된다. 또 자녀가 동영상을 업로드하거나 라이브 방송을 시작할 때 보호자에게 알림이 도착하게 된다고 한다.
더불어 유튜브는 오랜 기간 동안 섭식 장애나 자살 조장에 대한 대책에서부터 새로운 개인정보 보호 및 웰빙 보호 도입에 이르기까지 청소년 사용자를 보호하기 위한 다양한 기능에 투자해 왔다며 최근에는 10대 청소년에게 반복적으로 시청하면 문제가 될 수 있는 콘텐츠를 포함한 동영상 추천을 제한하는 새로운 안전장치를 도입했다고 말했다.
예를 들어 코를 날씬해 보이게 하는 미용법을 소개하는 동영상이나 이상적인 외모를 추구하기 위한 운동을 소개하는 동영상 등 특정 외모나 체중을 이상화하는 콘텐츠는 10대 청소년이 이상과 동떨어진 자신을 인식하고 자기 부정에 빠질 가능성이 있다.
또 특정 외모나 체중을 이상화하는 건 그 외 신체적 외모를 비방하는 것으로 이어질 수 있다. 물론 특정 외모나 체중을 이상화하는 동영상은 유튜브 가이드라인에 위배되지 않기 때문에 앞으로도 10대 사용자도 시청할 수 있지만 앞으로는 추천에는 표시되지 않게 된다.
임상의사이자 유튜브 고문인 앨리슨 브리스코-스미스는 건강하지 않은 기준이나 행동을 이상화하는 콘텐츠가 빈번하게 표시되면 잠재적으로 문제가 있는 메시지가 강조될 수 있으며 그런 메시지는 일부 청소년 자아 인식에 영향을 미칠 수 있다고 말했다.
유튜브 건강 부문 글로벌 책임자인 가스 그레이엄은 10대는 자신이 누구인지 그리고 기준에 대한 생각을 깊이 있게 하는 시기이기 때문에 비현실적인 이상적인 기준을 강조하는 콘텐츠를 반복 소비하면 자신을 부정적으로 인식하게 될 수 있다고 밝혔다. 관련 내용은 이곳에서 확인할 수 있다.