바이든 미국 대통령이 손녀 가슴을 부적절하게 만지는 것처럼 편집된 영상이 메타 정책 위반이 아니냐며 생긴 사건에 대해 메타감시위원회가 메타 정책에 위반하지 않는다는 판단을 내렸다.
해당 영상은 2022년 10월 중간 선거에서 촬영된 바이든 대통령 영상을 편집한 것. 당시 바이든 대통령은 성인이 된 손녀 첫 투표를 축하하고 손녀 지시에 따라 투표했다고 적은 스티커를 손녀 가슴에 붙이고 뺨에 키스를 했다.
그런데 영상에선 바이든 대통령이 가슴에 닿는 모습이 반복되도록 바꿔 오해할 만한 가사를 포함한 곡을 배경으로 병든 소아성애자, 바이든에게 투표한 사람은 정신적으로 병을 앓고 있다는 자막을 붙이는 등 편집을 했다. 다른 사용자가 이 게시물을 헤이트 스피치로 메타에 보고했지만 메타는 심사하지 않고 보고서를 기계적으로 처리했다. 사용자는 이 결정에 불복해 메타에 다시 호소했지만 인간 뷰어는 콘텐츠 위반이 아니라고 판단해 투고는 방치된 상태였다. 결국 사용자는 감시위원회에 호소했다.
감시위원회(Oversight Board)는 2020년 메타가 설립한 독립 재정 기관. 감시위원회는 퍼블릭 코멘트를 요구하는 등 잠시 조사를 계속하고 있었지만 최종적으로 내린 판단은 메타가 해당 영상을 방치하는 것에 문제는 없다는 것이었다. 위원회에 따르면 메타 현행 정보 조작 정책에선 사람이 말하고 있지 않은 걸 말한 것처럼 보이게 하는 편집을 한 영상이 금지되고 있을 뿐이며 AI로 만든 영상에만 적용된다. 메타에 따르면 정책에서 위반으로 규정된 조작된 미디어 주요 특징은 평균 사용자에게 이게 진짜이며 수정되지 않았다고 오해하게 할 수 있다는 점을 포함한 콘텐츠이며 이런 오해를 초래하는 콘텐츠가 AI로 만들어졌을 경우에만 정책에 근거한 대응을 한다는 것이다.
이번 영상은 사람이 하고 싶지 않은 일을 한 것처럼 보여준 영상이며 또 AI가 아니라 인간에 의해 작성된 것에 더해 영상 한 장면이 반복되는 일로 바꾼 것도 분명하다. 따라서 감시위원회는 해당 영상을 문제 없음으로 판단하고 있다.
하지만 감시위원회는 현재 정보 조작에 대한 정책에 우려를 갖고 있으며 지금 정책은 지리멸렬로 설득력 있는 정당성이 부족하다며 구체적인 피해를 막는 목적이라기보다는 콘텐츠가 어떻게 만들어졌는지에 초점이 맞춰져 있으며 이는 부적절하다고 지적했다.
위원회는 현재와 같이 AI에 의해 수정되거나 생성 콘텐츠와 사람이 말할 수 없는 말을 하는 것처럼 보이는 콘텐츠에만 정책을 적용하는 건 너무 좁다며 없는 걸 하고 있는 것처럼 보이는 콘텐츠에도 정책을 확대해야 한다고 밝혔다. 또 퍼블릭 코멘트에서 얻은 지견을 바탕으로 AI에 의지하지 않은 편집 콘텐츠는 널리 보급되고 있으며 정책은 AI가 만든 딥페이크와 비AI 콘텐츠를 구별해 취급해선 안 된다고 지적했다. 현행 정책은 오정보로 인한 피해가 뭔지 명확하게 식별하지 않기 때문에 이를 빠르게 개정해야 한다는 것이다.
구체적인 조치로 정의하는 것, 정책 위반이 없으면 콘텐츠 삭제를 하는 게 아니라 오해를 줄 가능성이 있다고 라벨을 붙이는 것 등 안도 제시했다. 위원회는 2024년 선거를 감안하면 메타가 이 정책을 빠르게 재검토해야 한다는 의견을 밝혔다. 관련 내용은 이곳에서 확인할 수 있다.