메타가 2월 6일 인스타그램, 페이스북, 스레드에 게시된 AI가 생성한 이미지를 검출해 라벨을 붙일 방침이라고 발표했다. 이 기능은 빠르면 몇 개월 이내에 모든 언어에서 도입 예정이다.
메타에 따르면 AI 생성 이미지 검출과 라벨 첨부는 이미지 파일에 엠베드된 눈에 보이지 않는 메타데이터 등을 이용하는 것으로 이뤄진다고 한다. 구체적으로 구글, 오픈AI, 마이크로소프트, 어도비, 미드저니, 셔터스톡 등 기업과 협력해 AI 생성 정보를 쉽게 식별할 수 있는 업계 표준 지표를 개발하고 있다.
따라서 메타 독점 이미지 생성 모델인 에뮤(Emu)가 생성한 이미지에만 라벨을 지정할 수 있다. AI가 생성한 이미지가 포함된 게시물에는 라벨(AI info)이 붙고 사용자가 AI 생성된 이미지라는 걸 쉽게 식별할 수 있어 투명성이 향상된다. 에뮤를 이용해 생성 이미지가 포함된 게시물에는 이미 라벨(Imagined with AI)이 붙어 있다.
메타 글로벌 어페어스 담당 사장인 닉 크렉은 인간이 만든 콘텐츠와 AI가 생성한 콘텐츠 차이가 모호해짐에 따라 경계가 어디에 있는지 모두 알고 싶어지고 있다고 밝혔다. 그에 따르면 이 기능은 구축 단계에 있어 앞으로 몇 개월 안에 앱이 지원하는 모든 언어에 라벨 적용을 개시할 예정이라고 한다. 그는 전 세계에서 여러 중요한 선거가 진행되는 2025년까지는 이 기능을 구현하고 싶다고 기록하고 있다.
메타는 또 앞으로 음성과 영상이 포함된 콘텐츠에도 이 기능을 적용할 예정이라고 밝혔다. 앞으로 AI 생성 콘텐츠에 라벨을 붙이도록 사용자에게 요구하고 사용자가 게을리 하면 벌칙을 적용할 예정이라며 위험성이 높은 AI 생성 콘텐츠는 더 눈에 띄는 라벨을 붙이는 정책이라고 보고했다.
또 AI가 생성한 콘텐츠로 적극적으로 사람을 속이려고 하는 사람과 조직은 AI 생성 콘텐츠를 탐지하기 위해 도입된 안전 대책을 회피하는 방법을 찾을 것이라며 업계와 사회 전반에서 항상 한 걸음 더 나아가는 방법을 계속 모색해야 한다고 밝히고 있다. 관련 내용은 이곳에서 확인할 수 있다.