오픈AI “달리3에 전자워터마크 C2PA 표준 탑재”

오픈AI가 2월 6일 이미지 생성 AI인 달리3에서 생성된 이미지에 대해 기술 표준인 C2PA(Coalition for Content Provenance and Authenticity)를 바탕으로 한 전자워터마크를 메타 데이터에 내장하겠다는 방침을 발표했다. 이를 통해 인간이 만든 콘텐츠인지 AI가 생성한 콘텐츠인지 쉽게 식별할 수 있다.

C2PA는 이미지에 메타 데이터를 포함해 이미지 소스와 관련한 정보를 확인할 수 있도록 하는 기술 표준이다. C2PA는 AI가 생성한 이미지 식별 뿐 아니라 카메라 제조사나 보도기관 등에서도 콘텐츠 출처와 편집 이력을 증명하기 위해 채용되고 있다. 2024년 2월 12일까지 오픈AI는 달리3을 통합한 챗GPT, 달리3 API를 사용해 생성된 이미지 메타데이터에 C2PA를 추가한다. 이 기능은 모든 사용자에 대해 이뤄진다.

워터마크가 포함된 이미지에는 메타데이터에 C2PA가 추가되며 이미지 왼쪽 위 모서리에 AI가 생성했다는 걸 나타내는 날짜 등이 표시된다. 또 오픈AI가 제공하는 콘텐츠 자격 증명(Content Credentials Verify)을 이용해 이미지 생성에 사용한 도구나 생성된 정확한 날짜 등을 확인할 수 있다.

달리3을 통합한 챗GPT로 이미지를 생성하면 달리3에서 생성했을 때의 메타데이터와 해당 이미지를 챗GPT로 사용자에게 보여줄 때의 메타데이터 등 메타데이터 2종류가 생성된다. 오픈AI에 따르면 C2PA를 채용하는 것으로 이미지 파일 크기는 증가하지만 지연시간이나 이미지 생성 품질에는 거의 영향이 없다고 한다.

한편 오픈AI는 C2PA와 같은 메타데이터는 생성 이미지 스크린샷을 찍는 등 액션을 수행해 쉽게 제거할 수 있기 때문에 C2PA가 AI 생성 이미지에 관한 특효약이 될 것이라며 그럼에도 불구하고 이런 방법을 채택하는 게 디지털 정보 신뢰도를 높이는 키가 될 것으로 믿는다고 강조했다. 관련 내용은 이곳에서 확인할 수 있다.