이원영 기자
마이크로소프트가 자사 개발자 행사인 마이크로소프트 빌드(Microsoft Build) 기간 중 빙 이미지 크리에이터(Bing Image Creator)나 마이크로소프트 디자이너(Microsoft Designer) 등 이미지 생성 AI를 채택한 자사 제품에 의한 모든 AI 아트에 AI로 작성했다는 걸 나타내는 전자 워터마크를 넣겠다고 밝혔다.
어도비와 ARM, 인텔, 마이크로소프트, 트루픽은 2021년 디지털 이미지 출처가 AI인지를 나타내는 개방형 표준을 책정하는 단체인 C2PA(Coalition for Content Provenance and Authenticity)를 설립했다. 예를 들어 어도비가 발표한 이미지 생성 AI인 파이어플라이(Firefly)는 메타 데이터에 전자 워터마크 임베드를 실현한 기능(Content Credentials)을 지원한다. 이는 어디까지나 어도비 앱 내에서 지원하는 것으로 윈도11 표준 뷰어 같은 다른 앱에서 볼 수 있는 메타 데이터에는 반영되지 않았다. 하지만 C2PA 규격에서 전자 워터마크를 채택하면 소비자는 메타 데이터 외에 생성된 이미지 위나 옆에 AI 작품이라는 걸 나타내는 표시가 작게 표시되므로 앱이나 환경에 좌우되지 않는 전자 워터마크가 실현된다는 것.
현재 빙 이미지 크리에이터로 작성한 이미지에는 AI 생성이라는 걸 나타내는 표시로 왼쪽 아래에 빙 로고가 작게 그려진다. 하지만 마이크로소프트 디자이너에서 생성한 이미지에는 이런 표시가 없다.
이번 마이크로소프트는 2개 도구에서 생성된 이미지에 C2PA 규격에 근거한 서명을 실시해 이미지 메타 데이터로 출처를 명확하게 공개한다고 한다. 마이크로소프트는 C2PA 표준을 기반으로 AI가 생성한 콘텐츠에 서명하고 검증한다고 밝혔다.
또 마이크로소프트는 AI가 콘텐츠 운영자를 지원하는 서비스인 애저 AI 콘텐츠 세이프티(Azure AI Content Safety)를 발표했다. 원래 콘텐츠에 공격적이거나 부적절한 요소가 있는지를 확인하는 건 인간 역할이지만 애저 AI 콘텐츠 세이프티는 AI가 이 작업을 대체하는 서비스로 2023년 6월부터 시작할 예정이다. 서비스 가격은 이미지 스캔 1,000장당 1.50달러다. 덧붙여 마이크로소프트는 자사에서 C2PA 규격을 솔선해 채택, 다른 사람에게도 채용을 장려하는 것으로 콘텐츠 체크 절차를 간소화할 수 있다고 한다. 예를 들면 라이카나 니콘 등 카메라 제조사용으로 C2PA 규격을 카메라에 넣어 이미지가 AI로 생성된 게 아니고 카메라로 실제로 촬영한 진짜 사진이라는 걸 증명하는 구조도 준비되어 있다고 한다. 관련 내용은 이곳에서 확인할 수 있다.
정용환 기자
