학술지 네이처 “AI가 생성한 이미지 게재 금지”

1869년 설립된 학술지 네이처(Nature)가 스테이블 디퓨전과 같은 AI 도구를 이용해 생성된 이미지 게재를 금지한다고 발표했다.

6월 7일 네이처가 이미지와 영상에서 생성형 AI를 사용할 수 없는 이유라는 제목을 단 기사를 공개했다. 네이처는 챗GPT나 미드저니 같은 생성형 AI 도구를 이용해 제작된 콘텐츠가 최근 급증하고 있다고 밝혔다. 생성형 AI 기능이 급속도로 향상되면서 네이처 내에선 몇 개월에 걸쳐 생성형 AI 이용 여부에 대해 논의와 토론을 계속해왔다고 한다.

네이처는 AI에 특화된 기사를 빼고 네이처에선 적어도 당분간은 생성형 AI를 이용해 생성된 이미지, 영상, 일러스트가 전체적으로 또는 부분적으로 이용되는 콘텐츠를 공개하고 당분간 일부 예외를 빼고 생성형 AI에 의해 생성된 비주얼 콘텐츠는 이용하지 않는다고 밝혔다.

또 네이처에 게재되는 비주얼 콘텐츠를 작성하는 아티스트, 영상 제작자, 일러스트레이터, 사진가는 제출 작품이 AI를 이용해 생성된 것 혹은 AI를 이용해 작성된 것에 손을 넣은 게 아닌지 확인하는 게 요구된다.

네이처는 법적으로 허용되는 방식으로 이미지를 작성한 당사와 계약 관계에 있는 대행사로부터 입수한 이미지 또는 아트는 예외라며 이미지나 영상이 포함되어 있어 경우에 따라 심사된다고 밝히고 생성형 AI 도구를 이용해 작성된 이미지에서도 게재 가능하게 되는 경우가 있다고도 설명하고 있다.

네이처는 생성형 AI가 만든 콘텐츠 사용을 금지하는 이유에 대해 결국 이는 정직의 문제라며 여기에는 투명성도 포함된다고 밝혔다. 연구자나 편집자, 출판사로서 데이터와 이미지 소스를 알고 정확하고 진실한지 확인할 수 있어야 한다며 기존 생성형 AI 도구는 이런 검증을 수행하기 위한 소스에 대한 액세스를 제공하지 않는다고 밝혔다.

또 기존 저작물이 사용 또는 인용되는 경우에는 귀속 표시해야 한다. 네이처는 이는 과학과 예술 핵심 원칙인 반면 전반적인 AI 도구는 이 원칙에 부합하지 않는다고 지적하고 있다.또 개인을 식별할 수 있거나 아티스트나 일러스트레이터 지적 재산이 참여하는 경우 당사자로부터 동의와 허가를 받아야 한다. 하지만 일반 AI 도구의 경우 이 동의와 허가 과정에서도 문제가 발생할 수 있다고 네이처는 지적하고 있다. 이는 생성형 AI가 소스를 특정하는 노력이 전혀 이뤄지지 않은 이미지를 이용해 학습되고 있기 때문에 생기는 문제다. 네이처는 저작권으로 보호되어야 하는 작품이 적절한 허가 없이 일반 AI 학습에 일상적으로 이용되고 있으며 경우에 따라 프라이버시를 침해하는 경우도 있다며 프라이버시 우려 외에도 딥페이크를 쉽게 만들 수 있다는 점도 가짜 정보 확산을 가속화한다고 밝혔다.

덧붙여 네이처는 챗GPT 등 대규모 언어 모델은 저작 기준을 충족하지 않는다며 AI를 학술 논문 저자로 하는 걸 인정하고 있지 않지만 적절한 주의를 기울인 뒤 생성형 AI를 이용해 생성한 텍스트를 논문에 포함하는 건 허가하고 있다. 하지만 이를 위해선 논문 방법 또는 감사 섹션에서 생성형 AI 도구 사용을 문서화해야 하며 저자는 AI 지원에 의해 생성된 데이터를 포함한 모든 데이터 소스를 제공해야 한다.

네이처는 전 세계는 AI 혁신 중에 있다며 하지만 AI 취급에 주의하지 않으면 지금까지의 성과를 모두 무너뜨릴 위험이 있다고 지적하고 있다. 관련 내용은 이곳에서 확인할 수 있다.