영국 런던, 미국 로스알토스를 거점으로 하는 스타트업 스테빌리티AI(Stability AI)가 지난 8월 10일 마치 인간 예술가가 그린 것 같은 고품질 이미지를 만드는 화상 생성 AI인 스테이블 디퓨전(Stable Diffusion)을 연구자용으로 출시했다. 스테이블 디퓨전은 곧 공개 예정이지만 인간 예술가로부터 아티스트 권리를 침해하고 있다는 비판이 나오고 있다.
스테이블 디퓨전은 스테빌리티AI와 하이델베르크대학 등 연구자가 공동 개발한 이미지 생성 AI로 아름다움을 중시한 데이터세트(LAION Aesthetics)로 훈련했다. 스테빌리티AI 공동 창업자인 에마드 모스타치(Emad Mostaque)는 스테이블 디퓨전은 수십억 명이 몇 초 안에 멋진 예술을 만들 수 있도록 해주는 텍스트에서 이미지를 생성하는 모델이라며 GPU에서 실행 가능하고 속도와 품질에서 획기적이라고 강조했다.
그런데 콘셉트 디자이너인 RJ 팔머(RJ Palmer)가 새로운 AI 이미지 생성기는 100% 인간이 만든 것처럼 보이는 아트를 만들 수 있는 것 같다며 아티스트로서 상당히 걱정된다며 스테이블 디퓨전이 아티스트 권리를 침해하고 있다고 비판했다.
그가 문제시하는 건 스테이블 디퓨전이 분명히 현재 활동 중인 아티스트 작품으로 훈련되고 있다는 점이다. 실제로 그가 예로 든 스테이블 디퓨전 이미지를 보면 오른쪽 하단 사각형 테두리와 무너진 문자 같은 게 확인되는 것도 있다. 이는 훈련한 이미지에 포함되어 있던 아티스트 로고를 AI가 재구성하려고 한 흔적이라는 것. 그는 이 AI가 자신들의 일에 대한 반아티스트라고 지적한다. 팔머에 따르면 스테이블 디퓨전으로 모방할 수 있는 스타일로 아티스트 수백 명을 들 수 있었다고 한다.
또 보도에 따르면 스테이블 디퓨전은 저명인 얼굴을 이용한 가짜 이미지나 성적 이미지도 생성할 수 있다고 경종을 울리기도 한다. 디스코드 서버를 통해 이용 가능한 스테이블 디퓨전 호스트 버전에선 성적 이미지나 인종차별적 이미지 등 생성이 금지되어 있다지만 저명인을 포함한 이미지에 관한 정책은 없다고 한다.
보도에선 스테이블 디퓨전 디스코드 서버에서 우크라이나 전쟁, 여성 누드, 중국의 대만 침공, 선지자 무함마드 모습 같은 종교적으로 논란이 되는 이미지 등 다른 이미지 생성 서비스에선 허가되지 않는 다양한 콘텐츠가 생성됐다는 지적이다. 관련 내용은 이곳에서 확인할 수 있다.