정용환 기자
로런 그로프(Lauren Groff), 레브 그로스먼(Lev Grossman), R.F. 콴(R.F. Kuang), 데니스 러헤인(Dennis Lehane) 등으로 구성된 작가 70명이 도서 출판사에 대해 AI 사용 제한을 요구하는 공개서한을 발표했다.
6월 27일 작가 70명이 세계 최대 출판사인 펭귄 랜덤하우스와 하퍼콜린스, 사이몬 앤 슈스터, 아셰트 북 그룹, 맥밀란 등의 출판사에 대해 AI 사용을 제한하도록 요구하는 공개서한을 발표한 것.
작가 집단이 밝힌 공개서한 내용을 보면 우리는 절벽 끝에 서 있으며 가장 단순한 차원에서 말하면 예술가로서 자신들의 일은 인간 경험에 응답하는 것이지만 우리가 만드는 예술은 상품이고 우리 세계는 빠르고 저렴하며 주문형으로 제공되는 걸 요구한다다고 밝혔다. 이어 그렇기 때문에 소설·전기·시·회고록 그러니까 인간 경험 기록이 인간이 무엇인지, 피를 흘리는 것, 배고픔, 사랑이 무엇인지 이해할 수 없는 AI 모델에 의해 쓰여지는 미래로 돌진하고 있다고 지적했다.
이어 AI는 인간성을 이해하고 있는 것처럼 보일지 모르지만 진실은 인간만이 다른 인간과 대화하고 이해할 수 있다는 것이라며 AI에 프롬프트가 입력될 때마다, 봇이 응답에 사용하는 언어는 작가가 경력을 걸고 만들어온 예술 통합으로 만들어진 것이지만 이는 작가 동의 없이, 보상도 없이, 감사 인사조차 없이 도용된 것이라고 밝혔다.
작가 집단은 집필 활동에서 자신의 인생에 주목해왔다며 부모의 죽음, 아이의 탄생 그리고 직접 경험했거나 상상한 모든 연애. 영웅적 행위와 타락의 이야기. 이 이야기는 작가로부터 도난당했고 기계 훈련에 이용되고 있다고 지적하며 만일 근시안적인 자본주의의 탐욕이 승리한다면 곧 서점에 진열될 책을 만들어내는 기계가 탄생할지도 모른다고 밝혔다. 이게 최종 목적이냐고 되묻고 작가를 방정식에서 완전히 배제하고 자본주의 구조 정점에 있는 이들이 작가 노동에서 지금보다 더 많은 이익을 얻는 것이냐고 묻고 이대로 가면 작품이 작가에게 가져다주는 수익은 작가가 아닌 AI를 운용하는 누군가가 얻게 될 것이라고 밝혔다.
AI가 만들어내는 문장은 저렴하기 때문에 값싸게 느껴진다며 단순하기 때문에 단순하게 느껴지며 그게 AI 본질이라고 지적했다. AI는 매우 강력한 도구이며, 앞으로도 존재할 것이고 진정한 사회 기여를 가져올 가능성을 가지고 있지만 예술이나 예술가 대체물이 되는 건 혜택이 아니라고 밝혔다.
AI 제공업체는 작가 뿐 아니라 출판사로부터도 작품을 훔쳐왔다면서 작가가 쓴 책을 소중히 다루고 기획·출간해준 성실한 편집자, 카피에디터, 홍보담당자, 그리고 출판사 일도 위기에 처해 있다고 지적했다. 모든 단계에서 인간의 손으로 길러져온 공동작업에 의한 예술인 출판이라는 형태 자체가 위기에 처해 있다는 것. 작가 이야기에 생명을 불어넣어온 오디오북 내레이터는 이미 저렴하고 단순한 AI에 의해 밀려나고 있으며 설상가상으로 AI 이용은 대량 에너지와 물을 소비하기 때문에 환경에도 파괴적인 영향을 미칠 것이라고 밝혔다.
이어 출판사가 작가와 함께 일어서주기를 바란다면서 기계에 의해 제작된 도서를 결코 출간하지 않겠다고 맹세해주기를 바란다면서 인간 직원을 AI 도구로 대체하거나 인간 직원을 AI 감시자와 같은 지위로 격하시키지 말아달라고 밝혔다.
작가 집단은 출판사가 다음 사항을 맹세하기를 요구한다고 밝혔다. 첫째 작가로부터 도용한 AI 도구를 사용해 쓰인 도서를 공공연히 또는 은밀히 출간하지 않는다. 둘째 AI 생성 도서를 홍보하기 위해 저자를 조작하거나 인간 저자가 펜네임을 사용해 저작물 표절에 기반해 제작된 AI가 생성한 도서를 출간하는 것을 허용하지 않는다. 셋째 출간 도서 디자인에 아티스트 작품을 표절해 구축된 AI를 사용하지 않는다. 넷째 직원 전부 또는 일부를 AI로 대체하지 않는다. 5번째 아티스트 작품을 표절해 구축된 AI에 의해 생성된 문장이나 아트 제작을 감독하는 새로운 직책을 만들지 않는다. 6번째 아티스트 작품을 표절해 구축된 AI 감시자로서 기존 직원의 직무기술서를 다시 쓰지 않는다. 예를 들어 카피에디터는 아티스트 작품 제목을 카피 편집하는 일을 계속하되 AI의 카피 편집 작업을 감시·수정하지는 않는다. 7번째 어떤 경우에도 내레이터 음성을 허가 없이 훈련에 이용해 구축된 AI 도구로 생성된 내레이터가 아닌 인간 오디오북 내레이터만을 채용한다.
저자 집단은 저자로서 출판사와의 향후 계약에서 가능한 한 이런 신념을 반영할 생각이라고 밝혔다.
보도에 따르면 이 공개서한이 공개된 지 24시간 내 1,100명 이상이 서명했다. 서한 공개 후 서명한 유명인으로는 조디 피쿨트(Jodi Picoult), 올리비 블레이크(Olivie Blake), 폴 트렘블레이(Paul Tremblay) 등이 있다고 한다. 관련 내용은 이곳에서 확인할 수 있다.
이석원 기자
이원영 기자
