아마존에 넘쳐나는 AI 생성 쓰레기책

아마존에선 AI로 작성된 질 낮은 쓰레기 책이 증가하고 있다는 사례가 많이 보고되고 있다. 과거에는 타인 작가명을 무단 사용해 판매하는 가짜 책 피해나 AI로 생성된 저품질 전기가 급증했다는 보도가 있었다. 이런 쓰레기 책은 어떻게 만들어지며 왜 사이트에서 판매량이 늘어나고 있을까.

아마존에는 대량 AI 콘텐츠가 공개되고 있으며 때론 오해의 소지가 있거나 사기적인 방식으로 다른 저자 것이라고 표기되는 경우도 있다. 아마존은 작가명에 상표 등록이 되어 있지 않으면 책 삭제가 불가능하다는 고집스러운 태도를 보였지만 전미작가협회가 피해 작가 지원에 나서면서 콘텐츠 가이드라인을 업데이트해 AI 생성 콘텐츠를 포함한 책을 출판할 경우 신고해야 한다는 조항을 추가했다. AI가 쓴 타인 명의 쓰레기 책에 침묵하던 아마존이 작가 단체 소송에 무거운 몸을 일으킨 것이다.

그래도 여전히 아마존에는 AI로 생성된 저품질 책이 많이 있으며 베테랑 기술 저널리스트인 카라 스위셔(Kara Swisher) 회고록이 화제가 되자 아마존에서 AI가 생성한 스위셔 전기가 대량 출판됐다는 보도가 있었다. 스위셔는 가짜 책이 수십 권이나 있었다며 아마존에서 무슨 일이 일어나고 있고 왜 이걸 막지 않나 생각했다고 말했다. 아마존에서 AI 생성 저품질 전기가 급증하자 아마존이 AI 생성 책 넘치는 걸 막기 위해 일부 장르 출판을 제한하기 시작했다.

아마존 같은 전자책 마켓에선 클릭 한 번으로 빨리 구매할 수 있는 데 익숙해져 있다. 구매자가 작가명이나 주제가 정식인지 주의해야 하고 작가는 자신의 책이 바로 정식본이라는 걸 밝혀야 하는 상황이 과연 누가 바라는 것일까

하지만 쓰레기 책 역시 실제로는 그렇게 돈벌이가 되지 않는 경우가 많다고 한다. 저품질 전자책을 AI로 생성해 킨들에서 설정할 수 있는 최저가인 0.99달러에 팔면 판매 수익으로는 AI 비용을 충당하지 못해 손실이 날 가능성도 있다. 쓰레기 책 생성자는 쓰레기 책 만드는 과정을 가르쳐 주고 돈을 버는 것이며 이는 어디까지나 불만과 쓰레기를 대량 생산하는 연쇄로 결국 피해를 보는 건 책을 사랑하는 독자와 작가라는 지적이다.

아마존 측은 지난해 킨들다이렉트퍼블리싱서비스를 이용하는 모든 출판사에 콘텐츠가 AI로 생성됐는지 여부를 의무적으로 신고하도록 했으며 또 하루 출판 가능 타이틀 수도 제한해 AI 책 반란을 막고 있다고 설명했다. 담당자에 따르면 아마존은 가이드라인 위반 콘텐츠를 검출하는 강력한 일련의 방법을 갖고 있으며 이런 책을 정기적으로 검출해 삭제하고 상습적으로 쓰레기 책을 올리는 계정도 정지시킨다고 한다.

한편 AI를 활용해 책을 출판하는 한 작가는 AI 활용에는 완전히 AI가 생성하는 그룹과 AI가 보조하는 그룹 두 갈래가 있으며 전혀 다르다고 말한다. AI에게 주제를 선택하고 책 개요까지 작성하게 한 뒤 저자에게 원고를 쓰게 해 책을 빨리 완성하는 방식을 확립한 것. 이후 자비 출판한 뒤에는 높은 평점 리뷰를 제공하는 네트워크를 동원해 책 평가를 높이고 알고리즘 상위 랭킹에 올린다. 물론 이런 방식은 위반 사항은 아니지만 출판 규범을 알고 있다면 이게 비윤리적이라는 걸 알 수 있다라고 지적하기도 한다.

작가에게 현대 책 판매 경제 인센티브는 비용을 낮추고 권수를 많이 내며 꼭 아마존에 올리는 것으로 이런 인센티브가 모두를 쓰레기의 홍수로 몰아가고 있다는 지적이다. 책 제작과 판매 과정에서 불편하거나 수고로운 점을 모두 찾아내 이를 악용하는 방식은 책에 의미가 있고 책 쓰는 것은 가치 있는 행위이며 책을 읽으면 인생이 풍요로워진다는 문화적 신념을 짓밟고 있다. 그 결과 남는 건 진정한 책이 아니라 누구에게도 소용없는 내용을 채운 책 모양을 한 디지털 파일일 뿐이라는 지적이다. 관련 내용은 이곳에서 확인할 수 있다.