“아마존서 AI가 쓴 버섯 가이드 책 사지마라”

최근에는 텍스트 생성형 AI 발달로 아마존 등 서적 판매 플랫폼에서 AI가 집필한 서적이 다수 판매되고 있으며 그 중에는 AI가 쓴 버섯 가이드도 존재한다. 그런데 이런 책에 포함된 조언에는 위험한 것도 있기 때문에 사선 안 된다며 버섯 채취 전문가가 경고하고 있다는 보도가 나왔다.

보도에 따르면 아마존에서 챗봇이 집필한 것으로 보이는 야생 버섯 채취에 관한 가이드가 있다고 한다. AI가 쓴 것으로 보이는 버섯 채취 가이드에서 추출한 4개 샘플에 대해 보도에선 AI 콘텐츠 검출 도구를 제공하는 기업(Originality.ai)에 조사를 의뢰했는데 모든 샘플에 대해 AI 검출 점수가 100%를 기록했다. 다시 말해 이들 책은 모두 AI에 의해 작성됐을 가능성이 높다고 판단했다는 것이다.

이 버섯 채취 가이드에는 갓 구운 버섯에 대한 달콤한 향기가 공기 중에 감돌고 어머니와의 추억을 되살렸다거나 야생 버섯을 채집하는 건 자연의 풍부함과 방대한 꽃을 우리와 묶어주는 체험이라는 등 의미를 이해하기 어려운 문장이 포함되어 있다. 영국 버섯 채취 학자는 샘플에서 먹을 수 있는 버섯을 식별할 수 있는 방법으로 냄새와 맛을 참고한다는 조언이 포함되어 있었다고 한다.

당연히 독버섯을 맛으로 식별하려고 하면 그 시점 독에 닿아 버리기 때문에 이는 매우 위험한 조언이다. 전문가는 이 책은 버섯을 식별하는 방법으로 시음을 장려하는 것 같다고 말한다. 이 책은 완전히 무책임하다고 비난하며 경험이 풍부한 지식이 필요하다고 덧붙였다. 또 일부는 식용이지만 영국에선 보호 관점에서 채취가 금지되어 있는 버섯을 채취한다고 써있었다. 덧붙여 신뢰할 수 있는 소스에서 비롯된 책을 추천한다고 주장하고 있다. 버섯에 관한 비영리 단체(New York Mycological Society) 역시 AI 버섯 채취 가이드 책은 인간의 생명을 빼앗을 위험이 있다고 경고하고 있다.

아마존 측은 주의가 환기된 책에 대해 리뷰를 실시하고 있다고 답했다. 이런 문제를 진지하게 받아들이고 안전한 쇼핑과 독서 경험을 제공하기 위해 최선을 다할 것이며 이를 조사하고 있다고 밝혔다. 관련 내용은 이곳에서 확인할 수 있다.