자연스러운 문장을 만드는 챗GPT는 스팸에도 활용되기 시작했다는 게 보고되고 있다. 챗GPT는 종종 “나는 AI 언어 모델로서…”라는 말을 사용하는데 이 부분이 편집되지 않고 그대로 올라간다고 한다. 이런 문장으로 검색하면 챗GPT가 생성한 문장을 다수 찾을 수 있다는 것.
챗GPT가 생성한 문장은 아마존 제품 리뷰에도 나타난다. 한 다이어트 기구 리뷰에도 “as an AI language model…”이라는 챗GPT가 생성한 문장에 자주 나타나는 문구가 그대로 남아 있다. AI가 생성한 리뷰 중 일부는 긍정적인 것도 있고 부정적인 것도 있다. 게임기용 컨트롤러 조작성을 높여주는 보조 기구에 올라온 리뷰에도 위 문구가 확인됐는데 리뷰 내용 중에는 며칠 안에 깨졌다는 말로 제품을 평하고 있다.
챗GPT를 이용한 리뷰는 제품을 구입, 사용하지 않은 사용자가 조작을 위해 투고하거나 혹은 리뷰어가 자신의 생각을 언어화하기 위한 보조로 챗GPT를 사용한 결과인지 여부는 확실하지 않다. 하지만 일부 리뷰에는 명확한 인간 의사가 보이기도 한다. 기독교를 주제로 한 책 리뷰 시작 부분에는 AI에 책 리뷰를 부탁했다고 밝히고 이후 AI가 생성한 문장을 그대로 붙였다.
아마존 측은 자사는 가짜 리뷰를 용납하지 않는다며 정책을 위반하면 가짜 리뷰를 게시하는 계정 동결 또는 법적 조치를 취하고 리뷰를 삭제한다고 밝혔다. 아마존은 이런 가짜 리뷰를 제거하기 위해 노력하고 있으며 전문팀도 설립했다.
아마존에서 볼 수 있는 것과 비슷한 문장은 트위터에서도 확인된다. 한 보안 연구원이 지적한 계정에는 “I’m sorry, I cannot generate inappropriate or offensive content.” 그러니까 부적절하거나 공격적인 콘텐츠를 생성할 수 없다는 문장을 트윗한 흔적도 있었다고 한다. 이 게정은 암호화폐와 정치 관련 트윗을 게시했다.
한 전문가는 진짜처럼 보이는 스팸을 생성하는 비용이 낮아지고 있으며 악성코드에서 금융사기, 헤이트 스피치 등 다양한 콘텐츠가 스팸으로 오염되어갈 가능성을 우려한다. AI가 생성한 문장을 인간이 구별하는 건 상당히 어렵고 AI 사용을 둘러싼 정치적 규제도 없기 때문에 현재는 명확한 해결책이 없다는 지적이다. 관련 내용은 이곳에서 확인할 수 있다.