페이스북이나 엑스 같은 SNS에는 명백히 AI가 생성한 것 같은 기이한 이미지나 동영상이 많이 게시되고 있으며 그 중에서도 페이스북에서는 AI 이미지를 무작위로 게시해 돈을 버는 스팸 계정이 증가하고 있다. 보도에선 AI 스롭(AI Slop)이라 불리는 이런 스팸 계정을 추진하는 인플루언서와 동기가 되고 있는 메타 성과 보너스 프로그램에 대해 조사한 보고서를 발표했다.
보도에선 몇 달 동안 페이스북에서 인기를 끌고 있는 AI 생성 기이한 이미지 스팸 계정과 그 배후에 있는 인플루언서 및 메타 보상 프로그램에 대해 조사해왔다. 조사에 따르면 페이스북에 게시된 AI 이미지는 인도, 파키스탄, 인도네시아, 태국, 베트남 등 개발도상국 인플루언서와 기업에 의해 추진되고 있으며 몇 년 전부터 존재해온 페이스북 스팸 경제를 이어받아 진화해온 것이라고 한다.
인도 인플루언서인 기얀 아비셰크는 자신의 유튜브 동영상에서 AI 생성 이미지를 사용해 인기 있는 페이스북 계정을 만드는 방법’을 설명하고 있다. 영상에서 그는 페이스북 대시보드를 화면에 띄우고 자신의 계정에 게시한 이미지가 많은 수익을 창출하고 있음을 강조한다. 그는 또 수척한 사람들, 자연 재해, 굶주린 아이들, 귀여운 애완동물과 같은 감정을 불러일으키는 이미지가 많은 좋아요를 받는다고 설명한다. 그는 여러분도 이런 페이지를 만들고 이미지를 업로드해 성과 보너스를 통해 돈을 벌어야 한다고 권유하며 이미지 생성 AI(Ideogram)를 사용해 이런 이미지를 생성하는 방법을 설명한다.
그의 유튜브 채널은 13만 명이 넘는 구독자를 보유하고 있으며 동영상 총 조회수는 1,000만 회를 넘는다. 보도에선 이런 인플루언서가 미국 금융 인플루언서와 같은 역할을 하며 페이스북이나 기타 플랫폼에서 인기를 얻어 돈을 버는 방법을 가르치고 있다고 지적한다.
그들의 비즈니스 모델 일부는 유튜브 광고 수익 외에도 왓츠앱이나 텔레그램 등 온라인 코스와 AI 프롬프트 판매도 포함된다. 또 인플루언서끼리 동영상이나 팟캐스트에 출연해 페이스북에서 수익을 얻는 방법이나 알고리즘 변경에 대해 논의한다고 한다.
아비셰크는 AI 스팸 계정 운영자인 마다브 쿠마르와 인터뷰한 동영상도 게시했다. 쿠마르는 원래 뭄바이에서 일하고 있었으며 당시 월급은 1만~1만 5,000루피였지만 페이스북 AI 스팸 계정에 집중하기 시작한 뒤로는 월 10만 루피 이상을 벌 수 있게 됐다고 말한다. 쿠마르는 PC를 소유하지 않고 스마트폰만으로 AI 이미지를 업로드한다고 한다.
아비셰크 동영상에서는 특정 이미지 생성 AI가 사용됐지만 실제로 페이스북에서 볼 수 있는 기이한 AI 생성 이미지 대부분은 마이크로소프트가 제공하는 이미지 크리에이터로 만들어진 것이라고 한다. 또 다른 인플루언서가 빙(Bing)을 포함한 이미지 생성에 유용한 서비스와 참여도를 높이는 데 유용한 해시태그를 복사해 붙여 넣을 수 있는 웹사이트를 소개하는 것도 있다.
인플루언서가 페이스북 AI 스팸 계정에 집중하는 이유는 메타가 많은 참여도를 얻은 게시물에 보상을 지급하는 보너스 프로그램을 제공하기 때문. 이는 콘텐츠 제작자나 인플루언서가 고품질 콘텐츠를 게시하도록 장려하는 것이지만 결과적으로 기이한 AI 생성 콘텐츠 게시를 가속화하고 있다.
보도에서 접촉한 메타 전직 직원은 페이스북 자신도 이런 허점을 알고 있지만 인력 감축으로 인해 콘텐츠 모더레이션 팀이 부족하여 규제가 미흡하다고 말했다. 또 메타 대변인에게 보너스 프로그램과 AI 생성 콘텐츠에 대한 입장을 묻자 많은 콘텐츠가 정책을 위반하지 않으며 페이스북 커뮤니티 기준에 위배되지 않는 한 문제가 되지 않는다는 견해를 밝혔다. 대변인은 성명에서 자사는 창작자가 AI 도구를 사용해 커뮤니티 기준을 충족하는 고품질 콘텐츠를 제작하도록 장려하며 또 AI를 사용하든 사용하지 않든 불법적인 참여도로 트래픽을 유도하려는 사람에 대해 조치를 취할 것이라고 말했다.
보도에선 일련의 AI 스팸이 갑자기 등장한 게 아니라 이전부터 존재해온 페이스북 스팸이 진화한 형태라고 설명한다. 이들 스팸 계정은 이전에는 이미 인기를 끌었던 이미지나 동영상 혹은 저작권 침해 신고를 받기 어려운 중국 콘텐츠를 재게시하는 방식으로 수익을 얻었고 그 방법이 지금은 AI 생성 콘텐츠로 이동한 것. 왓츠앱이나 텔레그램 같은 그룹에서는 페이스북에서 수익을 얻는 방법을 강의하며 유료 코스로 유도하거나 페이스북 콘텐츠 게시 자동화 도구 결제를 권장한다고 한다.
그 중에서도 FewFeed라는 필리핀 개발자가 제공하는 콘텐츠 게시 자동화 도구는 월 5달러에 이미지 일괄 업로드 및 게시 일정 설정, 관리자가 포기한 페이스북 그룹 자동 취득, 다른 페이스북 페이지에서 인기를 얻은 콘텐츠 수집, 수많은 페이스북 그룹에 자동 가입, 콘텐츠 모더레이션을 회피하기 위한 랜덤 메시지 전송, 인기를 얻지 못한 콘텐츠 자동 삭제 등 강력한 기능을 제공한다. 보도에선 실제로 이들 도구를 사용해 AI 콘텐츠 생성 및 게시를 테스트했다고 보고했다.
보도에선 페이스북에서 AI 스팸이 만연한 이유는 메타가 금전적 인센티브를 제공하고 있으며 이는 개발도상국 다른 일에 비해 보수가 높고 AI 도구로 인해 이런 콘텐츠를 대규모로 생성 및 게시할 수 있게 됐기 때문이라고 지적했다. 생성 AI 도구나 AI 스팸에 따른 플랫폼 악화에 관한 논의에 미국 하이테크 기업이 제품을 모더레이션이 부족한 개발도상국에 전개해 AI 도구를 사용해 돈을 버는 사용자를 증가시키고 있다는 관점도 포함되어야 한다고 주장하고 있다. 관련 내용은 이곳에서 확인할 수 있다.