메타 “이스라엘 AI 생성 프로파간다 삭제”

메타가 5월 29일 발표한 분기별 위협 보고서에서 미국과 캐나다 사용자에게 AI 생성 프로파간다를 확산하는 이스라엘 페이스북과 인스타그램 네트워크를 폐쇄했다고 보고했다.

메타는 분기별 위협 보고서에서 이스라엘에서 운영되던 페이스북과 인스타그램 프로파간다 네트워크를 제거했다고 보고했다. 이 네트워크는 미국과 캐나다 사용자를 겨냥해 프로파간다를 전개했다.

이스라엘 프로파간다 네트워크는 페이스북 계정 510개, 페이스북 페이지 11개, 페이스북 그룹 1개, 인스타그램 계정 32개로 이뤄져 있었다. 이 네트워크의 팔로어 수는 페이스북에서 500명 미만, 페이스북 그룹 회원은 100명 미만, 인스타그램 팔로워는 2,000명이었다고 하며 메타는 네트워크가 초기 단계에서 청중을 확보하는 걸 막는 데 성공했다고 주장하고 있다.

이들 네트워크는 가짜 계정이나 도용된 계정을 사용했고 메타 자동화 시스템에 의해 계정이 비활성화되면 계정 거래 서비스에서 구매한 것으로 보이는 새 계정을 계속 추가했다. 또 베트남 등 다른 국가에서 좋아요와 팔로워를 구매해 계정과 그룹이 주변 지지를 받는 것처럼 보이게 하는 관리도 했다.

메타에 따르면 이스라엘 네트워크는 국내외 언론사와 미국 정치인 게시물에 자주 댓글을 달았고 때론 네트워크가 운영하는 웹사이트 링크를 보냈다고 한다. 네트워크 게시물에는 이건 프로파간다라고 비판하는 일반 계정 댓글도 있었다고 한다. 메타는 네트워크 일부 답글이 AI를 통해 생성된 것으로 추정하고 있다.

이전에도 AI 생성 프로필 사진이나 이미지를 사용한 프로파간다 캠페인이 발견된 바 있지만 텍스트 기반으로 생성형 AI를 사용한 사례가 드러난 건 이번이 처음이다. 메타 위협 인텔리전스 책임자는 이들 네트워크에선 콘텐츠 생성에 생성 AI 도구를 사용한 사례가 있다며 아마도 생성형 AI 도구는 더 빠르고 대량 콘텐츠를 만들 수 있게 해줬을 것이라고 밝혔다. 하지만 자사가 보유한 네트워크를 탐지하는 능력에는 영향을 미치지 않았다고 덧붙여 생성형 AI 사용이 메타 프로파간다 캠페인 탐지에 영향을 주지 않았다고 주장했다.

프로파간다 네트워크 계정은 미국과 캐나다에 거주하는 유대인 학생이나 아프리카계 미국인을 가장하고 주로 이스라엘-하마스 전쟁에 관해 영어로 게시물을 올렸다고 한다. 이들 계정은 인질 석방을 요구하면서 이스라엘의 군사 행동을 칭송하고 반유대주의를 비판하는 한편 과격한 이슬람교가 캐나다 자유주의 가치관을 위협한다는 식 차별적 주장도 했다.

메타는 네트워크 운영 업체를 텔아비브에 본사를 둔 디지털 캠페인 운영업체 STOIC으로 특정했다. STOIC은 이미 메타 플랫폼에서 차단됐으며 메타는 정책 위반 활동을 중지할 걸 요구하는 서한을 보냈다고 한다.

한편 메타는 이스라엘 프로파간다 네트워크 뿐 아니라 이란 내 이스라엘 사용자를 겨냥한 프로파간다 네트워크도 폐쇄했다고 보고했다. 이란 네트워크에는 페이스북 계정 22개, 페이스북 페이지 8개, 페이스북 그룹 8개, 인스타그램 계정 23개가 포함되어 있어 영향력이 이스라엘 네트워크보다 조금 컸다. 하지만 이란 캠페인에서는 생성형 AI 사용 사례가 확인되지 않았다고 한다. 관련 내용은 이곳에서 확인할 수 있다.