기존 페이스북 계정을 해킹해 챗GPT, 미드저니 같은 AI 서비스를 사칭하면서 AI로 생성된 이미지와 뉴스 콘텐츠를 배포해 최종적으로 사용자가 악성 프로그램에 감염되도록 유도하는 활동이 드러났다. 많게는 팔로워 120만 명을 보유한 계정이 사기에 악용되고 있는 것으로 확인됐다.
비트디펜더 연구원 조사 결과 미드저니, 소라, 달리3, 에보토, 챗GPT 등을 사칭한 악성 프로그램 배포 활동이 이뤄지고 있다. 악의적 인물은 먼저 페이스북 계정을 해킹한 뒤 계정 프로필을 각종 AI 서비스 공식 계정인 것처럼 설정한다. 이어 AI로 생성한 이미지, 동영상, 뉴스 등을 게시하고 페이스북 광고까지 활용해 사용자를 유인한 뒤 새로운 기능 제공을 미끼로 악성 프로그램을 다운로드하게 만든다.
연구자에 따르면 가짜 미드저니 공식 페이지와 유사한 사이트가 만들어져 고파일(GoFile)이라는 파일 공유 서비스 링크가 포함되어 있었다고 한다. 사용자가 악성 프로그램을 실행하면 신용카드 정보, 가상화폐 지갑 정보, 각종 인증 정보 등이 유출되는 것으로 확인됐다.
가짜 페이스북 광고에 속은 사용자는 이게 거짓 계정임을 알아차리지 못한 채 페이스북 커뮤니티 회원이 되어 곧 출시 예정이라는 등 눈길을 끄는 정보에 접근하게 된다. 연구자가 광고를 추적한 결과 유럽에서만 사용자 50만 명이 가짜 계정 광고에 접속한 것으로 나타났다. 이런 가짜 광고는 AI를 통해 창의적으로 제작됐다고 한다.
연구자에 따르면 지금까지 팔로워 120만 명을 보유한 가짜 미드저니 계정이 확인됐으며 이 계정은 지난 3월 8일에 폐쇄됐지만 1년 가까이 운영됐다고 한다. 공격자가 어떻게 계정을 탈취했는지는 불분명하지만 여러 개인에 의해 관리됐던 것으로 봐서 인증 정보가 유출된 것으로 추정된다.
보도에선 요즘 AI에 대한 대중의 관심이 높기 때문에 이와 같은 활동이 상당한 위협이 될 수 있다. 진짜와 가짜를 구별하기 어려운 상황이며 이번 사건 성공은 소셜미디어 광고 전략의 교묘함과 온라인 광고에 대한 경계가 필요하다는 사실을 보여준다고 지적하고 있다. 관련 내용은 이곳에서 확인할 수 있다.