AI 기술 발전과 보급으로 실제 인물과 흡사한 얼굴이나 목소리를 사용하는 딥페이크 동영상을 누구나 쉽게 제작할 수 있게 됐고 그에 따라 딥페이크 동영상 사기가 급증하고 있다. 보도에 따르면 인터넷에 넘쳐나는 딥페이크 사기 동영상 중에서도 특히 테슬라와 스페이스X CEO인 일론 머스크를 등장시킨 사례가 많다고 한다.
캐나다에 거주하는 82세 스티브 비참은 2023년 말 일론 머스크가 높은 수익을 보장하는 투자 회사를 홍보하는 동영상을 인터넷에서 봤다. 그는 해당 동영상에서 홍보한 Magna-FX라는 회사에 연락해 248달러로 계좌를 개설했다.
이후 투자 자금 뿐 아니라 관리 수수료, 자금 이동 비용 등 명목으로 추가 송금을 요구받으며 그는 결국 69만 달러 이상을 Magna-FX에 송금했다. Magna-FX 담당자는 어느 시점부터 소프트웨어를 통해 그의 컴퓨터를 제어하며 투자 자금을 이동시켰다고 한다.
이 시점에서 그는 은퇴 후 저축을 거의 다 사용하고 신용카드 대출과 여동생에게 빌린 돈까지 사용했지만 Magna-FX는 여전히 추가 비용을 요구했다. 그제서야 그는 경찰에 연락했고 일련의 모든 거래가 사기였음이 밝혀졌다.
사기가 드러난 뒤 그가 Magna-FX와 연락을 주고받던 웹사이트, 전화번호, 이메일 주소 등은 모두 오프라인이 됐다. 그에게 남은 건 사기범과 공유하지 않은 퇴직금 계좌와 연금뿐이었으며 은퇴 후 세계 여행을 하겠다는 계획도 실현할 수 없게 됐다.
그가 본 일론 머스크가 등장한 홍보 동영상은 사기범이 머스크 실제 인터뷰를 기반으로 제작한 것으로 보인다. AI 도구를 사용하면 준비된 대본을 머스크 목소리로 읽도록 하고 입술 움직임도 대본에 맞춰 미세 조정할 수 있어 겉으로 보기에는 딥페이크임을 알아차리기 어렵다.
이런 딥페이크 사기 동영상은 최근 몇 개월 동안 인터넷에 넘쳐나고 있으며 회계법인 딜로이트에 따르면 AI를 활용한 딥페이크로 인해 연간 수십억 달러 규모 피해가 발생하고 있다고 한다.
딥페이크 사기 동영상 제작 비용은 단 몇 달러에 불과하며 제작 시간도 몇 분이면 된다. 딥페이크를 감시하고 탐지하는 기업인 센시티(Sensity) 공동 창립자이자 위협 인텔리전스 책임자인 프란치스코 카발리는 이런 사기는 성공적으로 이뤄져 사기범은 국가를 초월해 캠페인을 확장하고 여러 언어로 번역해 더 많은 대상에게 사기를 퍼뜨리고 있다고 설명했다.
사기범이 제작한 딥페이크 사기 동영상 예를 보면 경제지 월스트리트 저널 실제 인터뷰를 기반으로 AI 도구를 사용해 머스크 목소리로 대본을 읽게 하고, 입술 움직임을 미세하게 조정한다. 또 BBC 인터뷰 자막을 추가해 실제 인터뷰 동영상처럼 보이도록 만든다. 이 딥페이크 사기 동영상은 상당히 현실적이며 머스크 말투나 그가 남아프리카 출신임을 나타내는 억양까지 모방했다고 한다.
인터넷에 얼마나 많은 딥페이크 사기 동영상이 존재하는지를 정확히 측정하기는 어렵다. 하지만 페이스북 광고 라이브러리에는 대량 딥페이크 사기 동영상이 존재하며 유튜브에서도 미리 준비한 딥페이크 사기 동영상을 라이브 스트림으로 송출하는 사례가 있다고 한다.
센시티가 2023년 후반 이후 등장한 2,000건 이상 딥페이크 사기 동영상을 분석한 결과 일론 머스크는 전체 4분의 1에 등장했으며 딥페이크 사기 동영상에 등장하는 빈도에서 압도적으로 높은 비율을 차지한 것으로 나타났다. 그 중에서도 암호화폐 사기에서는 머스크 등장률이 90%를 넘었다. 딥페이크 사기 동영상에 자주 등장하는 인물로는 머스크 외에도 저명한 투자자인 워렌 버핏, 아마존 창립자인 제프 베이조스 등이 있다.
암호화폐 커뮤니티 연구자에 따르면 머스크 팬층인 보수파나 반체제 인사, 암호화폐 애호가는 부를 얻기 위해 일반적인 방법 외의 다른 방법을 찾는 경우가 많아 암호화폐 사기 주요 대상이 되고 있다고 한다. 어딘가에 부의 비밀이 숨겨져 있다고 믿는 이들이 분명히 존재하며 그들은 그 비밀만 찾으면 된다고 생각한다는 것.
또 사기범은 암호화폐나 AI, 일론 머스크에 대해 잘 알고 있는 반면, 안전한 투자에 대해서는 잘 모르는 고령 인터넷 사용자를 주로 목표로 삼는다고 한다. 캘리포니아 대학교 데이비스 캠퍼스 핀 브랜턴 교수는 고령자는 항상 사기에 걸리기 쉽고 사기범에게는 이익을 내기 좋은 대상이었다며 페이스북 같은 플랫폼이 등장하기 전부터 고령자는 주요 사기 대상이 되어왔음을 지적했다. 관련 내용은 이곳에서 확인할 수 있다.