딥페이크 상사 지시로 340억원 송금해버렸다

AI 기술 발전에 따라 실재 인물과 똑같은 얼굴이나 목소리를 포함한 영상을 만들어내는 딥페이크 기술 악용 사례도 늘어나고 있다. 홍콩에선 회사 CFO를 자칭하는 인물 딥페이크 영상에 속은 직원이 2억 홍콩 달러를 송금해버리는 사례가 발생했다.

홍콩 경찰 발표에 따르면 피해자는 2024년 1월 중순 자신이 일하는 기업 CFO를 자칭하는 인물로부터 비밀거래를 위해 자금이 필요하다는 메시지를 받았다고 한다. 이후 CFO를 자칭한 인물은 피해자를 화상회의에 초대했고 화상회의에는 피해자와 CFO 외에 동료 여러 명과 사외 인물이 참가하고 있었다.

피해자는 메시지를 받은 시점에는 불신감을 느끼고 있었지만 화상회의에 참여한 CFO와 동료 얼굴이나 목소리가 진짜와 똑같았기 때문에 불신감은 사라졌다고 한다. 여러 명이 참여한 화상회의 이후 CFO와의 1:1 화상회의나 문자메시지로 송금 지시가 이어졌고 계좌 5건에 15회에 걸쳐 모두 2억 홍콩 달러를 송금해 버렸다.

첫 연락으로부터 일주일 뒤 피해자가 본사에 연락을 취하면서 일련의 송금 지시가 가짜 CFO에 의한 것이라는 게 판명됐다. 이후 경찰 수사로 화상회의에 참여한 CFO나 동료 영상은 인터넷상에 공개된 영상 등을 바탕으로 만들어진 딥페이크 영상이라는 게 밝혀졌다.

가짜 CFO는 화상회의에서 피해자에게 자기 소개를 요구하고 있었지만 피해자와 상호 작용하지는 않았다고 한다. 경찰 측은 딥페이크 영상을 이용한 화상회의를 구분하기 위해 통화 상대에게 머리를 움직이도록 부탁하거나 통화 상대에게 질문에 응하도록 부탁하고 금전을 요구하면 곧바로 의심해야 한다고 조언했다. 관련 내용은 이곳에서 확인할 수 있다.