이원영 기자
중국에서 딥페이크를 이용한 사기 사건이 발생했고 피해 남성은 8억 5,000만원대 피해액이 발생했다고 한다. 중국 푸저우 시에 거주하는 이 남성은 지난달 친구로부터 영상 통화를 받았다. 친구는 입찰을 위해 보상금이 필요하다며 입금해달라고 말했다고 한다. 남성은 말한대로 지정 계좌로 송금하고 친구에게 확인 전화를 걸었다. 그러자 친구는 그런 전화를 한 적이 없다고 말해 사기였다는 걸 알게 됐다고 한다.
중국 SNS 플랫폼인 웨이보에는 딥페이크를 이용한 사기에 대해 논의하는 관련 포럼이 탄생하기도 했다. 5월 22일 기준 1,200만 이상 열람되고 있으며 사진이나 음성, 영상 등 모든 걸 사기에 이용할 가능성이 있다거나 정보 보안 규칙이 사기술을 따라잡는 게 가능하냐는 불안 섞인 목소리가 전해지고 있다.
AI를 이용한 사기 사건은 전 세계에서 급증하고 있다. 미국토안보부는 딥페이크 사기에 대해 AI를 이용한 사기 위협은 노출이나 시점 등에 따라 다르다며 우려 범위는 긴급에서 패닉이 되지 않고 사태를 준비하는 것까지 퍼지고 있다고 보고하고 있다.
영국에선 현지 에너지 기업 CEO가 매입처로부터 연락이 있었다고 착각해 24만 3,000달러를 헝가리 은행 계좌에 송금했다. 그런데 이 연락은 사기꾼이 AI 음성 기술로 구매처 목소리를 생성한 것이었다고 한다. AI는 미묘한 독일 억양까지 재현하고 있었다고 한다.
미국 위스콘신주 남부 경찰은 친척 목소리와 비슷한 인물에 의한 사기에 대해 주민에게 주의를 환기하고 있다. 이에 대해 정식으로 AI가 사용됐는지는 확인되지 않았지만 이런 기술이 있다는 건 인식할 필요가 있다고 밝히고 있다. 관련 내용은 이곳에서 확인할 수 있다.
이석원 기자
