AI 클론 음성 사기 사례 급증한다

아는 사람을 가장해 금전을 갈취하는 사기에 AI 기술을 이용해 만든 음성이 이용되는 경우가 늘어난다고 보고되고 있다. 2022년 이런 사기에 의한 피해액은 미국만 따져도 1,100만 달러에 달한다고 한다.

캐나다에 거주하는 한 남성은 손자를 지칭하는 남성에게서 지갑이나 휴대폰 없이 감옥에 들어왔다며 보석금이 필요하다는 전화를 받았다. 확실한 손자 목소리라고 생각한 이 남성은 가능한 일을 해야겠다고 생각해 은행에서 1일 한도액인 3,000캐나다달러를 인출해 또 다른 지점에 가서 돈을 내려 했다. 하지만 그의 의심스러운 행동을 본 지점장이 이를 저지, 클론 음성으로 전화를 걸어오는 경우가 있다고 설명하며 이 남성은 처음으로 속았다는 걸 깨달았다고 한다.

교통사고로 외교관을 죽게 했다는 전화를 받은 한 부모는 재판 비용으로 2만 1,000캐나다달러를 요구 받고 여러 은행을 돌며 돈을 준비해 송금해버렸다고 한다. 전화는 부모가 본인과 얘기했다고 생각될 만큼 아들 목소리에 가까운 클론 음성이었다고 한다. 이 남성은 유튜브에 취미인 스노모빌에 대해 얘기하는 영상을 공개하고 있었는데 클론 음성은 이 영상을 기초로 만들어진 것인지 혹은 입수한 음성을 이용한 것인지 여부는 불명이지만 피해 신고 이후에도 돈을 돌려 받지 못했다고 한다.

이런 스푸핑 사기는 미국에서 진행되는 사기로는 2번째로 많아 2022년 발생 건수는 보고만 따져도 3만 6,000건 이상이며 이 가운데 5,100건 이상이 전화로 이뤄졌고 1,100만 달러 피해가 발생했다.

몇 년 전까지는 클론 음성을 만들려면 기본적인 음성 데이터가 대량으로 필요했지만 기술 발달로 유튜브와 페이스북, 틱톡에서 30초 가량 음성만 손에 넣으면 클론 음성을 만들 수 있다. 예를 들어 영화 스타워즈 시리즈에선 다스베이더 역할을 40년 이상 담당한 제임스 얼존스가 은퇴하면서 이후에는 AI로 그의 목소리를 재현하게 됐다. 영화 해리포터 시리즈 헤르미온느 역할을 맡은 배우 엠마 왓슨 목소리를 악용한 사례도 보고됐다. 관련 내용은 이곳에서 확인할 수 있다.