음성 AI로 은행 계좌 침입에 성공했다?

미국과 유럽 등 은행에선 계좌에 로그인하기 위한 안전한 액세스 방법으로 전화를 통한 성문 인증이 채택되고 있다. 보도에 따르면 무료로 이용할 수 있는 음성 AI를 이용해 자신의 은행 계좌에 액세스할 수 있다고 보고했다.

은행에 전화를 걸자 자동 음성이 흐르고 은행에선 먼저 자동 음성으로 전화 이유를 묻는다. 직접 대답하는 대신 음성 파일을 클릭하자 AI가 출력한 잔고를 확인하고 싶다는 목소리가 재생됐다. 이에 대해 은행 자동 음성은 알았다고 답하고 이어 키패드로 생년월일을 입력한다. 그런 다음 자동 음성은 자신의 목소리로 비밀번호를 말하라고 요청하자 다시 AI가 생성한 음성을 재생한다.

몇 초가 지나 자동 음성은 잔액을 안내해주기 시작한다. 이를 통해 최근 거래와 송금처 목록을 포함한 모든 계좌 정보에 액세스할 수 있었다고 보고했다.

이 음성은 일레븐랩스(ElevenLabs) 서비스로 만든 것이다. 일레븐랩스는 무료로 사용 가능하면서도 정밀도가 높은 AI 음성을 작성할 수 있어 인터넷 상에선 이미 다양한 괴롭힘에 사용되고 있다. 이번 테스트에 사용된 것도 화자의 영국 악센트를 가장 잘 재현할 수 있었기 때문이었다.

이런 합성 음성은 사기나 해킹에 악용될 가능성도 있기 때문에 위험하다는 걸 보여준다. 한 전문가는 음성 인증을 활용하는 모든 단체는 빠르게 다요소 인증 등 안전한 보인 확인 방법으로 전환하는 게 좋다며 이런 종류 음성 복제는 실생활에서 그 사람과 대화하지 않아도 가능하기 때문이라고 지적한다.

AI 음성으로 인증을 돌파해버리자 해당 은행은 보이스 ID는 지문과 마찬가지로 100종류 이상 목소리 특징을 분석한다며 입이나 성대 사용법, 악센트, 말하는 속도 등이라면서 감기에 걸릴 때나 목이 아플 때도 인식할 수 있다고 밝히고 있다. 이 은행에 따르면 지금까지 AI가 합성한 음성에 의해 사기가 이뤄진 경우가 보고되고 있지 않다고 한다. 또 합성 음성 위협을 인식하고 다양한 대책을 전개하고 있으며 보이스 ID 도입으로 전화 뱅킹에서 사기는 크게 감소했다고 한다.

실제로도 AI 합성 음성으로 이 은행 계좌에 액세스하는 테스트를 여러 차례 실시했다가 실패하기도 했다. 관련 내용은 이곳에서 확인할 수 있다.