정용환 기자
구글이 3월 4일 구글 메시지에서 AI를 활용해 채팅 및 음성 통화 중 사기를 탐지하고 사용자에게 음성 및 촉각으로 경고하는 기능을 발표했다.
GASA(Global Anti-Scam Alliance) 조사에 따르면 2024년 사기꾼들은 전 세계 모바일 사용자로부터 1조 달러를 훔쳤으며 생성형 AI를 활용한 도구로 인한 피해도 보고됐다. 사기 대부분이 전화와 문자 메시지를 통해 발생했기 때문에 구글은 자사 AI를 활용해 안드로이드 보안 기능을 강화하고 있다.
구글이 발표한 기능은 메시지 사기 탐지 기능과 통화 사기 탐지 기능 2가지다. 메시지 사기 탐지 기능은 기기 내 AI가 SMS, MMS, RCS 메시지에서 사기로 의심되는 패턴을 감지하면 사용자에게 사기 가능성 경고 메시지를 자동 발송한다. 사용자는 표시된 경고를 바탕으로 사기 아님 또는 신고 및 차단 중 선택할 수 있다.
메시지 사기 탐지 기능은 기본적으로 켜져 있으며 저장된 연락처가 아닌 사용자와의 채팅에만 적용된다. 모든 메시지 처리는 기기 내에서 수행되므로 개인정보는 보호된다. 신고 및 차단을 선택하면 메시지 상대방에 대한 세부 정보와 최근 메시지만 구글과 통신사에 공유된다.
통화 사기 탐지 기능은 기기 내 AI가 통화를 실시간으로 분석해 기프트카드나 선불카드 결제를 요구하는 등 사기 가능성이 있으면 음성 및 진동으로 사용자에게 경고한다. 메시지 사기 탐지 기능은 먼저 미국, 영국, 캐나다 등 영어권 국가에서 제공되며 이어 다른 국가로 확대될 예정이다.
구글은 2024년 11월 유사한 사기 탐지 기능을 구글 픽셀 6 이상 기기에 출시했지만 이번에 출시된 기능은 픽셀 9 이상 기기 내 제미나이 나노(Gemini Nano)를 활용한 더 고성능 사기 탐지 기능이다. 메시지 사기 탐지 기능과 마찬가지로 통화 사기 탐지 기능도 대화 음성이나 텍스트가 녹음되거나 기기에 저장되거나 구글 또는 제3자에게 전송되지 않는다. 이 기능은 기본적으로 꺼져 있으며 켤 경우 통화 시작 시 및 통화 중 비프음이 울려 통화 상대방에게 사기 탐지 기능이 활성화됐다는 걸 알린다.
구글 측 조사에 따르면 이 기능 베타 버전을 사용한 많은 사용자가 전화에 더 주의를 기울이게 됐다거나 의심스러운 행동이 탐지되어 대화형 사기 피해를 면할 수 있었다고 보고했다.
통화 사기 탐지 기능은 현재 미국 내 픽셀 9 이상 기기에서만 제공된다. 관련 내용은 이곳에서 확인할 수 있다.
이원영 기자
이석원 기자
