AI 음성을 이용한 로보콜 그러니까 자동음성통화에서 선거 운동이나 사기를 벌이는 사례가 잇따르기 때문에 연방거래위원회법 FCC가 로보콜을 위한 AI 음성 이용은 불법이라며 주 당국에 이런 사기를 단속하기 위한 권한을 줬다.
선거 운동이 증가하는 미국에선 내부에선 유명인과 비슷한 목소리로 유권자에게 잘못된 정보를 전하는 등 악덕 운동도 잇따르고 있다고 한다. 2024년 1월에는 바이든 대통령과 같은 목소리로 투표권을 절약하고 집에 머무르라고 촉구하는 전화가 민주당 우세 지역 주민에게 걸려왔다는 사례가 몇 건 확인되기도 했다.
선거 운동 뿐 아니라 사기나 협박에도 AI 로보콜이 사용되는 사건이 증가하고 있어 연간 1,700억 원대 피해액이 난다는 추정도 있다. 이런 사기 행위를 박멸하기 위해 FCC는 통신사에 대해 로보콜 발신자에게 서비스 정지를 하지 않으면 통신 차단도 그만두지 않는다고 경고하는 등 강한 자세를 보였다.
2월 7일 FCC는 전화소비자보호법 새 결정을 채택했음을 밝히고 소비자를 겨냥한 로보콜 사기를 위해 음성 생성 기술을 이용하는 행위를 불법이라고 밝혔다. 전화소비자보호법은 FCC가 원치 않는 전화를 제한하는데 사용하는 법이며 원래 전화 초대와 자동 통화, 전화에서 인공적 또는 녹음된 음성 메시지 사용을 제한했다. 이번 재정으로 AI 음성도 인공적인 음성으로 정의되게 되어 지금까지 AI 음성에 의한 사기를 단속할 권한이 주어지고 있던 주 당국에 새롭게 사기 때문에 AI로 음성을 작성하는 행위 자체도 단속할 권한이 주어졌다. 관련 내용은 이곳에서 확인할 수 있다.