임란 칸(Imran Khan) 파키스탄 전 총리는 자신이 쓴 원고를 외부 협력자에게 AI로 음성화하도록 해 옥중에서 온라인 선거 활동을 하는데 성공했다. 동시에 파키스탄 규제 당국은 엑스와 페이스북, 인스타그램, 유튜브 등 SNS에 대한 액세스를 차단해 선거 활동을 방해하는 것으로 보인다.
1996년 파키스탄정의운동을 결성하고 2018년 총리가 된 칸은 2022년 내각 불신임 결의로 실각하고 2023년 5월 부패 혐의로 체포됐다. 1심 판결에서 유죄를 선고받은 8월 5일부터 감옥에 들어가 있으며 8월 29일 고등재판소가 1심 판결 효력 일시 정지를 결정해 한 차례 보석을 받았지만 보석 직후 공직법 위반 혐의로 다시 체포되어 이후 신체를 구속받고 있다. 덧붙여 칸은 이 혐의에 대해 2월로 예정된 총선거를 방해하기 위한 것이라고 주장하고 있다.
이번 AI 음성 제작은 파키스탄정의운동이 한 것으로 칸은 변호사를 통해 속기 원고를 보내고 이 텍스트를 기존 음성 샘플로부터 음성 클론을 작성하는 도구를 이용해 음성화했다. 이 음성은 파키스탄정의운동 지지자에게 5시간 연설 라이브 스트림을 통해 방송됐다.
지난 5월 칸이 체포됐을 때 폭동이 발생하면서 파키스탄 검열 당국은 칸이 방송하는 걸 금지하고 있어 방송 당시 7시간에 걸쳐 엑스, 페이스북, 인스타그램, 유튜브 등 SNS에 대한 액세스가 규제됐다. 액세스 규제에도 불구하고 방송은 모두 450만 명 이상이 시청했다고 한다. 다만 시청자 중 한 명은 연설에는 그다지 설득력이 없고 문법도 이상했다며 그럼에도 노력은 평가한다고 밝혔다.
AI를 이용해 악의적 인물이 지도자가 되어 스푸핑을 하고 가짜 정보를 흩뜨릴 가능성에 대해선 많은 전문가가 경고하고 있지만 반대로 국가에 의한 억압을 회피하기 위한 이용 방법에 대해선 아직 별로 말이 나오지 않지만 앞으로 다양한 활용법이 등장할 가능성이 높을 것으로 보인다. 관련 내용은 이곳에서 확인할 수 있다.