지난 4월 4일 마이크로소프트 위협 분석 센터(MTAC)는 중국이 AI 생성 콘텐츠를 악용해 미국과 우리나라, 인도 선거를 방해하려 계획하고 있다는 보고서를 발표했다. 이 보고서에 따르면 중국은 가짜 SNS 계정을 사용해 유권자 사이에 분열을 야기하고 있으며 이미 지난 1월 치러진 대만 대선에서 AI 생성 콘텐츠를 통한 선거 방해를 실행했다고 한다.
MTAC는 지난해 9월 중국 정부가 2022년 미국 중간선거에 영향을 미치기 위해 중국 공산당 계열 SNS 계정이 미국 유권자로 가장해 활동했다고 보고했다. 중간선거가 끝난 뒤에도 이런 계정은 활동을 계속하며 지구 온난화, 국경 정책, 마약 사용, 이민, 인종간 갈등 등 미국민을 분열시킬 수 있는 주제에 대한 게시물을 올리고 있다고 한다.
중국 공산당 계열 가짜 계정이 게시하는 콘텐츠에는 다른 유명 정치인 계정에서 가져온 것도 포함되어 있으며 때론 AI로 생성된 걸 게시하기도 한다. 예를 들어 지난해 8월 하와이에서 발생한 대규모 산불이 미국 정부가 기상 무기 위력을 시험하기 위해 일으킨 것이라고 주장하는 게시물에는 AI로 생성된 이미지가 포함되어 있었다고 한다.
MTAC에 따르면 최근 몇 개월간 가짜 계정을 통한 여론 조사성 설문조사가 증가하고 있는데 이는 2024년 미국 대선을 위해 유권자를 더 잘 분열시킬 수 있는 주제를 찾기 위한 것으로 보인다.
이미 지난 1월 대만 대선에선 중국 공산당 계열 SNS 계정의 AI 생성 콘텐츠를 통한 선거 방해가 급증했다. MTAC는 국가 수준 공격자가 AI 생성 콘텐츠를 사용해 외국 선거에 영향을 미치려 한 것을 처음 목격했다고 밝혔다. 관련 내용은 이곳에서 확인할 수 있다.