오픈AI “악의적 인물이 챗GPT로 선거 방해하려 한다”

오픈AI가 10월 9일 AI 영향력과 부정 사용에 관한 포괄적인 분석 보고서를 발표했다. 오픈AI는 이 보고서에서 악의적인 인물이 챗GPT를 이용해 선거나 정치 활동에 영향을 미치려 하고 있다고 밝혔다.

오픈AI는 AI가 보안 방어에 도움이 되는 한편 공격자는 AI를 주로 중간 단계에서 사용하고 있다고 지적했다. 구체적으로 공격자는 인터넷 접속이나 이메일 주소, 소셜 미디어 계정을 획득한 뒤 악성 소프트웨어나 소셜 미디어 게시물을 광범위하게 배포하기 전 단계에서 AI를 활용하고 있다고 한다.

예를 들어 스위트스펙터(SweetSpecter)라고 불리는 중국 기반 위협 행위자는 오픈AI 직원을 대상으로 스피어피싱 공격을 시도했다고 한다. 스위트스펙터는 챗GPT 사용자로 위장해 악의적인 첨부 파일을 보내고 더 나아가 AI를 사용해 정찰, 취약점 조사, 스크립트 작성 지원 등을 하려 했지만 오픈AI 보안 시스템에 의해 차단됐다고 한다.

또 지난 8월 이란 STORM-0817이라는 위협 행위자는 안드로이드 기기를 대상으로 한 악성 소프트웨어 개발과 SNS 스크래핑 도구를 AI로 만들려고 했다.

오픈AI에 따르면 AI 사용이 공격자 능력을 크게 향상시키거나 큰 영향력을 가진 공격을 가능하게 한 증거는 보이지 않았다고 하며 이는 GPT-4o 등이 보안을 악용하려는 자의 능력을 크게 향상시키지 않았다는 평가와 일치한다고 오픈AI는 주장했다.

보고서에서는 선거나 정치와 관련된 AI 부정 사용에 대해서도 언급됐다. 예를 들어 미국을 기반으로 하는 A2Z라는 위협 행위자는 엑스와 페이스북에 정치적인 댓글을 게시한 것으로 밝혀졌다. 이 그룹은 게시할 정치적 댓글을 챗GPT로 생성했으며 그 중에서도 아제르바이잔을 칭찬하는 댓글에 초점을 맞추고 있었다고 한다.

또 지난 7월에는 르완다 선거를 앞두고 르완다 애국 전선 장점을 강조하는 게시물을 다수 생성한 그룹이나 4월 옥중사한 알렉세이 나발니가 대표를 맡았던 반부패 재단을 비판하는 댓글을 SNS에 게시한 그룹 등 챗GPT로 자동 생성한 메시지를 인터넷상에 다수 게시하는 사례가 보고됐다.

하지만 오픈AI는 이런 활동 대부분이 여러 플랫폼에서 이뤄졌음에도 불구하고 그 영향은 제한적이었다고 평가했다. 대부분의 경우 생성된 콘텐츠는 거의 주목을 받지 못했고 참여도도 낮았다고 하며 모든 사례에 대해 24시간 이내에 대처할 수 있었다고 오픈AI는 밝혔다.

2024년 11월에는 미국 대통령 선거가 예정되어 있는 등 2024년 후반에도 전 세계적으로 선거 이벤트가 줄을 잇고 있다. 오픈AI는 2024년 1월 선거에서의 AI 악용을 방지하기 위한 노력을 발표했다. 더 나아가 2월에는 오픈AI와 마이크로소프트, 구글, 어도비, 엑스, 아마존 등 많은 기업이 딥페이크를 이용한 선거 방해에 대항하는 협정을 발표했다.

오픈AI는 AI 기업이 이메일이나 인터넷 서비스 제공업체나 소셜 미디어 등 양쪽을 보완하는 통찰력을 제공할 수 있는 가능성이 있다고 말했다. 다만 이를 위해서는 적절한 탐지 및 조사 능력을 갖추는 게 중요하다고 지적했다. 관련 내용은 이곳에서 확인할 수 있다.