유권자 속이는 딥페이크와의 전쟁에 11개사 서명

2월 16일 다수 기업이 참가한 2024년 선거에 있어 기만적 AI 사용에 대항하기 위한 기술 협정이 발표됐다. 목적은 정치인과 후보자, 선거 관계자 등 외모와 목소리, 행동에 대한 거짓 콘텐츠에 대항하는 것이다.

이번에 발표한 협정은 AI를 이용해 영상, 이미지, 음성 일부를 바꾼 콘텐츠인 딥페이크 확대를 막는 걸 가장 중요한 목적으로 삼고 있다. 참여 기업은 어도비, 아마존, 마이크로소프트, 오픈AI 등 선도적 기술 기업 20개사다.

딥페이크에 대한 구체적인 대처책으론 기업마다 독자적으로 실시하는 대페이크 정보 시도에 더해 AI 콘텐츠를 검지해 대처하기 위한 도구 개발이나 교육 캠페인 추진, 정책 등 투명성 확보 등을 기업이 실시하는 걸 들 수 있다.

협정에선 8가지 구체적인 대처를 통해 부정행위에 대처하겠다고 밝히고 있다. AI에 의한 가짜 선거 콘텐츠와 관련한 위험을 줄이기 위해 필요에 따라 오픈소스 도구를 포함한 기술을 개발하고 구현하는 것. 다음으로 이 협정 대상이 되는 모델을 평가하고 기만하는 AI 선거 콘텐츠에 대한 위험을 이해하는 것. 또 자사 플랫폼에서 해당 콘텐츠 전달을 탐지하기 위한 노력. 자사 플랫폼에서 검출된 해당 콘텐츠에 적절하게 대처하기 위한 노력. 기만적 AI 선거 콘텐츠에 대한 업계 회복 조치 육성. 기업이 어떻게 대처하는지에 대해 공중 투명성 제공. 다양한 글로벌 시민 사회 조직이나 경험자와 지속적 제휴 실시. 국민의식과 미디어 리터러시, 사회 전체 회복력을 키우는 대처 지원 등이다.

이들 항목에서 정한 기만적 AI 선거 콘텐츠란 정치가나 후보자, 선거 관리자, 선거에 있어서의 다른 중요한 이해관계자 외견, 목소리, 행동을 기만적으로 위조 혹은 유권자에게 언제 어디서 어떻게 투표하면 합법적으로 투표할 수 있는지에 대한 허위 정보를 제공하는 AI가 생성한 설득력 있는 읍성, 영상, 이미지라고 정의되고 있다. 이런 콘텐츠 만연을 막는 게 이번 협정 주목적이다.

마이크로소프트 측은 유해한 AI 콘텐츠로부터 온라인 커뮤니티를 보호하기 위한 중요한 단계라며 기업마다 지속적 노력을 기반으로 하고 있다고 설명했다. 한편 협정에 참여한 구글과 오픈AI가 제공하는 AI 채팅 서비스인 제미나이와 챗GPT는 쉽게 기만적 AI 선거 콘텐츠를 생성해 버린다는 지적도 있다. 오픈AI 등은 특정층을 겨냥한 정치 활동에 대해 서비스를 이용하는 걸 정책으로 금지하고 있다. 하지만 보도에 따르면 생성 자체는 가능해 특정 정치가를 본뜬 가짜 선거 연설 등 복수 문장이 생성되어 버렸다고 한다. 관련 내용은 이곳에서 확인할 수 있다.