선거의 해 앞둔 구글 “선거 관련 AI 사용 제한”

2024년에는 미국 대통령 선거를 포함한 많은 선거가 전 세계에서 열린다. 구글은 자사 플랫폼이 선거에 악용되는 걸 방지하기 위해 AI를 이용한 부정 행위에 대한 노력을 강화하겠다고 발표했다. 이에 따라 바드(Bard)는 선거 관련 쿼리를 제한하는 등 다양한 제한을 부과한다.

지난 몇 년간 구글은 전 세계에서 많은 선거를 지원했다. 선거 주기가 진행될 때마다 유해 콘텐츠에 대한 보호를 강화하고 신뢰할 수 있는 환경을 구축하기 위해 자사 AI 모델에 새로운 학습을 계속 적용하고 있는 것.

구글은 자사 플랫폼을 보호하기 위해 조작된 미디어, 증오와 괴롭힘, 폭력 선동, 민주주의 과정을 해칠 수 있는 허위 주장 등 분야에 어떻게 대처할지 알려주는 정책을 정하고 있다. 10년 이상 구글은 머신러닝 분류기와 AI를 활용해 이 정책을 위반하는 콘텐츠를 식별, 삭제해왔지만 현재는 LLM 진보에 따라 더 빠르고 적응성 높은 시행 시스템 구축을 실험하고 있다. 덧붙여 구글은 실험 중 새로운 시스템에 대해 초기 결과는 민첩함을 유지하면서 새로운 위협이 나왔을 때 빠르게 행동을 할 수 있다는 걸 보여줬다고 밝히고 있다.

구글은 또 SGE(Search Generative Experience), 바드 같은 생성형 AI 제품을 도입하기 위한 원칙적이고 책임감 있는 접근 방식을 취하는데 주력하고 있으며 사이버 보안 취약성에 잘못된 정보, 공정성에 이르는 안전선 위험 테스트를 선호한다. 2024년 선거 기간에 대비해 구글은 SGE와 바드가 응답으로 출력하는 선거 관련 검색어 유형을 제한한다고 밝혔다.

그 밖에도 구글은 선거전에서 생성형 AI를 이용해 자사 플랫폼이 악용되는 걸 막기 위해 몇 가지 시책을 도입했다. 먼저 광고 공개. 구글은 AI 도구 등으로 디지털적으로 변경 또는 생성된 리얼한 합성 콘텐츠가 광고에 포함되면 선거 광고주에게 눈에 띠게 공개할 걸 의무화하고 있다.

다음은 콘텐츠 라벨. 앞으로 몇 개월간 유튜브는 제작자에게 현실적 수정 콘텐츠와 합성 콘텐츠를 만든 시기를 공개하도록 의무화하고 시청하는 콘텐츠가 합성 콘텐츠라는 걸 사용자에게 알리는 라벨 표시를 할 예정이다.

이어 추가 컨텍스트. SGE 컨텍스트 기능과 바드 더블체크 기능을 통해 인터넷에 바드 영어 응답을 뒷받침하는 콘텐츠가 있는지 평가할 수 있다. 검색에서 이 이미지 정보 기능을 이용하면 온라인에서 찾은 이미지 신뢰도와 컨텍스트 평가가 가능하다.

다음은 전자워터마크. 구글 딥마인드가 선보인 베타 버전 도구(SynthID)를 통해 AI가 생성한 이미지와 음성 데이터에 전자 워터마크가 직접 임베디드된다.

선거 기간 중 사람들은 구글을 이용해 후보자와 유권자 등록 기한, 투표소 위치 등 정보를 검색한다. 사용자가 필요한 정보를 쉽게 찾을 수 있도록 구글은 몇 가지 조치를 취하고 있다. 먼저 검색. 파트너(Democracy Works)와 협력해 투표 방법이나 투표 장소 등 토픽을 검색할 때 주나 지방선거 사무소로부터 신뢰할 수 있는 정보를 검색 결과 상단에 표시한다. 과거 선거와 마찬가지로 구글은 AP통신과 협력해 신뢰할 수 있는 선거 결과를 구글에 공개해나간다.

다음은 뉴스. 구글은 2022년부터 국가별 신뢰할 수 있는 선거 관련 뉴스가 구글 뉴스에 게재되도록 추가 뉴스 기능을 제공하고 있다. 다음으로 유튜브. 유튜브는 고품질 선거 뉴스와 정보를 사용자에게 전달하기 위한 적절한 조치를 취하고 있다. 또 투표소 장소를 명확하게 강조 표시해 사용하기 쉬운 길 순서를 제안한다. 악의적 인물이 지도에서 선거 관련 스팸을 만드는 걸 방지하기 위해 정부 청사 같은 콘텐츠에는 강화된 보호가 적용된다.

이어 광고. 구글은 선거 광고 게재를 희망하는 광고주에게 신원 확인 과정을 거쳐 누가 광고비를 지불했는지 명확하게 나타내는 광고 내 공개를 의무화하고 있다. 이 결과는 정치 광고에 대한 투명성 보고서에도 게재된다.

선거 기간 중에는 사이버 보안 위험도 높아진다. 구글 고급 보호 프로그램은 선거에서 선정된 장교나 후보자, 선거 활동원, 기자, 선거 직원 등 선거 기간에 사이버 보안 위험이 높은 개인이 사용할 수 있다. 구글은 또 DDD(Defense Digital Campaigns)와 파트너십을 확대하고 구글워크스페이스 내 보안 기능 도구 등을 제공한다. 이미 구글은 2023년 DDD 같은 파트너를 통해 위험도가 높은 사용자에게 10만 개 무료 타이탄 보안키를 배포했다. 2024년에도 구글은 타이탄 보안키 10만 개를 배포할 예정이다.

구글 TAG와 매디언트인텔리전스는 새로운 위협 식별, 모니터링, 해결을 지원한다 예를 들어 TAG는 매일 50개국 이상에서 270개 이상 표적 공격자 그룹 또는 정부 지원 공격자 그룹을 추적하고 있다. 또 민관 부문이 항상 경계하고 충분한 정보를 얻을 수 있도록 조사 결과를 각각 공개하고 있다. 또 매디언트 측은 포괄적인 선거 보안 프로그램을 구축하고 사전 활동적인 침해 평가 서비스에서 정보 조작 위협 인텔리전스 추적에 이르기까지 포괄적 도구를 사용해 보안 강화 도구를 제공한다. 관련 내용은 이곳에서 확인할 수 있다.