지난 11월 5일 실시된 미국 대선에서 챗GPT에 정치인 등 딥페이크 생성을 요청하는 사례가 대량으로 있었다고 오픈AI가 밝혔다. 오픈AI는 투표일까지 한 달간 25만 건에 달하는 요청을 거부했다고 전했다.
오픈AI는 2024년 초부터 선거에 대한 부정행위를 방지하고 신뢰할 수 있는 정보원으로서의 역할을 수행하기 위해 챗GPT에 몇 가지 안전장치를 마련했다고 한다. 예를 들어 투표소와 투표 방법에 대해 문의한 사용자에게는 전미 법무장관협회가 설립한 웹사이트(CanIVote.org)로 안내했다. 오픈AI에 따르면 투표일까지 한 달간 100만 명을 해당 사이트로 안내했다고 한다.
또 투표일 이후 선거 결과를 문의한 사용자에게는 AP통신이나 로이터 같은 뉴스 소스를 확인하도록 권장했으며 이런 처리가 200만 회 이뤄졌다고 한다. 신뢰할 수 있는 정보원으로 안내하는 것 외에도 챗GPT가 정치적 성향을 표명하거나 후보자를 추천하지 않도록 하는 노력도 이뤄졌다.
챗GPT가 극복한 가장 큰 과제는 딥페이크 생성을 방지한 것이다. 오픈AI에 따르면 챗GPT는 정치인을 포함한 실존 인물의 이미지 생성 요청을 거부하고 있으며 이런 설계가 선거 기간 중에도 잘 작동해 도널드 트럼프와 카멀라 해리스, J.D. 밴스 상원의원과 조 바이든 대통령 등 이미지 생성 요청 25만 건 이상이 거부된 것으로 추정된다고 한다.
전체적으로 오픈AI는 선거일까지 주의 깊게 모니터링을 계속했지만 누군가가 자사 모델을 사용해 주목을 받은 흔적은 발견되지 않았다고 밝혔다.
보도에선 오픈AI 발표에 대해 이 수치가 낮은지 높은지 판단하기는 어렵다며 CNN은 선거일 하루 만에 6,700만 명 방문자를 기록했다고 하지만 최소한 수백만 명이 AI 기업을 충분히 신뢰했다는 점은 중요하다고 지적했다.
한편 경쟁사인 퍼플렉시티는 더 과감한 접근을 채택해 AP통신 및 비영리단체인 데모크라시 웍스와 제휴를 맺고 개표 속보를 앱 내 선거정보 전용 허브에 직접 통합했다. 이를 통해 사용자는 AI를 사용해 선거에 대한 통찰력을 즉시 얻을 수 있었다. 퍼플렉시티에 따르면 이 허브는 400만 페이지뷰를 기록했다고 한다.
한 기자는 시험해본 바로는 퍼플렉시티, 오픈AI 및 경쟁사는 정치인이나 여론으로부터 분노를 살 만한 실수를 잘 피했다면서 예외는 일론 머스크의 그록(Grok)으로 승리가 확정되기 전 트럼프 승리를 전했다면서 또 구글 오버뷰(Overviews)도 해리스에게 투표하는 곳을 검색한 사용자에게 텍사스 주 해리스 카운티 지도를 표시한 것으로 확인됐다고 전했다.
이런 문제에 대해 구글 측은 해리스와 밴스 모두 카운티 이름이어서 일부 검색에서 걸릴 수 있다며 실제로 이런 방식으로 투표소를 검색하는 사람은 거의 없지만 수정했다고 밝혔다. 관련 내용은 이곳에서 확인할 수 있다.