구글 멀티모달 AI 제미나이와 마이크로소프트 채팅 AI 코파일럿에서는 공정한 선거 실현을 위해 선거 관련 쿼리에 답변하지 않는 등 제한을 두고 있다고 보고됐다. 더구나 제미나이와 코파일럿이 2020년 실시된 미국 대통령 선거를 포함해 전 세계 선거 결과를 출력하지 않는 것으로 밝혀졌다.
실제로 제미나이에게 2020년 미국 대통령 선거에서 누가 당선됐냐, 현재 미국 대통령은 누구냐고 묻자 이 질문에 대해서는 아직 학습 중이라며 현 시점에서는 구글 검색을 해보기 바란다는 답변이 제시되어 질문에 대한 답을 얻을 수 없었다.
코파일럿 역시 마찬가지로 2020년 미국 대통령 선거에서 누가 당선됐냐는 질문에 이 주제에 대해서는 응답할 수 없는 것 같다며 빙 검색으로 결과를 검색해보겠냐고 답했다.
한편 오픈AI 챗GPT, 메타의 LLaMA, 앤트로픽 클로드 등 다른 채팅 AI는 2020년 미국 대통령 선거에서 누가 당선됐냐는 질문에 올바른 답변을 제시했다고 보고됐다.
이런 식 답변은 2020년 미국 대통령 선거에 국한된 게 아니다. 보도에선 제미나이와 코파일럿이 전 세계에서 진행된 선거 결과를 제시하지 않는다고 지적했다.
실제로 데이터 분석 기업 그라운드트루스AI(GroundTruth AI)가 실시한 조사에서는 제미나이 1.0 프로, GPT-3.5 터보, GPT-4, GPT-4 터보, GPT-4o에 2024년 미국 대통령 선거에 관해 질문했을 때 평균 27% 확률로 잘못 답했다. 그라운드트루스 AI 측 관게자는 유권자가 투표함에서 내리는 결정이 사실에 기반하지 않은 시나리오로 이끌릴 위험이 있다고 지적했다.
구글 측은 제미나이는 전 세계 어떤 국가 선거 결과도 제공하지 않는다며 세심한 주의를 기울여 제미나이가 답변하는 선거 관련 쿼리 종류를 제한하고 있다고 말했다. 마이크로소프트 담당자 역시 2024년 선거를 대비해 기대한 성과를 내기 위해 툴을 개선 중이므로 일부 선거 관련 프롬프트가 빙 검색으로 리디렉트될 수 있다고 인정했다. 관련 내용은 이곳에서 확인할 수 있다.