구글은 지난 5월 14일 미국에서 AI 오버뷰(AI Overviews)라는 AI가 생성한 검색 결과 요약을 표시하는 기능을 정식 출시했다. 하지만 이 AI 요약 기능에서 명백히 잘못된 정보가 표시되는 문제가 다수 지적됐고, 구글이 이상한 AI 대답을 수동으로 삭제하고 있을 가능성이 제기됐다.
AI 요약은 검색 결과 상단에 AI가 작성한 요약을 보여주는 기능. 예를 들어 천으로 된 소파를 청소하려면 어떻게 해야 하냐는 질문에 진공 청소기를 사용할 때 ○○, 부분적으로 청소하려면 ○○ 식으로 자연스러운 언어로 요약해준다.
하지만 출시 직후부터 피자에 치즈를 붙이려면 접착제를 사용하라거나 NBA에 개가 출전한 적이 있다고 하는 등 명백히 잘못된 대답을 내놓아 논란이 일었다.
이와 관련해 보도에선 콜벳을 소유한 대통령이 누구냐는 질문에는 AI 요약 없이 바이든이라는 일반 검색 결과가 나오지만, 페라리를 소유한 대통령은 누구냐고 하면 AI가 개입해 트럼프라고 대답한다며 일관성이 없다고 지적했다.
그리고 3시간 뒤 페라리를 소유한 대통령을 묻는 질문에 AI가 더는 대답하지 않게 변경되자 보도에선 구글이 수동으로 AI 요약 기능을 비활성화하고 있는 것 같다고 밝히기도 했다.
구글 측은 AI 오버뷰 정보 품질은 높지만 일부 잘못된 대답이 있을 수 있다며 콘텐츠 정책에 따라 적절하다고 판단되면 특정 검색어에 대한 AI 오버뷰 대답을 신속히 비활성화하고 있다고 밝혔다.
한편 AI 오버뷰 기능이 활성화된 지역에서도 검색어 끝에 &udm=14를 붙이면 AI 요약 없이 기존 검색 화면을 볼 수 있다. 또 이를 자동화한 서비스도 있다. 관련 내용은 이곳에서 확인할 수 있다.