구글 “제미나이가 이미지 생성에 실수한 이유는…”

구글 멀티모달 AI인 제미아니가 역사적 이미지 묘사에 부정확함이 있다고 지적된 건에 대해 구글이 공식 블로그를 통해 문제에 대한 원인을 설명하고 있다.

인간 이미지 생성에 문제가 된 점에 대해 구글은 다양한 결과를 생성하려는 시도가 어려운 결과로 이어졌다며 사과했으며 제미나이를 수정한다고 발표했다. 구글은 이런 문제가 발생한 원인에 대해 제미나이가 다양한 사람을 묘사하도록 조정한 결과 분명히 그렇게 해선 안 되는 경우를 설명하지 못했다며 시간이 지나면서 제미나이가 의도했던 것보다 훨씬 신중해지고 특정 프롬프트에 응답하는 걸 완전히 거부하게 됐다고 2가지를 설명했다. 이 2가지로 인해 이메진2(Imagen 2)를 이용한 제미나이 화성 생성 기능이 출력 결과를 과잉 보정하거나 혹은 과도하게 보수적으로 되거나 잘못된 이미지가 생성되어 버렸다고 한다.

따라서 구글은 인물 이미지 생성 기능을 끄고 광범위한 테스트를 포함한 상당한 개선을 수행하고 있다.

구글은 제미나이가 창의성과 생산성 도구로 구축됐으며 시사 문제, 날마다 변화하는 뉴스, 주목받은 주제에 대해 이미지와 텍스트에 대해 항상 신뢰할 수 있는 건 아니며 실수를 범한다며 환각은 모든 대규모언어모델에 대해 알려진 과제라고 밝혔다.

또 구글은 제미나이는 프롬프트에 대한 사실을 기반으로 답변을 시도한다며 또 제미나이는 이 가운데 확인 기능은 답변을 뒷받침하는 콘텐츠가 인터넷에 존재하는지 여부를 평가한다며 하지만 구글 검색에 시사 문제와 매일 변화하는 뉴스에 대한 고품질 정보가 다른 시스템에 표시되니 구글 검색에 의존하는 게 좋다고 밝혔다.

구글은 또 제미나이가 부정확하고 부끄러워하거나 공격적인 결과를 생성하지 않는다고 약속할 수는 없지만 문제가 식별될 때마다 계속 행동을 취할 걸 약속한다며 많은 점에서 도움이 되고 큰 잠재력을 지닌 새로운 기술이며 안전하고 책임감 있게 전개하기 위해 최선을 다할 것이라고 덧붙였다.

구글은 제미나이 이미지 생성 기능을 수정하는 것 외에도 생성형 AI 기능(Help me write)을 웹브라우저 크롬에 탑재하는 것도 밝히고 있다. 이 기능은 생성형 AI가 웹페이지 콘텐츠를 바탕으로 리뷰 게시용 문장을 작성하거나 문의 텍스트나 답장을 생성해준다는 것으로 현재 미국 크롬 사용자용으로 시험 제공된다. 또 브랜드 제품 설명과 광고 이미지, 텍스트를 생성하는 AI 도구를 구글 광고 P-MAX 캠페인에 추가하는 것도 발표했다. 관련 내용은 이곳에서 확인할 수 있다.