6월 28일 200만 토큰 컨텍스트 윈도를 활용할 수 있는 제미나이 1.5 프로(Gemini 1.5 Pro)가 모든 개발자에게 공개됐다. 같은 날 90억(9B)과 270억(27B) 파라미터 크기를 가진 대규모 언어 모델 젬마2(Gemma 2)도 공개되어 구글 AI 스튜디오(Google AI Studio)와 허깅페이스를 통해 이용할 수 있게 됐다.
지난 2월 발표된 제미나이 1.5 프로는 5월 업데이트로 컨텍스트 윈도가 100만에서 200만으로 2배 증가했고 구글 AI 스튜디오 또는 버텍스 AI(Vertex AI) 대기자 명단에 등록한 사용자에게 한정 공개되어 있었다. 이 제미나이 1.5 프로가 6월 28일부터 모든 개발자에게 공개되게 됐다.
또 구글은 컨텍스트 윈도 확장에 따라 입력 비용이 증가하는 걸 우려해 제미나이 1.5 프로 공개와 함께 컨텍스트 캐시라고 불리는 비용 절감 시스템을 도입했다. 컨텍스트 캐시를 켜면 코드 실행 기능이 모델에 의해 동적으로 활용되어 원하는 최종 출력에 도달할 때까지 결과를 반복적으로 학습할 수 있다고 한다. 개발자는 모델 출력 토큰에 기반해 비용을 지불하면 된다.
컨텍스트 캐시는 제미나이 API와 구글 AI 스튜디오 고급 설정 항목에서 이용 가능하며 제미나이 1.5 프로와 제미나이 1.5 플래시 모두에서 활성화할 수 있다.
제미나이 1.5 프로 개방과 동시에 등장한 젬마2는 이전 세대 젬마보다 더 높은 성능과 효율적인 추론이 가능하다고 한다. 27B 모델은 314B인 그록(Grok)보다 뛰어나고 9B 모델은 8B인 LlaMA 3를 능가하는 성능을 발휘한다고 한다.
또 27B 젬마2는 단일 구글 클라우드 TPU 호스트, 엔비디아 A100 80GB 텐서 코어 GPU, 또는 엔비디아 H100 텐서 코어 GPU에서 효율적으로 추론을 실행하도록 설계되어 있어 고성능을 유지하면서 비용을 크게 절감할 수 있다고 한다. 이로 인해 더 사용하기 쉬워졌으며 구글은 각 회사 예산에 맞는 AI 도입이 가능해진다고 안내하고 있다.
함께 구글 AI 스튜디오에서도 젬마2 모델을 이용할 수 있게 됐다. 구글은 젬마2를 구글 AI 스튜디오에서 전체 정밀도로 시도해보거나 허깅페이스 트랜스포머(Hugging Face Transformers)를 통해 엔비디아 지포스 RTX가 탑재된 PC에서 시도해보라고 밝혔다.
한편 젬마2는 상업용으로 적합한 라이선스에 기반해 제공되고 있다. 관련 내용은 이곳에서 확인할 수 있다.
한편 구글은 표 계산 앱인 구글 시트(Google Sheets) 계산 속도를 구글 크롬과 마이크로소프트 엣지에서 2배로 향상시켰다고 발표했다. 그 밖에 다수 개선 사항도 추가했다.
구글 시트 그룹 제품 관리자에 따르면 더 빠른 코드 실행을 가능하게 하는 WasmGC를 통해 스프레드시트 계산 속도를 2배로 향상시켰다고 한다. 또 부드러운 스크롤과 셀 제한 확장 등 개선이 이뤄졌으며 수식 실행, 피벗 테이블 생성, 조건부 서식 사용 등에서 조작성이 향상됐다.
다른 개선 사항으로는 먼저 사이드 패널에 제미나이 포 워크스페이스(Gemini for Workspace) 추가. 채팅 AI인 제미나이와 대화하면서 콘텐츠 요약, 분석, 생성을 할 수 있는 제미나이 포 워크스페이스를 사이드 패널에서 이용할 수 있게 된 것. 제미나이가 이메일이나 문서에서 얻은 정보를 바탕으로 문맥에 맞는 스프레드시트를 만들어주거나 작업 중인 스프레드시트 개요를 자동으로 표시해 준다.
이어 사전 구축 테이블. 데이터를 생성할 때 빈 스프레드시트에서 작업을 시작하는 건 다소 번거로울 수 있다. 이런 수고를 줄일 수 있는 사전 구축된 테이블이 제공된다.
다음은 조건부 알림. 구글 시트는 여러 명이 동시에 같은 시트를 편집할 수 있어 유용하지만 한편으로 누가 어디에 어떤 변경을 가했는지 모두 파악하기 어려워질 수 있다. 이를 해결하기 위해 도입된 기능이 조건부 알림. 스프레드시트마다 규칙을 만들어 특정 조건이 충족될 때만 알림을 보낼 수 있는 기능으로 예를 들어 status 열에 변경이 있을 때만 알림을 받는 등 설정이 가능해진다. 구글 측은 이를 스프레드시트 자동화의 시작이라고 표현하기도 했다.
개선 작업에 있어 스프레드시트팀은 크롬팀과 협력했으며 우선 구글 크롬과 마이크로소프트 엣지에 개선 사항이 제공된다. 앞으로 파이어폭스와 사파리에도 개선 사항이 제공될 예정. 또 앞으로는 복사 및 붙여넣기, 필터 등 성능 개선에 힘쓸 예정이라고 한다. 관련 내용은 이곳에서 확인할 수 있다.