“최대 100만 토큰 처리” 제미나이 1.5 발표한 구글

구글이 자사 멀티모달 AI인 제미나이(Gemini) 차세대 모델인 제미나이 1.5를 발표했다. 처리할 수 있는 토큰수 상한이 100만까지 올라갔고 기존 1.0 모델보다 적은 계산으로 고품질 결과를 제공할 수 있다.

구글은 제미나이 1.5 발표와 동시에 제미나이 1.5 프로 모델을 프리이빗 프리뷰로 AI 스튜디오와 버텍스 AI에서 이용할 수 있도록 했다. 순다르 피차이 구글 CEO는 제미나이 1.5 프로는 동작에 필요한 컴퓨팅 리소스를 줄이면서도 제미나이 1.0 울트라와 동등 성능을 발휘할 수 있다며 다양한 측면에서 개선이 이뤄졌다고 강조했다.

제미나이 1.5 프로 표준 컨텍스트 창은 12만 8,000개 토큰이지만 초기 테스터로 선정된 일부 기업이나 개발자는 100만 개 토큰까지 지원하는 제미나이 1.5 프로를 사용할 수 있다. 100만 토큰이라고 하면 영상 1시간, 음성 11시간, 코드 3만행 이상, 텍스트 70만어 이상에 필적한다. 덧붙여 연구 단계에선 최대 1,000만 토큰 처리에도 성공하고 있다.

실제로 제미나이 1.5 프로 데모 영상도 유튜브에 올렸는데 402페이지에 달하는 아폴로11호 기록을 읽는 것으로 402페잊 기록은 33만 토큰이라고 한다. PDF 파일을 올리고 3가지 웃을 수 있는 지점을 찾아 이모티콘을 붙이라는 프롬프트를 입력하기도 한다. 영상 중 주머니에서 종이를 꺼내는 순간을 찾아서 시간을 알려달라거나 필기 이미지를 바탕으로 발생 시간을 물어볼 수도 있다. 10만 행이 넘는 코드도 있는데 토큰수로는 82만이라고 한다. 텍스트로 코드 변경을 요청할 수도 있다.

제미나이 1.5 프로를 사용하려면 AI 스튜디오 대기목록에 등록하거나 기업이라면 버텍스 AI 계정팀에 문의하면 된다. 구글은 모델별 준비가 끝나면 12만 8,000토큰 컨텍스트창을 가진 제미나이 1.5 프로를 일반 공개하고 이후 모델을 개선하면서 100만 토큰까지 스케일업할 예정이다. 관련 내용은 이곳에서 확인할 수 있다.