멀티모달‧무료 사용 가능한 GPT-4o 미니 나왔다

오픈AI가 7월 18일 비용 효율이 뛰어난 소형 모델인 GPT-4o 미니(GPT-4o mini)를 발표했다. 저비용이면서도 일부 벤치마크에서 GPT-4를 상회하는 점수를 보인 GPT-4o 미니는 GPT-3.5 후속 모델로 무료 사용자와 챗GPT 플러스 사용자에게 제공이 시작됐다.

GPT-4o 미니는 언어 모델의 멀티태스크 언어 이해를 측정하는 벤치마크인 MMLU에서 82% 점수를 획득하고 LMSYS 리더보드에서도 GPT-4를 상회하는 평가를 받은 모델.

벤치마크의 결과를 보면 GPT-4o 미니는 GPT-4o에는 미치지 못하지만 대부분 벤치마크에서 GPT-3.5 터보와 구글 경량 모델인 제미나이 플래시(Gemini Flash), 앤트로픽 소형 모델인 클로드 하이쿠(Claude Haiku)를 상회하는 성적을 거뒀다.

뛰어난 성능을 보이면서도 저비용으로, 입력 토큰 100만 개당 비용은 15센트, 출력 토큰 100만 개당 60센트 밖에 들지 않아 GPT-3.5 터보보다 60% 이상 저렴하다.

Introducing GPT-4o mini! It’s our most intelligent and affordable small model, available today in the API. GPT-4o mini is significantly smarter and cheaper than GPT-3.5 Turbo.https://t.co/sqJsFEYHWq pic.twitter.com/g6jMttp1mF

— OpenAI Developers (@OpenAIDevs) July 18, 2024

GPT-4o 미니 입력 컨텍스트창 크기는 12만 8,000토큰이며 요청당 최대 1만 6,000 출력 토큰을 지원하고 2023년 10월까지의 지식을 갖추고 있다.

비용 외에 특기할 만한 점은 오픈AI가 개발한 안전 대책 기술인 명령 계층(instruction hierarchy)을 포함한 동사 첫 AI 모델이라는 것. 지시에 우선순위를 부여하는 이 기술로 인해 AI 모델은 프롬프트 인젝션 공격이나 자일브레이크 등 영향을 덜 받게 된다.

이미 GPT-4o 미니는 API를 통한 이미지 입력에 대응하고 있으며 오픈AI는 향후 텍스트, 이미지, 영상, 음성 입출력도 지원할 예정이라고 한다.

3가지 플랜(Free, Plus, Team) 챗GPT 사용자는 GPT-3.5 대신 GPT-4o 미니를 사용할 수 있다. 또 조만간 엔터프라이즈 사용자도 GPT-4o 미니에 접근할 수 있게 될 것이라고 한다.

오픈AI 측은 첨단 기술을 실현하고 가장 강력하고 유용한 애플리케이션을 구축한다는 자사 미션을 위해 앞으로도 최첨단 모델 개발을 계속해서 한계를 넓혀 나가고 싶지만 최고의 소형 모델도 제공하고 싶다고 밝혔다. 관련 내용은 이곳에서 확인할 수 있다.