GPT-4o 능가? 퍼플렉시티, Llama 3.3 70B 기반 AI 발표

AI 기업 퍼플렉시티AI(Perplexity AI)가 자사 독자 모델인 소나(Sonar) 새 버전을 출시했다고 밝혔다. 이 버전은 GPT-4o 미니와 클로드 3.5 하이쿠 같은 동급 모델을 크게 앞서고 사용자 만족도에서는 GPT-4o와 클로드 3.5 소넷 같은 최상위 모델을 능가하는 것으로 나타났다.

소나 새 버전은 유료 서비스인 퍼플렉시티 프로(Perplexity Pro) 가입자가 AI 검색 엔진 퍼플렉시티에서 사용할 수 있다. 소나는 메타 대규모 언어 모델인 Llama 3.3 70B를 기반으로 구축됐으며 퍼플렉시티 기본 검색 모드에서 답변의 정확성과 가독성을 향상시키도록 훈련됐다고 한다.

A/B 테스트를 통해 사용자에게 새 모델을 시험한 결과 만족도는 클로드 3.5 소넷과 거의 동등했으며 GPT-4o 미니, 클로드 3.5 하이쿠 같은 동급 모델을 크게 앞섰다고 한다. 이는 모델이 질문에 얼마나 잘 답변할 수 있는지 마크다운(Markdown)을 적절히 사용해 읽기 쉬운 형태로 구성했는지 등 지표로 측정됐다.

정확성(FACTUALITY), 가독성(READABILITY), 솔직성(IFEval), 지식의 폭(MMLU) 등 지표를 수치화한 결과 소나는 정확성과 가독성에서 타사 모델을 앞섰고 솔직성과 지식의 폭에서는 타사 모델과 비슷한 성능을 보였다.

응답 속도도 빨라 제미나이 2.0 플래시 같은 동급 모델보다 10배 가까이 빠른 디코드 처리량을 달성해 놀라운 속도로 답변을 제공한다고 한다. 소나와 GPT-4o 출력 결과를 비교하면 소나는 개인 경력을 글머리 기호로 표시하는 등 읽기 쉽게 구성된 것을 알 수 있다.

퍼플렉시티AI는 소나는 빠르고 정확한 답변 제공에 뛰어나며 일상적으로 사용하기에 최적화된 모델이라며 퍼플렉시티 프로 사용자는 설정에서 소나를 기본 모델로 지정할 수 있으며 또 소나 API를 통해 사용할 수도 있다고 안내했다. 관련 내용은 이곳에서 확인할 수 있다.