미스트랄AI, 코드 생성‧수학 능력 높인 AI 출시

프랑스 AI 개발 기업 미스트랄AI(Mistral AI)가 새로운 세대 주력 모델인 미스트랄 라지2(Mistral Large 2)를 7월 24일 발표했다. 미스트랄 라지2는 코드 생성, 수학, 추론 능력이 대폭 향상됐을 뿐 아니라 128k 컨텍스트창을 갖고 있으며 수십 종류 언어와 프로그래밍 언어에도 대응한다.

미스트랄 라지2 모델 크기는 1,230억 파라미터로 단일 노드에서 높은 처리량을 실현할 수 있도록 설계됐다고 한다. 또 128k 컨텍스트창을 갖고 있으며 영어 외에도 한국어, 프랑스어, 독일어, 스페인어, 이탈리아어, 포르투갈어, 아랍어, 힌디어, 러시아어, 중국어, 일본어 등 다수 언어를 지원한다. 더불어 파이썬, 자바, C, C++, 자바스크립트, Bash를 포함한 80개 이상 프로그래밍 언어에도 대응하고 있다.

미스트랄AI 측은 미스트랄 라지2가 일반 성능 평가 지표인 MMLU(Massive Multitask Language) 벤치마크에서 84.0% 정확도를 달성했다고 강조하고 있다. 그 중에서도 코드 생성과 추론 능력 면에서는 이전 세대 미스트랄 라지를 크게 뛰어넘어 GPT-4나 클로드3 오푸스, LLaMA 3 405B와 같은 모델과 동등한 성능을 보여주고 있다고 한다.

수학적 추론 능력도 향상되어 MultiPL-E, GSM8K, MathInstruct 등 수학 벤치마크에서 높은 정확도를 달성했다. 미스트랄AI 측은 미스트랄 라지2에서는 환각을 최소화하려는 노력이 이뤄졌으며 이는 수학적 벤치마크에서의 성능 향상에도 반영됐다고 주장했다.

코드 생성 정확도를 언어별로 보면 오픈AI GPT-4o에 버금가는 성능을 보여준다. 지시를 따르는 능력이나 대화 능력 평가에서는 다양한 벤치마크(MTBench, Wild Bench, Arena Hard)에서 높은 점수를 기록했다. 주목할 만한 점은 모델 응답이 간결한 걸 중시하고 있다는 것으로 짧은 생성은 신속한 대화를 가능하게 하고 추론 비용도 낮게 유지할 수 있다고 한다.

언어 다양성에서도 뛰어난 성능을 보여주고 있으며 Multilingual MMUL 벤치마크에서 미스트랄 라지2는 영어 이외의 언어에서도 높은 점수를 달성했다. 특히 영어 외에도 한국어, 프랑스어, 독일어, 스페인어, 이탈리아어, 포르투갈어, 네덜란드어, 러시아어, 중국어, 일본어, 아랍어, 힌디어에서 우수한 성능을 발휘했다고 보고되고 있다. 4050억 파라미터인 LLaMA 3.1 405B와 거의 동등한 80% 이상 정확도를 보여주고 있다.

또 미스트랄 라지2는 함수 호출이나 정보 검색 스킬이 강화되어 있어 병렬 및 순차적인 함수 호출을 효율적으로 실행할 수 있다고 한다. 이를 통해 복잡한 비즈니스 애플리케이션 핵심 엔진으로 기능할 수 있게 됐다.

미스트랄 라지2는 La Plateforme에서 mistral-large-2407로 이용 가능할 뿐 아니라 허깅페이스에서 모델이 배포되어 있어 API를 통해 접근할 수 있다. 또 구글 클라우드 플랫폼 버텍스 AI, 애저 AI 스튜디오, 아마존 베드록, IBM 왓슨엑스에이아이 등 주요 클라우드 서비스 제공업체를 통해서도 이용 가능하다. 미스트랄AI는 미스트랄 라지2를 통해 고성능 AI 모델을 더 넓은 범위 사용자에게 제공하는 걸 목표로 하고 있다.

한편 미스트랄 라지2는 연구용 및 비상업적 이용에 대해서는 미스트랄 리서치 라이선스(Mistral Research License) 하에서 출시되어 있으며 상업적 이용은 미스트랄AI에 연락한 뒤 미스트랄 커머셜 라이선스(Mistral Commercial License)를 취득해야 한다. 관련 내용은 이곳에서 확인할 수 있다.