메타가 대규모 언어 모델 LLaMA 3.1을 7월 23일 출시했다. LLaMA 3.1은 오픈 소스로 공개됐으며 GPT-4나 GPT-4o와 같은 최첨단 클로즈드 소스 AI 모델과 동등하거나 그 이상 성능을 갖추고 있다고 한다.
LLaMA 3.1은 파라미터 수 4,050억, 700억, 80억 모델이 준비되어 있으며 모든 모델이 12만 8,000 컨텍스트창을 갖추고 있다.
파라미터 수 4050억인 LLaMA 3.1 405B 벤치마크 결과를 보면 여러 테스트에서 GPT-4와 GPT-4o를 능가하는 점수를 기록했다. 또 LLaMA 3.1 405B와 GPT-4, GPT-4o, 클로드 3.5 소넷 출력 결과를 인간에게 비교하게 한 결과 역시 절반 이상 피험자가 LLaMA 3.1 405B 출력 결과를 3가지 모델과 동등하거나 그 이상으로 평가했다고 한다. LLaMA 3.1 8B와 LLaMA 3.1 70B 벤치마크 결과는 모두 같은 규모의 모델과 비교해 높은 점수를 기록했다.
이미 엔비디아 AI 플랫폼인 엔비디아 NIM에서 LLaMA-3.1-405b-instruct를 활용한 채팅 AI 데모를 이용할 수 있다.
LLaMA 3.1은 이미 메타 공식 사이트나 허깅페이스에서 배포되고 있으며 무료로 다운로드 가능하다. 또 LLaMA 3.1은 LLaMA 3.1 COMMUNITY LICENSE AGREEMENT라는 라이선스 하에 공개되어 있으며 일정 조건 하에서 재배포나 상업적 이용이 가능하다.
한편 메타 마크 저커버그 CEO는 LLaMA 3.1의 발표에 맞춰 AI의 밝은 미래를 위해서는 오픈 소스가 필수적이라며 LLaMA 프로젝트는 효율성 향상, 처리 칩의 최적화, 생태계 발전을 위해 오픈 소스화하고 있으며 오픈 소스화로 인해 기술적 유의성이 손상되지 않을 것으로 생각한다고 강조하며 지금까지의 LLaMA는 메타 사내용 프로젝트였지만 LLaMA 3.1에서는 가능한 한 많은 개발자와 파트너가 이용할 수 있도록 사내 팀을 편성하고 있다는 성명을 발표했다. 관련 내용은 이곳에서 확인할 수 있다.