테크레시피

“20만 토큰 처리” 클로드 2.1 나왔다

AI 스타트업인 앤트로픽(Anthropic)이 대규모 언어 모델인 클로드(Claude) 2.1을 발표했다. 클로드 2.1은 처리 가능한 토큰 수가 배가 되어 최대 20만 토큰을 처리할 수 있고 정밀도도 대폭 향상됐다.

클로드 2.1은 오픈AI GPT-4가 처리할 수 있는 3만 2,000토큰을 웃도는 20만 토큰을 처리할 수 있다. 이는 영어 단어 15만 단어, 500페이지 이상 자료에 해당한다. 대량 콘텐츠와 데이터를 한 번에 처리할 수 있다면 그 자체로 할 수 있는 작업 폭이 넓어진다. 앤트로픽은 20만 토큰을 처리할 수 있는 대규모 언어 모델을 업계 최초라고 표현하고 있다.

또 대규모 언어 모델에서 볼 수 있는 거짓말을 하는 이른바 환각 발생이 클로드 2.0에 비해 2분의 1로 감소했다고 한다. 앤트로픽이 클로드 2.1 약점을 탐구하는 테스트를 진행한 결과 클로드 2.1은 부정확한 정보를 제공하는 게 줄었다고 한다. 앤트로픽 측은 계속 출력 정확성과 신뢰성을 높이기 위해 노력을 기울이고 있다고 밝혔다.

클로드 2.1 출시로 앤트로픽은 베타 버전 새 기능으로 도구를 제공하기 시작했다. 사용자는 데이터베이스 검색 또는 웹 검색 API를 이용해 질문을 답변하거나 개인 API를 통해 소프트웨어에서 작업을 수행할 수 있다. 발표 단계에서 도구 이용은 개발 초기 상태로 개발자 전용 기능이나 가이드라인을 작성 중이라고 한다.

클로드 2.1은 현재 API를 통해 이용하는 것 외에 채팅 서비스(claude.ai)로 무료와 프로 버전 양쪽 모두 액세스할 수 있다. 하지만 최대 20만 토큰 처리는 클로드 프로 사용자로 제한한다. 관련 내용은 이곳에서 확인할 수 있다.

정용환 기자

대기업을 다니다 기술에 눈을 떠 글쟁이로 전향한 빵덕후. 새로운 기술과 스타트업을 만나는 즐거움을 독자들과 함께 나누고 싶습니다.

뉴스레터 구독

Most popular