API 업데이트 발표한 오픈AI

오픈AI가 API 가격과 기능을 크게 높인 업데이트를 발표했다. 해팅 AI를 통합한 제품 가능성이 더 넓어지는 내용을 담고 있다.

개선된 내용을 보면 먼저 챗 컴플리션 API(Chat Completions API)에 함수 호출 기능 추가. 이 API는 채팅 이력을 바탕으로 응답을 생성하는 것이다. 이번 업데이트에선 GPT-3.5 터보, GPT-4 모델에서 입력에 함수 정보를 포함할 수 있게 됐다. 예를 들어 날씨 정보를 얻는 함수를 준비하고 해당 함수 정보를 사용자 대화 데이터와 함께 이 API에 송신하면 사용자가 날씨 관련 질문을 하는 경우 등 필요에 따라서 이 함수를 이 인수로 호출하라는 데이터가 변환된다. 앱 측에서 함수 실행 결과를 다시 API에 제출해 적절한 응답을 생성한다.

기존 모델은 2주 뒤인 6월 27일까지 갱신되지 않지만 함수 호출 기능을 지금 사용하고 싶다면 모델명 뒤에 0613을 붙이면 가능하다. 예를 들어 GPT-4라면 GPT-4-0613이라는 이름으로 모델을 지정하면 함수 호출 기능이 있는 모델에 액세스할 수 있다.

다음은 새로운 모델인 GPT-3.5 터보 16k(GPT-3.5-turbo-16k). 기존 GPT-3.5 터보 모델에선 취급할 수 있는 토큰수가 4096토큰까지 되어 있었다. 다만 새로운 16k 모델에선 1만 6,384토큰까지 취급할 수 있게 된다. 가격은 입력 1,000토큰당 0.003달러, 출력은 1,000토큰당 0.004달러다.

셋째는 모델 대체 타임라인. GPT-3.5 터보나 GPT-4 등 모델명만으로 액세스했을 경우 내용은 6월 27일 새로운 버전으로 바뀐다. 기존 버전을 계속 이용하고 싶다면 모델명으로 지정(gpt-3.5-turbo-0301, gpt-4-0314, gpt-4-32k-0314)하면 된다. 하지만 이런 오래된 모델 사용은 9월 13일 종료된다.

넷째 가격. 텍스트를 수치로 변환해 검색이나 유사성 비교에 이용할 수 있도록 하는 모델(text-embedding-ada-002) 요금이 75% 감소해 1,000토큰당 0.0001달러로 사용할 수 있다. GPT-3.5 터보 모델 요금은 25% 감소해 입력 1,000토큰당 0.0015달러, 출력은 1,000토큰당 0.002달러가 됐다. GPT-3.5 터보-16k 모델 반값이다.

이 모델을 업데이트하는 것 외에도 블로그를 통해 앞으로 몇 주간 GPT-4 대기 목록을 줄이고 궁극적으로 대기 목록을 완전히 삭제할 예정이라고 밝혔다. 관련 내용은 이곳에서 확인할 수 있다.