테크레시피

오픈AI, AI 최신 모델 이용 플랫폼 파운드리 시작해

오픈AI가 최신 모델을 이용할 수 있는 플랫폼인 파운드리(Foundry)를 시작해 일부 사용자에게 얼리 액세스권을 부여하고 있다. 가격은 GPT-3 터보(GPT-3.5 Turbo) 모델 인스턴스 월 2만 6,000달러, DV(32K max context) 모델 인스턴스 월 15만 6,000달러로 설정되어 있다고 한다.

파운드리에 대해 오픈AI는 자사 최신 모델을 전용 설비로 움직이기 위한 플랫폼이라고 표현하고 곧 미세 조정 옵션이 제공될 예정이라고 밝히고 있다. 전용 할당 영역은 오픈AI가 사용하는 퍼블릭 클라우드 플랫폼인 애저에 정적 할당되는 것으로 보이며 사용자는 오픈AI가 모델을 구축하고 최적화하는데 사용하는 것과 같은 도구, 대시보드를 이용한다. 그런 다음 특정 인스턴스를 모니터링할 수 있다.

파운드리 이용은 3개월 단위 혹은 1년 단위 중 선택할 수 있으며 연 단위로 지불하면 15% 가량 할인된다. 가격은 1유닛당 월 260달러, 연액이라면 2,640달러다. 인스턴스당 가격을 보면 GPT-3.5 터보는 100유닛/인스턴스당 3개월 이용 기준 7만 8,000달러 혹은 1년 이용 기준으로는 26만 400달러다. DV(최대 컨텍스트 8K)는 300유닛/인스턴스 기준 3개월 23만 4,000달러, 1년 기준 79만 8,000달러다. DV(최대 컨텍스트 32K)는 600유닛/인스턴스 기준 3개월 46만 8,000달러, 1년 기준 158만 4,000달러다.

참고로 DV란 다빈치(Davinci)로 거의 GPT-4라고 할 수 있다. DV 인스턴스에 설정되어 있는 최대 컨텍스트란 모델이 텍스트 생성 전 고려하는 텍스트량을 나타내는 컨텍스트 윈도를 말하며 GPT 3.5라면 최대 4K 컨텍스트 윈도가 있다. 보도에선 오픈AI의 이런 시책에 대해 마이크로소프트로부터 거액 출자를 받으면서 이익을 올려야 하는 압력에 노출되어 있다는 점을 지적하기도 한다. 관련 내용은 이곳에서 확인할 수 있다.

추천기사