
오픈AI가 구글이 독자 개발한 기계학습용 프로세서 TPU를 사용하기 시작했다는 보도가 나왔다. 구글 클라우드를 통해 이용하며 추론 비용 절감을 목표로 하고 있다는 것.
관계자에 따르면 오픈AI는 챗GPT 등 자사 제품 동작을 처리하기 위해 구글 TPU를 임대하기 시작했다고 한다.
보도에선 이 계약은 구글에게 내부 사용에 한정되어 있던 TPU 외부 이용을 확대하는 움직임 일환이며 오픈AI에게는 엔비디아 외 칩을 의미 있는 형태로 처음 사용하는 것이다. 오픈AI는 마이크로소프트 데이터센터에 대한 의존에서 벗어나는 자세를 보였다고 전했다.
보도에선 오픈AI가 TPU를 사용하기 시작한다는 건에 대해 오픈AI는 구글 클라우드를 통해 임대하는 TPU가 추론 비용 절감에 도움이 될 것으로 기대한다고 밝혔다고 전했다.
오픈AI는 엔비디아 GPU를 대량 구매하고 있으며 마이크로소프트 등 데이터센터를 이용해 AI 훈련과 추론에 활용하고 있다.
오픈AI는 마이크로소프트로부터 거액을 출자받았지만 오픈AI가 주식 공개를 목표로 하고 있고 소프트뱅크나 오라클 같은 파트너 도움으로 독자적인 대규모 컴퓨팅 인프라를 구축하고 있는 가운데 언젠가는 마이크로소프트로부터 독립할 것으로도 보인다. 관련 내용은 이곳에서 확인할 수 있다.