테크레시피

오픈AI, 챗GPT 추론 처리에 구글 TPU 사용 시작

오픈AI가 구글이 독자 개발한 기계학습용 프로세서 TPU를 사용하기 시작했다는 보도가 나왔다. 구글 클라우드를 통해 이용하며 추론 비용 절감을 목표로 하고 있다는 것.

관계자에 따르면 오픈AI는 챗GPT 등 자사 제품 동작을 처리하기 위해 구글 TPU를 임대하기 시작했다고 한다.

보도에선 이 계약은 구글에게 내부 사용에 한정되어 있던 TPU 외부 이용을 확대하는 움직임 일환이며 오픈AI에게는 엔비디아 외 칩을 의미 있는 형태로 처음 사용하는 것이다. 오픈AI는 마이크로소프트 데이터센터에 대한 의존에서 벗어나는 자세를 보였다고 전했다.

보도에선 오픈AI가 TPU를 사용하기 시작한다는 건에 대해 오픈AI는 구글 클라우드를 통해 임대하는 TPU가 추론 비용 절감에 도움이 될 것으로 기대한다고 밝혔다고 전했다.

오픈AI는 엔비디아 GPU를 대량 구매하고 있으며 마이크로소프트 등 데이터센터를 이용해 AI 훈련과 추론에 활용하고 있다.

오픈AI는 마이크로소프트로부터 거액을 출자받았지만 오픈AI가 주식 공개를 목표로 하고 있고 소프트뱅크나 오라클 같은 파트너 도움으로 독자적인 대규모 컴퓨팅 인프라를 구축하고 있는 가운데 언젠가는 마이크로소프트로부터 독립할 것으로도 보인다. 관련 내용은 이곳에서 확인할 수 있다.

이원영 기자

컴퓨터 전문 월간지인 편집장을 지내고 가격비교쇼핑몰 다나와를 거치며 인터넷 비즈니스 기획 관련 업무를 두루 섭렵했다. 현재는 디지털 IT에 아날로그 감성을 접목해 수작업으로 마우스 패드를 제작 · 판매하는 상상공작소(www.glasspad.co.kr)를 직접 운영하고 있다. 동시에 IT와 기술의 새로운 만남을 즐기는 마음으로 칼럼니스트로도 활동 중이다.

뉴스레터 구독