정용환 기자
오픈AI가 구글 AI칩 TPU를 AI 추론에 채택하기 위해 움직이기 시작했다는 게 지난 6월 말 보도됐지만 새롭게 오픈AI가 현시점에서는 TPU를 대규모로 전개할 계획이 없다고 표명했다.
구글은 2010년대부터 기계학습에 특화된 프로세서 개발에 착수하기 시작해 2016년 기계학습 특화 프로세서인 TPU(Tensor Processing Unit) 존재를 공표했다. TPU는 2017년부터 구글 클라우드 서비스를 통해 일반 사용자에게도 제공되기 시작했으며 정기적으로 세대 업데이트가 발표되고 있다. 지난 4월 등장한 제7세대 TPU 아이언우드(Ironwood)는 칩당 192GB 메모리를 탑재하고 처리 속도는 칩당 4614TFLOPS에 도달한다. 이로 인해 각종 추론 모델 고속 실행이 가능해진 게 어필되고 있다.
오픈AI는 엔비디아 대구매 고객으로 알려져 있으며 H100이나 H200과 같은 엔비디아 AI칩을 대량 구매해 대규모 AI 인프라스트럭처를 구축하고 있다. 그런 오픈AI가 자사 AI를 처리하기 위해 구글 TPU를 렌탈하기 시작했다는 게 지난 6월 28일 보도됐다. 이때 보도에선 이 계약은 구글에게 있어 내부 사용에 한정되어 있던 TPU 외부 이용을 확대하는 움직임 일환이며 오픈AI에게 있어 엔비디아 이외 칩을 의미 있는 형태로 처음 사용하는 게 된다. 오픈AI는 마이크로소프트 데이터센터에 대한 의존에서 벗어나는 자세를 보였다고 지적했다.
Here’s to our ongoing collaboration with @OpenAI, as we continue to shape the future of AI together.https://t.co/123x2JqRVb
— NVIDIA Newsroom (@nvidianewsroom) July 2, 2025
그 후 6월 30일 오픈AI 측 관계자가 오픈AI 연구소에서는 구글 TPU를 이용한 초기 단계 테스트를 실행하고 있지만 현시점에서는 TPU를 대규모로 전개할 계획은 존재하지 않는다는 성명을 발표했다. 이로 인해 오픈AI가 TPU 테스트를 진행하고 있다는 게 사실임이 판명됐지만 실제 제품에서 TPU가 사용되는 단계에 있는 건 아니라는 것도 명확해졌다. 다만 구글은 코멘트를 자제하고 있다. 엔비디아는 앞으로도 오픈AI와의 협력을 통해 AI의 미래를 함께 만들어 나가겠다고 밝혔다. 관련 내용은 이곳에서 확인할 수 있다.
이원영 기자
이석원 기자
