엔비디아, MS 손잡고 대규모 클라우드 AI 컴퓨터 구축한다

엔비디아가 AI 전문 대규모 클라우드 컴퓨터를 구축하기 위해 마이크로소프트와 협력한다고 발표했다. 이 컴퓨터에는 엔비디아가 2022년 10월 발표한 GPU인 호퍼 H100(Hopper H100) 수만 기가 탑재될 예정이며 엔비디아와 마이크로소프트는 전 세계에서 가장 강력한 AI 슈퍼컴퓨터 중 하나가 되는 걸 목표로 하고 있다고 한다.

올해는 스테이블 디퓨전이나 달리2, 미드저니 등 사용자가 만들고 싶은 이미지를 자동으로 만들어주는 AI 생성 모델이 급성장했다. 이미지 뿐 아니라 영화나 음성, 문자 등 용도에 대응하는 유사 모델도 등장하고 있다. 하지만 이런 모델에 학습시키려면 많은 연산 리소스가 필요하기 때문에 고성능 GPU를 탑재한 컴퓨터가 요구된다.

엔비디아와 마이크로소프트가 공동 개발하는 이 컴퓨터는 마이크로소프트 애저가 기반이 되어 AI 분산 트레이닝과 추론에 최적화된 가상 머신이 포함되어 있다. 엔비디아 입장에선 첫 고급 AI 스택을 포함한 퍼블릭 클라우드가 될 예정으로 GPU에는 호퍼 H100이나 엔비디아 A100을 수만 기, 엔비디아 퀀텀-2 인피니밴드(NVIDIA Quantum-2 InfiniBand) 아키텍처를 채택해 400GB/sec 대역폭을 실현하고 엔비디아 AI 엔터프라이즈 소프트웨어 스위트를 플랫폼에 추가한다. 또 클라우드 기반은 마이크로소프트 애저이며 마이크로소프트는 ND 시리즈와 NC 시리즈 가상 머신을 제공할 예정이다.

엔비디아는 협업 일환으로 마이크로소프트 애저 확장 가능한 가상 머신 인스턴스를 활용해 제너레이션 AI 발전을 연구하고 가속화할 것이지만 새로운 문장과 코드, 디지털 이미지, 영화와 음성을 만들어내는 자기 학습 알고리즘 기초가 될 것이라고 밝히고 있다. 또 동시에 마이크로소프트의 심층 학습 최적화 소프트웨어인 딥스피드(DeepSpeed)도 이 AI 컴퓨터로 연구가 진행된다고 한다. 엔비디아는 자사와 마이크로소프트 클라우드 컴퓨터를 통해 고객은 클러스터 하나에 수천 개 GPU를 도입하고 대규모 언어 모델을 훈련하고 가장 복잡한 시스템을 대규모로 구축하며 규모가 큰 개발을 실현할 수 있다고 밝히고 있다.

또 엔비디아가 2023년 3분기 결산을 발표하고 있다. 수익은 59억 3,000만 달러로 전년 동기부터 17% 감소, 전 분기부터 12% 감소했다. 이 가운데 데이터센터 수익을 보면 38억 3,000만 달러로 전년 동기 대비 31% 증가했다. 젠슨황 엔비디아 CEO는 가속화된 컴퓨팅에서 엔비디아의 선구적 노력은 전례없이 중요해지고 있다고 밝히고 있다. 관련 내용은 이곳에서 확인할 수 있다.