xAI, 엔비디아 H100 10만개 탑재한 콜로서스 가동 시작

일론 머스크가 설립한 AI 기업 xAI가 AI 학습 클러스터 콜로서스(Colossus) 가동을 시작했다는 게 밝혀졌다. 콜로서스에는 엔비디아가 제조한 고성능 AI 처리 칩 H100 10만 대가 탑재되어 있다고 한다.

9월 2일 머스크가 이번 주말 xAI 팀은 H100을 10만 대 탑재한 AI 학습 클러스터 콜로서스를 온라인에 올렸다며 콜로서스 구축에는 122일이 소요됐으며 콜로서스는 세계에서 가장 강력한 AI 학습 시스템이라고 포스팅하며 콜로서스 가동 시작을 보고했다. 동시에 머스크는 콜로서스 규모는 몇 개월 내 H100 20만 대로 2배가 될 것이라고도 언급했다.

This weekend, the @xAI team brought our Colossus 100k H100 training cluster online. From start to finish, it was done in 122 days.

Colossus is the most powerful AI training system in the world. Moreover, it will double in size to 200k (50k H200s) in a few months.

Excellent…

— Elon Musk (@elonmusk) September 2, 2024

엔비디아 공식 엑스 계정도 머스크에 반응해 세계 최대 GPU 슈퍼컴퓨터인 콜로서스가 기록적인 속도로 온라인에 올라간 것에 흥분하고 있다며 콜로서스는 자사 가속 컴퓨팅 플랫폼을 활용해 에너지 효율 향상과 획기적인 처리 능력을 제공한다고 밝혔다.

Exciting to see Colossus, the world’s largest GPU #supercomputer, come online in record time. Colossus is powered by @nvidia's #acceleratedcomputing platform, delivering breakthrough performance with exceptional gains in #energyefficiency.

Congratulations to the entire team! https://t.co/UXHtPCELly

— NVIDIA Data Center (@NVIDIADC) September 2, 2024

머스크는 지난 5월 투자자에게 H100을 10만 대 배치할 예정이라고 말했으며 이번 발표로 이런 계획이 실현된 형태다. 한편 xAI는 범용 인공지능(AGI) 개발을 목표로 하고 있음을 공언하고 있으며 AGI 연구에 관여할 인재를 모집하고 있다. 관련 내용은 이곳에서 확인할 수 있다.