트랜지스터 4조개? 세계에서 가장 빠른 AI칩

AI 스타트업 셀라브라스(Cerebras)가 세계에서 가장 빠른 AI 칩인 WSE-3을 발표했다. WSE-3은 트랜지스터 4조 개를 탑재하고 있다. 회사 측은 그 뿐 아니라 AI 운용에서 병목이 되는 비용 대비 성능을 개선하기 위해 퀄컴 AI 100 울트라를 사용하는 한편 G42와 함께 새로운 AI 슈퍼컴퓨터인 CG-3(Condor Galaxy 3) 구축 계획도 발표했다.

WSE-3는 기존 AI 칩인 WSE-2보다 성능이 2배 높아졌고 소비 전력과 판매 가격은 같다. 주요 사양을 살펴 보면 앞서 밝혔듯 트랜지스터 수는 4조 개, AI 코어 수는 90만 개, AI 성능은 125PFLOPS, 온칩 SRAM은 44GB, 메모리 대역폭 21PB, 네트워크 패브릭 대역폭은 214Pbit다. 제조공정은 TSMC 5nm을 이용했고 외부 메모리는 1.5TB, 12TB, 1.2PB 3가지, AI 모델 훈련 수는 최대 24조 개 파라미터까지 가능하다. 클러스터 크기는 CS-3 시스템 그러니까 WSE-3을 탑재한 시스템 최대 2,048개다.

셀라브라스는 또 AI 추론에서 전례 없는 성능 실현을 위해 퀄컴 AI 100 울트라를 사용한다고 발표했다. 이를 통해 추론 비용을 최대 10분의 1로 줄일 수 있다는 설명이다.

G42와 함께 AI 슈퍼컴퓨터인 CG-3 구축 계획도 발표했다. CG-3는 WSE-3를 탑재한 CS-3 64대를 탑재해 AI 코어 수가 5,800만 개를 넘어서며 처리 속도는 8EFLOPS에 이른다. G42와 이전에 선보인 CG-1과 CG-2 등 AI 슈퍼컴퓨터는 지금까지 다양한 첨단 생성형 AI 모델(Jais-30B, Med42, Crystal-Coder-7B, BTLM-3B-8K) 훈련에 사용됐다. CG-3은 올해 2분기 출시 예정이다. 관련 내용은 이곳에서 확인할 수 있다.