마이크론이 용량 36GB인 12단 적층 HBM3E 출하를 시작했다고 발표했다. 마이크론이 개발한 36GB 12단 적층 HBM3E는 1.2TB/sec를 초과하는 메모리 대역폭을 제공하며 AI 개발에 도움이 될 것임을 강조하고 있다.
AI 개발에서는 방대한 데이터를 다뤄야 하기 때문에 계산 처리를 수행하는 프로세서 뿐 아니라 데이터 이동과 관련된 메모리 용량과 대역폭도 중요한 요소다. 마이크론은 이미 24GB 8단 적층 HBM3E를 양산하고 있으며 엔비디아 고성능 AI 처리 칩인 H200에도 채택됐다.
새롭게 개발된 36GB 12단 적층 HBM3E는 1.2TB/sec를 초과하는 메모리 대역폭을 제공하며 대규모 AI 모델도 단일 프로세서에서 실행할 수 있다. 또 소비 전력은 경쟁사 24GB 8단 적층 HBM3E와 비교해 크게 낮아졌다.
마이크론 36GB 12단 적층 HBM3E는 이미 업계 파트너를 대상으로 출하됐으며 AI 생태계에서의 채택을 위해 테스트가 진행되고 있다.
한편 36GB 12단 적층 HBM3E는 삼성전자도 출하를 시작했다. 관련 내용은 이곳에서 확인할 수 있다.