이원영 기자
이미지 생성 AI나 대규모 언어 모델 등 연산 처리에 그래픽카드를 사용하면 GPU 처리 성능 외에도 VRAM 용량이 중요시된다. 그래픽카드에 VRAM을 증설하는 건 기본적으로 불가능하지만 최근 하드웨어 제조업체인 파네시아(Panmnesia)가 그래픽카드에 메모리를 외장으로 증설할 수 있게 하는 시스템인 CXL-GPU를 개발했다.
AI 관련 처리를 그래픽카드로 실행하면 VRAM 용량이 적으면 모델 데이터를 로드하지 못해 처리를 시작할 수 없거나 메모리 스왑이 발생해 처리 속도가 저하되는 것 같은 문제가 발생한다. 이 때문에 AI 관련 처리를 실행하고 싶을 경우 VRAM 용량이 큰 그래픽카드를 구입해야 한다. 또 VRAM 용량이 큰 그래픽카드를 구입했더라도 모델 데이터 규모가 증가하는 추세이기 때문에 몇 년 뒤에는 VRAM 부족으로 고민할 가능성이 있다. DRAM이나 SSD 등은 나중에 쉽게 증설할 수 있지만 그래픽카드에 VRAM을 증설하는 건 기본적으로 불가능하다. 이런 상황에서 파네시아가 그래픽카드에 VRAM을 외장으로 증설할 수 있는 시스템인 CXL-GPU를 개발한 것.
CXL-GPU는 DRAM이나 SSD를 VRAM으로 인식시켜 그래픽카드 VRAM을 증설할 수 있게 해준다. DRAM을 VRAM으로 취급하는 기술로는 이미 통합 가상 메모리(UVM)가 존재하지만 UVM에는 지연이 크고 처리 성능이 저하되기 쉽다는 문제가 있다. CXL-GPU 지연은 단 두 자릿수 나노초로 처리 성능 저하를 억제할 수 있다고 한다.
파네시아 측 테스트에서는 CXL-GPU를 사용한 시스템이 UVM을 사용한 시스템에 비해 커널 실행 속도가 3.23배 향상된 것으로 확인됐다고 한다.
한편 CXL-GPU가 시판 제품에 적용될지 여부와 시기는 아직 불분명하다. 관련 내용은 이곳에서 확인할 수 있다.
이석원 기자
