미국 캘리포니아주에 위치한 IBM 연구소가 20년에 걸쳐 연구해왔다는 새로운 타입 디지털 칩인 노스폴(NorthPole) 존재가 밝혀졌다. 개발진에 따르면 뇌 계산 방법에서 영감을 얻어 컴퓨터 칩 기본 구조를 바꾼 것이다.
컴퓨터 칩은 반도체가 탄생한 이래 거의 같은 노이만형 기본 구조를 취하고 있으며 처리 유닛과 처리되는 정보를 저장하는 메모리는 별개로 이뤄져 있다. 이로 인해 수십 년간 단순한 구조로 충분한 확장이 이뤄졌지만 대신 노이만 병목 현상이 발생해 메모리, 프로세서, 기타 장치간에 데이터가 지속 이동하는데 시간과 에너지가 걸렸다.
이런 가운데 IBM 연구팀은 2014년 뇌에서 영감을 받았다는 칩 트루노스(TrueNorth)를 개발했고 8년에 걸쳐 신경추론용 새로운 타입 디지털 AI 칩인 노스폴 연구 개발을 진행해왔다. 노스폴을 탑재한 프로토타입 기기로 이미지 인식 모델(ResNet-50), 물체 검출 모델(YOLOv4) 테스트를 실시했는데 프레임당 필요 전력 줄수로 생각하면 에너지 효율은 일반적인 12nm 제조공정 GPU나 14nm GPU와 비교해 25배 뛰어났고 지연도 어떤 칩보다 적었다고 한다.
노스폴과 기존 제품간 가장 큰 차이점은 256개 코어에 각각 독자 메모리가 탑재되어 있어 기존 모든 칩보다 고속으로 AI 추론을 실행 가능하다고 한다. 연구팀은 아키텍처상 노스폴은 컴퓨팅과 메모리간 경계를 모호하게 만든다며 개별 코어 수준에서 노스폴은 니어 메모리 컴퓨팅(memory-near-compute)으로 보이지만 칩 외부와 입출력 수준에서 활성 메모리로 보인다고 설명한다.
하지만 노스폴의 가장 큰 장점은 동시에 제약이기도 하다. 오보드 메모리에서만 쉽게 꺼낼 수 있다는 문제가 있는 것. 코어마다 충분한 메모리를 탑재하고 있지만 이 메모리는 어디까지나 해당 코어에 한정된다. 내장된 메모리에서만 쉽게 가져올 수 있다는 것. 다른 곳에서 정보에 액세스해야 한다면 칩에서 가능한 모든 속도 향상이 약화될 수 있다. 노스폴은 어디까지나 추론 전용이다. 관련 내용은 이곳에서 확인할 수 있다.