GPU보다 15배 빠르다? CPU용 딥러닝 알고리즘

최근 AI는 인간이 손대지 않아도 컴퓨터가 자동으로 대량 데이터에서 데이터 특징을 발견하는 딥러닝이라는 학습법으로 움직인다. 이런 딥러닝은 컴퓨터 게임으로 대표되는 실시간 이미지 처리에 특화된 연산 장치 프로세서인 GPU로 처리되는 게 보통. 그런데 라이스대학 연구자가 인텔과 공동으로 GPU에 비해 최대 15배나 빠른 딥러닝을 할 수 있는 CPU용 소프트웨어를 개발했다.

딥러닝은 데이터에 존재하는 패턴이나 규칙 발견, 특징량 설정, 학습 등을 기계가 자동으로 수행하는 학습법이다. 패턴이나 규칙 발견 등을 인간이 해야 했던 기존 방식보다 인간 인식과 판단이라는 한계를 넘어설 수 있기 때문에 화상 인식과 번역, 자율주행 등 분야를 주도하는 기술이 됐다.

딥러닝은 원칙적으로 행렬 적화 연산을 수행한다. 한편 그래픽 처리를 위해 개발된 GPU는 입체 그래픽 다각형을 이동시키거나 회전하는 행렬 적화 연산을 수행하는 연산 장치. 다시 말해 GPU가 적화 연산에 특화되어 있기 때문에 최근에는 딥러닝에 최적 프로세서로도 사용된다는 것이다.

하지만 GPU는 비용이 든다는 문제가 있다. 이 문제를 해결하기 위해 라이스대학 연구자는 현재 행렬 적화 연산을 요구하는 딥러닝 알고리즘 자체에 주목했다. 연구팀은 딥러닝 학습을 해시 테이블에서 해결할 수 있는 검색 문제로 보고 연산 자체를 CPU에 최적화된 알고리즘인 SLIDE(Sub-Linear Deep Learning Engine)를 개발했다. 이 SLIDE는 GPU 기반 학습보다 뛰어난 성능을 발휘한다는 설명이다.

연구팀은 CPU가 컴퓨팅에서 가장 인기 있는 하드웨어라는 점에서 CPU를 이용한 기계학습은 비용 측면에서 장점이 있다고 강조했다. 행렬 연산에 충실한 SLIDE를 이용하면 GPU보다 4∼15배 빠른 핛습 속도를 CPU로 달성했다는 것이다. 관련 내용은 이곳에서 확인할 수 있다.