무어의 법칙은 반도체 회로 트랜지스터 수가 1.5년마다 2배가 된다는 원칙이다. 그런데 엔비디아 엔지니어 출신 전문가가 무어의 법칙보다 5배에서 100배 속도로 인공지능이 빠르게 성장하고 있다고 말해 눈길을 끈다.
지포스 익스피리언스(GeForce Experience) 등에 참여했던 엔비디아 엔지니어 제임스 왕은 2010년부터 2020년까지 인공지능 학습 모델에 소요되는 컴퓨터 연산 처리 능력은 급격하게 증가하고 있다고 말한다. 1958년 퍼셉트론이 등장한 이후 2010년까지 연산 처리 능력은 2년마다 2배로 늘어났다. 하지만 2010년에서 2020년 처리 능력은 1년마다 10배씩 무어의 법칙보다 5배 이상 속도로 성장한다. 구글의 알파고 제로나 테슬라 오토파일럿 등 대기업이 장기적인 투자 수익을 기대하고 인공지능 개발에 막대한 예산을 투입하고 엔비디아 역시 딥러닝을 하고 대학과 공동으로 연구 개발을 진행한다.
또 인공지능 딥러닝 학습 비용은 매년 10분의 1로 감소하고 있다는 것도 중요한 포인트라는 지적이다. 예를 들어 2017년경에는 ResNet-50 같은 이미지 인식 네트워크를 공용 클라우드에서 훈련하려면 1,000달러 가량이 필요했다. 하지만 2019년에는 비용은 10달러까지 떨어졌다. 2017∼2019년까지 비용 감소 추세가 유지되면 2020년에는 비용은 1달러까지 내려갈 수 있을 것으로 추정된다고 한다.
그 뿐 아니라 사진 10억 장을 분류하기 위한 비용은 2017년 1만 달러였지만 2020년에는 불과 0.03달러까지 하락했다. 딥러닝 관련 비용 변화율을 무어의 법칙과 비교하면 무어의 법칙보다 10∼100배 변화하고 있다는 주장이다. 급격한 비용 감소를 가능하게 한 건 하드웨어와 소프트웨어 모두 획기적으로 발전했고 2017∼2020년 사이 IC 칩과 시스템 설계 기술이 크게 발전해 딥러닝 전용 하드웨어 등이 등장했기 때문이다.
스탠포드대학 벤치마킹을 이용해 계산한 엔비디아 테슬라 하드웨어와 소프트웨어 성능 평가를 봐도 테슬라 K80과 견줘 테슬라 V100은 성능이 16배 증가했다. 또 테슬라 V100에서 딥러닝 프레임워크인 텐서플로(TensorFlow)와 파이토치(PyTorch) 등을 결합하면 소프트웨어 성능은 7배 향상된 것으로 보고되고 있다.
물론 하드웨어 비용은 감소하지 않고 몇 년에 걸쳐 고액 상태이기도 하다. 예를 들어 엔비디아의 데이터센터를 위한 GPU 가격은 과거 3세대와 비교하면 가격이 3배 상승하고 있다. AWS는 2017년 엔비디아의 테슬라 V100을 도입한 이후 서비스 가격은 일정하게 유지된다.
또 인공지능 기술이 이대로 향상된다면 전 세계 주식 시장에서 AI 관련 기업의 시가총액도 크게 높아질 것이라는 주장이다. 2019년 시점에는 인공지능은 전 세계 주식 시장에서 시가총액 1조 달러 정도지만 2037년까지 30조 달러까지 규모를 확대해 인터넷 관련 기업보다 높은 시가총액이 될 것이라는 예상이다.
AI 연산 처리 능력 향상과 딥러닝 비용 감소 속도, 주식 시장의 시가총액 등을 근로로 AI는 여전히 발전 과정에 있으며 아마도 수십 년간 지속적으로 성장할 것이라는 예측이다. 관련 내용은 이곳에서 확인할 수 있다.