마이크로소프트가 개발자 콘퍼런스 빌드 2020(Build 2020)에서 AI를 연구하는 비영리단체 오픈에이아이(OpenAI)와 제휴해 구축한 새로운 슈퍼컴퓨터 서비스를 마이크로소프트 애저(Microsoft Azure)에서 제공한다고 발표했다. 구축한 슈퍼컴퓨터는 세계 TOP5에 들어갈 만한 성능을 자랑한다고 한다.
마이크로소프트가 오픈에이아이와 연계해 구축한 슈퍼컴퓨터는 오픈에이아이 AI 모델을 교육하기 위해 특별히 설계한 것이다. 마이크로소프트는 차세대 대규모 AI 모델과 이를 교육하는데 필요한 인프라를 다른 조직과 개발자를 구축하는 플랫폼으로 사용할 수 있도록 하기 위한 첫 걸음이라고 밝히고 있다.
이 슈퍼컴퓨터는 28만 5,000개 이상 CPU 코어와 1만 개 이상 GPU를 탑재했다. 또 GPU 서버마다 400Gbps 고속 네트워크로 이뤄져 있고 마이크로소프트 애저에 연결되어 있지만 오픈에이아이 전용 자원으로 활용되고 있다.
또 마이크로소프트는 슈퍼컴퓨터 순위를 정하는 프로젝트인 TOP500에서 상위 5위권에 오를 만한 성능을 자랑한다고 밝히고 있다. 마이크로소프트는 슈퍼컴퓨터 전체 성능은 공개하지 않았지만 TOP5에 진입하려면 처리 능력이 초당 2만 3,000테라플롭스를 넘어야 한다.
이미지 인식과 언어 번역 등 AI는 단일 작업에 초점을 맞추고 구현되어 왔지만 앞으로의 연구 동향으로 여러 작업을 동시에 실행할 수 있는 대규모 AI 모델 개발에 집중할 수 있다. 예를 들어 마이크로소프트가 올해 공개한 AI 언어 모델인 마이크로소프트 튜링(Microsoft Turing)은 170억개 매개변수를 학습하는 세계 최대 자연어 생성 AI로 언어와 문법, 지식, 개념, 컨텍스트를 처리하면서 실시간으로 대화 관리와 수천 문장 검색, 깃허브 코드를 생성한다.
샘 알트만 오픈에이아이 CEO는 슈퍼컴퓨터를 구성하는 모든 구성 요소의 다양한 한계에 대해 많은 걸 배울 때마다 꿈의 시스템을 설계할 수 있다면 어떤 것일까 얘기를 나눠왔다며 마이크로소프트가 마침내 이를 만들 수 있었다고 밝혔다. 관련 내용은 이곳에서 확인할 수 있다.