빙챗→코파일럿‧독자 AI 칩 발표한 마이크로소프트

마이크로소프트가 독자 설계한 AI 특화형 칩인 마이아100(Maia 100)과 ARM 아키텍처를 채택한 CPU인 코발트100(Cobalt 100)을 발표했다. 두 칩은 2024년 중 마이크로소프트 데이터센터에 배포되어 마이크로소프트 코파일럿과 애저 오픈AI 서비스(Azure OpenAI Service) 기능 강화에 사용할 예정이다.

마이아100은 마이크로소프트 클라우드 컴퓨팅 서비스인 애저 상에서 동작을 염두에 두고 설계한 AI 특화 칩으로 설계를 애저 구성 하드웨어군에 최적화해 성능과 효율 극대화를 달성하고 있다. 또 마이아100은 챗GPT 등 개발로 알려진 AI 개발 기업인 오픈AI 피드백을 받고 있으며 대규모 언어 모델 등 용도에서 성능이 어필되고 있다.

마이크로소프트에 따르면 AI 특화형 칩을 효율적으로 동작시키기 위해선 전원 케이블과 네트워크 케이블을 위해 충분한 공간을 확보할 서버랙이 필요하다고 한다. 시장에는 마이아100 요구 사항을 충족하는 서버랙이 없었기 때문에 마이크로소프트는 서버랙을 자체 설계하기 시작했다.

또 마이아100은 소비전력이 크고 공냉 방식에선 충분한 성능을 발휘할 수 없기 때문에 액체 냉각 방식이 채용되고 있다. 마이아100에선 칩 위쪽에 큐브 모양 부품이 설치되어 있어 큐브에 차가운 액체가 흘러 들어가 칩을 냉각하는 구조다.

코발트100은 ARM 아키텍처를 사용하는 CPU로 클라우드 네이티브 제품에서 높은 성능과 효율성을 발휘하도록 설계됐다. 또 전력 효율을 최적화하고 있으며 애저 데이터센터에 코발트100을 배포해 마이크로소프트에 큰 이점을 제공한다고 한다. 덧붙여 마이크로소프트는 이미 2세대 마이아 시리즈와 코발트 시리즈 개발에 임하고 있다고 한다. 관련 내용은 이곳에서 확인할 수 있다.

한편 마이크로소프트는 11월 15일 개최한 연차 이벤트(Microsoft Ignite 2023) 기간 중 빙 검색에 오픈AI GPT-4를 탑재한 AI 채팅봇 명칭을 빙챗(Bing Chat)에서 코파일럿(Bing Chat)으로 바꾼다고 발표했다.

마이크로소프트 측은 빙챗과 빙챗 엔터프라이즈는 앞으로 코파일럿이 될 것이라며 일반용으로 공개되고 있는 빙챗과 법인용 빙챗 엔터프라이즈를 한 브랜드로 통합하는 걸 발표했다. AI를 탑재한 검색 기능은 계속 빙 검색으로 무료로 이용할 수 있지만 이와 별도로 코파일럿에도 독자 도메인이 주어지고 있다. 코파일럿을 사용하려면 마이크로소프트 계정으로 로그인해야 하며 공식 지원되는 브라우저는 마이크로소프트 엣지와 구글 크롬이다.

코파일럿이라는 AI 서비스로는 마이크로소프트 산하 깃허브가 2021년 시작한 프로그래밍 지원 서비스인 깃허브 코파일럿(GitHub Copilot)이 있지만 마이크로소프트는 지난 3월 AI를 활용한 서비스(Dynamics 365 Copilot, Copilot in Windows, Microsoft Security Copilot, Microsoft 365 Copilot)를 차례로 시장에 투입하고 있으며 혼란스럽게 빙챗을 전신으로 하는 코파일럿은 6번째 코파일럿이다.

마이크로소프트는 코파일럿을 AI 챗봇 무료 버전으로 제공하고 있으며 마이크로소프트365에 AI를 도입한 코파일럿 포 마이크로소프트365(Copilot for Microsoft 365)는 코파일럿 유료 버전으로 자리매김하게 됐다.

이번 리브랜딩 목표에 대해 보도에선 빙챗 개칭은 오픈AI가 매주 1억 명씩 챗GPT를 이용하고 있다고 발표한 며칠 뒤 이뤄졌다며 오픈AI와 긴밀한 파트너십을 맺고 있는 한편 AI 어시스턴트 시장에서 고객을 잡고 있으며 코파일럿을 소비자와 기업을 선택해 분명히 판매하려는 것으로 지적하고 있다.

이번 행사에선 그 밖에도 사용자가 독자적인 코파일럿을 커스터마이징할 수 있는 마이크로소프트 코파일럿 스튜디오(Microsoft Copilot Studio), 영업 지원 서비스(Copilot for Sales), 고객 서비스(Copilot for Service), 보안 서비스(Microsoft Security Copilot)를 발표했다. 관련 내용은 이곳에서 확인할 수 있다.

그 밖에 스니펫에 AI 생성 문장 표시 기능. 구글이나 빙에서 검색하면 URL 아래에 스니펫이라는 문자열이 표시된다. 이는 웹사이트 작성자가 설정하거나 검색엔진이 사이트 내용을 읽거나 하면 표시되는 것이지만 빙은 새롭게 AI로 생성된 문장을 스니펫에 표시하게 된다. URL 옆 삼각형 아이콘을 누르면 스니펫이 AI에서 생성되는지 여부를 확인할 수 있다.

마이크로소프트는 AI가 생성한 스니펫을 제너레이티브 캡션이라고 부른다. 일반 캡션은 검색 쿼리에 맞게 조정되므로 서로 다른 쿼리에 대해 다른 스니펫이 생성된다. 일반 캡션은 웹페이지 문장을 그대로 반영하지는 않지만 마이크로소프트는 빙은 무수한 신호와 기법을 사용해 생성되는 텍스트 품질과 정확성을 보장한다고 밝히고 있다.

웹사이트 관리자는 태그(NOCACHE or NOARCHIVE) 사용으로 AI 스니펫 생성을 거부할 수 있다. 마이크로소프트는 또 스니펫을 표시하지 않도록 하는 태그(NOSNIPPET), 최대 문자수를 지정하는 태그(MAXSNIPPET)도 존중한다고 한다. 관련 내용은 이곳에서 확인할 수 있다.