아마존 클라우드 컴퓨팅 서비스인 AWS가 기업이나 개발자를 위한 제너레이티브 AI를 이용한 앱을 개발하기 위한 클라우드 서비스인 아마존 베드록(Amazon Bedrock)을 발표했다. 동시에 아마존 자체 제너레이티브 AI용 기초 모델(Fundamental Model)인 아마존 타이탄 FM(Amazon Titan FM) 존재도 밝혔다.
아마존 베드록은 스테이블 디퓨전을 개발하는 스테빌리티AI나 대화형 AI인 클로드(Claude)를 개발하는 앤트로픽(Anthropic), 문장 생성 AI인 워드튠 스파이스(Wordtune Spices)를 개발하는 AI21랩스(AI21 Labs) 등을 아마존 기초 모델에 API를 경유해 액세스할 수 있게 해주는 서비스다. 기업별로 제공하는 최신 기초 모델에 액세스할 수 있게 해 텍스트 생성 AI나 챗봇, 검색 시스템, 텍스트 요약, 이미지 생성 등 AI 서비스를 개발할 수 있다.
AWS는 베드록 서비스 환경을 통해 인프라를 관리하지 않고도 곧바로 시작할 수 있다며 관리 파이프라인과 아마존 세이지메이커(Amazon SageMaker)와의 통합과 익숙한 AWS 도구와 기능을 이용해 애플리케이션에 쉽게 통합하고 배포할 수 있다고 밝혔다. 이미 아마존 베드록은 한정 프리뷰 형태로 제공되어 AI 기업인 코다 등 일부 고객이 선행 이용 중이라고 한다.
또 베드록에서 이용할 수 있는 기본 모델 중 하나로 아마존은 타이탄 FM을 발표했다. 현재 타이탄 FM에는 요약, 텍스트 생성, 정보 추출 같은 태스크에 적합한 생성형 대규모 언어 모델인 타이탄 텍스트(Titan Text), 텍스트 입력을 수치 표현으로 변환하는 임베디드 대규모 언어 모델인 타이탄 임베딩스(Titan Embeddings) 2개가 준비된다고 한다. 이미 아마존닷컴 제품 검색 기능에 타이탄 임베딩스가 사용되고 있다고 한다.
앤디 재시 아마존 CEO는 대다수 기업은 대규모 언어 모델을 사용하고 싶어 하지만 정말 좋은 모델은 학습에 많은 비용과 시간을 소비하기 때문에 기본 모델을 개발하려 하지 않는다며 개발을 진행할 수 있도록 돕는 게 바로 베드록이라고 밝혔다.
아마존은 또 자체 개발한 2세대 머신러닝 칩인 AWS 트레니움(AWS Trainium)을 탑재한 아마존 EC2 튠인 인스턴스, 제너레이티브 AI용 AWS 인퍼런시아2(AWS Inferentia2) 가속기를 탑재한 아마존 EC2 Inf2 인스턴스 일반 제공도 발표했다. 그 뿐 아니라 일반 AI를 기반으로 코딩 지원 서비스인 아마존 코드위스퍼러(Amazon CodeWhisperer)를 무료로 일반 제공하는 것도 발표됐다. 아마존 코드위스퍼러는 파이썬, 자바, 자바스크립트, 타입스크립트, C#, Go, 코틀린, 러스트, PHP, SQL을 지원하며 통합 개발 환경(VS Code, IntelliJ IDEA, AWS Cloud9)에서 AWS 툴킷을 통해 액세스하는 게 가능하게 된다. 관련 내용은 이곳에서 확인할 수 있다.