테크레시피
뉴스

AWS에서 생성형 AI 사용하기 위한 도구

이석원 기자 이석원 기자
2023년 10월 5일
1 min read

지난 4월 발표된 생성형 AI를 AWS에서 사용할 수 있는 아마존 베드록(Amazon Bedrock) 도구가 9월 28일 정식 출시되어 일반 사용자 제공이 시작됐다.

아마존 베드록은 인프라 관리가 필요 없는 서비리스로 생성형 AI를 사용하기 위한 도구다. 서비스가 AWS에서 제공되는 만큼 아마존 클라우드워치(Amazon CloudWatch)나 AWS 클라우드트레일(AWS CloudTrail)을 통해 사용이나 API 상태를 모니터링할 수 있다.

채팅이나 텍스트, 이미지 각각에 대해선 AI 모델별로 실제로 사용 시험을 해볼 수도 있다. API를 통해 아마존 베드록에 액세스하는 것도 물론 가능하다. 현재 지원 모델은 9종(Claude v1.3, Claude v2, Claude Instant v1.2, Command v14.6, Jurassic-2 Mid v1, Jurassic-2 Ultra v1, Stable Diffusion XL v0.8-preview, Titan Embeddings G1 – text v1.2, Titan Text G1 – Express v1-preview)이다. 모델을 클릭하면 사용 요금과 토큰수 한도, 사용 가능 언어, 지원 사용례 등을 확인할 수 있다.

이용 요금은 모델마다 세세하게 설정되어 있다. 예를 들어 클로드라면 1,000입력 토큰당 0.01102달러, 1,000출력 토큰당 0.03268달러다. 관련 내용은 이곳에서 확인할 수 있다.

이석원 기자

이석원 기자

월간 아하PC, HowPC 잡지시대를 거쳐 지디넷, 전자신문인터넷 부장, 컨슈머저널 이버즈 편집장, 테크홀릭 발행인, 벤처스퀘어 편집장 등 온라인 IT 매체에서 '기술시대'를 지켜봐 왔다. 여전히 활력 넘치게 변화하는 이 시장이 궁금하다.

모든 기사 보기

추천기사

뉴스

“AMD 최우선 사항은 ROCm”

AMD가 자사 최우선 사항에 대해 기계학습용 GPU 환경이나 플랫폼 ROCm(Radeon Open Compute platform)을 꼽아 눈길을 끈다. 지금까지 AMD ROCm은 경쟁사인 엔비디아 GPU용 소프트웨어인 쿠다(CUDA)에 크게 뒤쳐졌다. 따라서 AMD는 2022년부터 ROCm 개발을 자사 내에서 최우선 사항으로 설정하고 AMD가 지금까지 쌓아온 소프트웨어 개발 등 노하우를...

정용환 기자 정용환 기자
뉴스

스티븐 킹 “AI 학습에 작품 금지는 러다이트 운동 같은…”

대규모 언어 모델 LLaMA 학습에 메타가 사용한 것으로 알려진 책 데이터세트인 북스3(Books3)은 AI 모델 학습용으로 19만 6,640권 37GB 데이터를 포함하고 있으며 저작권 침해 대책 그룹으로부터 삭제 요청 등이 나오고 있다. 학습 데이터에는 여러 유명 작품도 포함되어 있었지만 자신의 작품이 AI 학습에 사용되고 있다는 걸 알게 된 인기 작가 스티븐 킹(Stephen...

이석원 기자 이석원 기자
뉴스

죽은 할머니가…빙챗 속여 캡차 이미지 인식 돌파

뱅챗은 마이크로소프트가 제공하는 채팅 AI로 사용자는 이미지를 올리고 검색하거나 토론할 수 있다. 이런 뱅챗은 이미지 인식형 보안 테스트인 캡차(CAPTCHA) 문제는 풀리지 않게 설정되어 있지만 가상으로 죽은 할머니 펜던트라고 거짓말을 말해 빙챗에게 동정을 얻어 빙챗에 캡차 문제를 해결하게 하는데 성공했다고 보고했다. 빙챗은 오픈AI 대규모 언어 모델인 GPT-4를 기반으로 한 AI...

정용환 기자 정용환 기자
뉴스

우버이츠 배달 로봇, 카메라 영상 경찰에 전송한 이유

우버이츠(Uber Eats)는 자동 배송 로봇 기업인 서브로보틱스(Serve Robotics)와 제휴해 최대 2,000대 자율형 배달 로봇을 도입하고 있다. 이런 자율형 배달 로봇이 가동 중 항상 촬영을 하고 있으며 촬영한 영상을 경찰에 제공하고 있다는 보도가 나왔다. 자율 배송에 적극 참여하는 우버이츠는 서브로보틱스와 제휴해 2022년부터 자율형 배송 로봇을 테스트했다. 우버이츠는 이후...

이원영 기자 이원영 기자

뉴스레터 구독