세계 1위 퍼블릭 클라우드 기업 아마존웹서비스(AWS)가 산업에 특화된 다양한 거대언어모델(LLM)을 사용할 수 있는 '베드록 마켓플레이스'를 출시했다. 최신 생성형 인공지능(AI)의 파운데이션 모델(FM) 유통 루트를 구축한 것으로, AI 생태계를 주도하겠다는 전략으로 풀이된다.
스와미 시바수브라마니안 AWS 데이터 및 AI 담당 부사장은 4일(현지시간) 미국 라스베이거스에서 열린 'AWS 리인벤트 2024' 기조연설에서 “아마존 베드록 마켓플레이스 출시를 발표한다”면서 “아마존 베드록 마켓플레이스는 100개가 넘는 FM 접근성을 제공한다”고 말했다.
베드록 마켓플레이스는 AWS 고객이 AI 구축 필요한 FM만을 검색해서 평가하고 구매, 배포, 관리할 수 있는 디지털 스토어로 요약된다. 구독형 소프트웨어(SaaS) 중심으로 유통되는 'AWS 마켓플레이스'와 대비된다.
베드록 마켓플레이스 고객은 선택한 FM을 AI 구축 도구인 아마존 베드록의 통합 애플리케이션 프로그래밍 인터페이스(API)와 함께 사용할 수 있다. 또한 베드록의 가드레일(안전 장치) 에이전트와 보안·개인정보 보호 기능 등도 활용할 수 있다.
그는 “(아마존 베드록 마켓플레이스 출시로) 100개가 넘는 FM에 접근성을 키웠다”면서 “고객이 (LLM 도입) 비용과 레이턴시(지연 시간)를 줄이도록 도울 것”이라고 말했다.
베드록 마켓플레이스에는 국내 3개사 LLM이 등록됐다. 엔씨소프트 '바르코 LLM', LG AI연구원 '엑사원 3.0 7.8B', 업스테이지 '솔라 미니·프로' 등이다.
AWS는 고객 요구가 있을 경우 베드록 마켓플레이스에 국내 LLM을 언제든지 추가 등록할 수 있다는 입장이다.
시바수브라마니안 부사장은 아마존 베드록에는 동영상 AI 모델인 루마 AI의 '레이2', 풀사이드의 '말리부·포인트', 스태빌리티 AI의 '스테이블 디퓨전 3.5 라지' 등 최신 LLM을 탑재한다고 발표했다. 지난 3일(현지 시간) AWS가 발표한 FM인 노바 △마이크로 △라이트 △프로 △프리미어도 이용할 수 있다. 다만 프리미어는 내년 1분기 내 제공된다.
그동안 AWS는 아마존 베드록을 통해 앤트로픽, 메타, 코히어 등 여러 LLM을 단일 API로 제공해왔다.
그는 아마존 베드록에 '프롬프트 캐싱'과 '인텔리전스 프롬프트 라우팅' 기능도 추가한다고 강조했다. 비용과 레이턴시 감축이 목표다.
프롬프트 캐싱은 반복적인 프롬프트를 최적화해서 비용과 레이턴시를 각각 90%, 85% 줄인다.
인텔리전스 프롬프트 라우팅은 프롬프트에 가장 적합한 모델을 베드록이 라우팅(최적 선택)해서 비용을 30% 줄이고, 정합성을 확보한다.
그는 아마존 베드록을 이용해서 빠르고 쉽게 생성형 AI 애플리케이션을 구축·배포할 수 있는 '아마존 세이지메이커'에 '하이퍼포드 테스크 거버넌스' 기능까지 추가한다고 밝혔다. 고객은 컴퓨트 최적화로 비용을 40% 줄일 수 있다.
시바수브라마니안 부사장은 “고객이 보다 지능적인 AI 애플리케이션을 개발해서 최종 사용자에게 더욱 큰 가치를 제공하도록 지원하겠다”고 말했다.
라스베이거스(미국)=류태웅 기자 bigheroryu@etnews.com
