“97% 기업이 목적에 맞게 다양한 AI 모델을 복합적으로 사용하고 있습니다. AWS 베드록은 경쟁력 있는 모델을 함께 사용할 수 있도록 단일 API 형태로 서비스를 제공하고 있습니다”
김선수 아마존웹서비스(AWS)코리아 AI/ML 사업개발 수석 스페셜리스트는 13일 서울 강남구 센터필드에서 지난 7월 'AWS 서밋 뉴욕'에서 발표된 신기능을 소개하며, AWS AI 플랫폼 '아마존 베드록'의 강점을 설명했다.
김 수석은 “아마존 베드록은 엔트로픽의 클로드, 메타의 라마, 미스트랄 AI 모델까지 다양한 형태의 모델을 쉽게 변경해서 활용할 수 있는 게 핵심”이라며 “이번 신기능들은 각 기업 요구 사항에 맞게 AI를 사용할 수 있도록 돕는다”고 말했다.
AWS는 환각 현상을 최소화했다. 아마존 베드록용 가드레일은 '컨텍스트 크라운딩' 검사로 환각을 감지, 차단한다. 기업 데이터에 기반하지 않거나 사용자 쿼리와 관련 없는 모델 응답을 막는다. 아마존 베드록에서 사용하는 다른 AI 모델에 대해서도 가드레일 기능을 활용할 수 있다.
김 수석은 “베드록 가드레일은 환각 필터링 기능을 강화해 최대 75%까지 환각 현상을 줄였다”고 말했다.
AWS는 개별 기업에 미세조정된 앤트로픽 클로드3 하이쿠 프리뷰 버전도 공개했다. 선택적 하이퍼파라미터로 사용자가 미세 조정을 할 수 있다.
또 웹 도메인, 세일즈포스, 컨플루언스, 쉐어포인트를 데이터 소스로 검색 증강 생성(RAG) 애플리케이션 연결 기능도 제공한다. 기업 요구사항에 맞는 모델 최적화로 더 많은 비즈니스 데이터를 활용할 수 있다.
이외에도 아마존 Q 디벨로퍼 커스터마이제이션, 아마존 Q 디벨로퍼 코드 변환 기능도 출시했다. 내부 코드나 모범 사례를 개발자 요구에 맞게 맞춤형 코드를 제안한다. 또 언어 업그레이드 작업을 자동화해 작업 소요 시간을 줄여준다.
생성형 AI 기반 로코드 앱 개발 도구인 AWS 앱 스튜디오도 소개했다. 개발자가 아니어도 손쉽게 앱을 개발할 수 있다.
실제 LG유플러스 통합전산시스템(유큐브)에 AWS 앱 스튜디오를 적용해 코드 리뷰 자동화를 도입했다.
강병래 LG유플러스 PM은 “베드록의 다양한 생성형 AI 모델에서 챗봇, 코드 리뷰 등을 업무에 맞게 달리 적용해서 업무 효율을 높이고 있다”며 “동시에 저렴한 입출력 토큰 비용으로 내부 활용도가 매우 높다”고 말했다.
박두호 기자 walnut_park@etnews.com
