[솔루션 가이드] 기업용 AI 플랫폼 '왓슨x', '데이터·속도·거버넌스' 등 기업 혁신 요구 최적화
비즈니스 환경을 혁신하는 잠재력을 가진 AI는 2030년까지 전세계 생산성을 최대 16조 달러까지 끌어올릴 것으로 예상된다. 특히 파운데이션 모델 기술 기반 대규모 언어 모델(LLM)은 단일 데이터 세트로 100개 이상의 AI 모델 생성이 가능해 발전의 중추적인 역할을 하고 있다.
지난 해 전세계 2300명 이상의 IT 전문가를 대상으로 조사한 IBM의 '글로벌 AI 도입 지수 2023'보고서에 따르면, 기업의 42%가 조직에서 AI를 사용하고 있다고 응답했으며, 40%는 이 기술을 적극적으로 검토하고 있다고 답했다. 국내에서는 40%의 기업이 비즈니스 운영의 일부로 AI를 적극적으로 도입했으며, 48%는 AI를 적극적으로 탐색하고 있는 것으로 나타났다. AI를 도입할 계획이 전혀 없다고 답한 기업은 6%에 불과했다. 한국은 싱가포르와 함께 기업들이 AI 활용을 검토하는 비율이 전세계에서 가장 높은 국가로 나타났다.
하지만 많은 기업이 AI를 확장하고 운영하는 데 어려움을 겪고 있는 것도 사실이다. 지난 해 AI를 활용하거나 검토 중이라고 답한 전세계 기업의 비율은 82%였는데 이는 2019-2022년의 평균 81%와 크게 다르지 않다. 실제로 AI 프로젝트의 약 절반만이 파일럿 단계에서 프로덕션 단계로 넘어간다는 통계도 있다.
이는 AI 스킬 및 전문성 부족(33%), 데이터의 복잡성(25%), 윤리적 문제(23%) 등 기업이 AI 기술을 비즈니스에 도입하는 데 있어 장애물들이 남아 있기 때문인 것으로 분석되었다. 국내 기업의 경우 'AI 스킬 및 전문성 부족(43%)', 'AI 모델 개발을 위한 도구/플랫폼 부족(34%)', 'AI 프로젝트가 너무 복잡하거나 통합 및 확장하기 어려움(31%)' 등 특히 인력 관련 고민이 많은 것으로 나타났다. 이러한 이유로 도입과 배포 사이에는 여전히 격차가 존재하고 있다.
위 연구에서 나타난 바와 같이 기업은 신뢰할 수 있는 데이터, 속도, 거버넌스를 통해 조직 전체에 AI를 활용하기 위한 전 과정을 아우르는 모든 기술과 서비스가 필요하다. 그리고, 모든 클라우드 환경(온프레미스, 퍼블릭 & 프라이빗 클라우드)에 걸쳐 실행할 수 있어야한다. 이러한 비즈니스의 요구조건을 반영하여 IBM에서 발표한 비즈니스 전용 AI 플랫폼이 왓슨x이다.
왓슨x의 차별되는 특징은 다음과 같다.
첫째, 왓슨x는 기업 고객이 비즈니스 요구사항에 가장 적합한 AI 모델을 플랫폼 상에서 활용할 수 있도록 '개방형(Open)' 전략을 취하고 있다. 왓슨x 플랫폼에서는 IBM에서 구축, 학습, 검증한 파운데이션 모델을 사용할 수 있는 것은 물론, 기업 데이터를 사용하여 자체 모델을 구축하거나, 라마2나 허깅페이스에서 제공되는 다양한 오픈소스 모델을 도입, 훈련, 조정, 테스트, 배포할 수 있게 했다.
두번째, 왓슨x는 설명 가능하고, 공정하며, 믿을 수 있는 결과를 제공하고, 데이터와 지적 재산(IP)을 안전하게 보호하기 위한 기술을 제공한다. 왓슨x는 IBM에서 제공하는 모델이 데이터의 출처, 편향성, 거버넌스에 대한 투명성을 제공할 수 있도록 지원하고 있다.
마지막으로, 생성AI 및 ML 사용자가 AI 모델이나 데이터에 대한 제어 권한 없이 프롬프팅만 할 수 있는 많은 AI 서비스와 달리 왓슨x는 데이터 과학자나 비즈니스 사용자가 데이터와 AI 모델을 구축, 훈련, 조정 및 배포하고 관리할 수 있도록 권한을 부여하고 있다.
이런 특징을 가진 IBM 왓슨x 플랫폼은 다음 세 가지 요소로 구성되었다.
기업용 AI 스튜디오인 IBM 왓슨x.ai는 AI 개발자들이 머신 러닝을 기반으로 AI를 구축, 실행, 배포할 수 있도록 지원하는 IBM 왓슨 스튜디오 기술과 파운데이션 모델의 성능을 활용하는 최신 생성 AI 기술을 결합했다.
이 AI스튜디오는 고객이 자체적으로 구축하거나, IBM이 선별하고 학습시킨 독점적인 다양한 파운데이션 모델, 오픈소스 파운데이션 모델을 쉽게 활용할 수 있도록 하는 파운데이션 모델 라이브러리를 제공한다. IBM 파운데이션 모델은 언어 뿐만 아니라 코드, 시계열 데이터, 표 형식 데이터, 지리공간 데이터, IT 이벤트 데이터 등 다양한 영역, 다양한 형식의 데이터에 대해 학습하고 있다. 또한, 엄격한 필터링 및 정제 프로세스, 법적 및 안전 문제 검토나 감사(Audit)가 가능한 전체 데이터 계보 등 데이터 수집, 출처, 품질에 엄격하게 중점을 두고 구축된, 엄선된 기업용 대규모 데이터 세트를 사용하고 있다.
IBM 왓슨x.데이터는 데이터 웨어하우스의 고성능 처리 기술과 데이터 레이크의 유연성을 함께 제공하는 데이터 레이크하우스 솔루션이다. 정형 데이터와 비정형 데이터를 자유롭게 저장, 활용할 수 있으며, 저렴한 개방형 스토리지를 지원하면서도 높은 성능을 제공한다.
무엇보다 왓슨x.데이터는 기업들이 AI 작업을 확대 적용하는 것을 지원하도록 클라우드 뿐만 아니라 온프레미스 버전 제공, 중앙집중식 거버넌스 및 보안, 자동화 기술을 내장, 멀티 쿼리 엔진과 스토리지 계층 기술을 채택하고 있다.
또한, 사용자가 자연어 문장과 질문을 사용하여 필요한 데이터를 활용할 수 있도록 돕는 시맨틱 오토메이션(Semantic Automation)과 같은 기능을 통해 사용자는 코딩이나 데이터 엔지니어링 전문 지식 없이도 셀프 서비스 대화 기능을 사용하여 데이터를 쉽게 검색, 보강, 정제할 수 있다.
IBM 왓슨x.거버넌스(governance)는 정책 생성, 의사 결정 권한 할당, 위험 및 투자 결정에 대한 조직의 책임 보장을 위한 자동화된 데이터 및 모델 수명 주기 솔루션으로 AI 도구 및 AI 사용에 필요한 보도장치를 구축할 수 있도록 지원한다. IBM 왓슨x. 거버넌스는 △AI 생애주기 거버넌스 △AI 위험 요소 관리 △규제 준수 등 세 가지 부문에 대한 기술을 제공하여 기업이 신뢰할 수 있는 AI를 운영할 수 있도록 지원한다
글로벌 전사자원관리(ERP) 기업인 SAP는 IBM의 왓슨 AI 기술을 자사 솔루션에 탑재했다. SAP는 AI 기반의 새로운 인사이트와 자동화 기능을 바탕으로 솔루션 포트폴리오 전반에서 혁신을 가속화하고 보다 효율적 및 효과적인 사용자 경험을 제공하게 됐다. 특히 SAP는 IBM의 왓슨 기능을 활용해 SAP 스타트(SAP Start)의 디지털 어시스턴트 기능을 강화했다. SAP 스타트에 탑재된 새로운 AI 기능은 사용자가 IBM의 신뢰와 투명성, 데이터 프라이버시 원칙에 기반한 왓슨 AI 솔루션을 활용해 자연어 기능과 예측 인사이트로 생산성을 높일 수 있도록 지원한다.
또한, IBM은 마스터스 골프 대회, 윔블던 챔피언십, US 오픈 테니스 대회의 앱과 웹의 디지털 팬 경험을 향상시키기 위해 생성AI 기술을 활용한 모든 하이라이트 영상의 AI 해설 기능, AI 대진운 분석 기능, 홀 별 선수 예측 기능 등을 제공하기도 했다.
[알림] GTT KOREA와 전자신문인터넷이 공동으로 주최하는 'Data Insight & Security Summit(DISS) 2024'에서는 “AI 트랜스포메이션, 데이터 이노베이션”을 주제로 데이터 산업을 이끌고 있는 글로벌 리더들이 AI 기반 데이터 활용과 전략 수립에 난항을 겪고 있는 기업들에게 효과적인 데이터 관리와 인사이트, 강력한 데이터 보안 전략을 제시한다.
유은정 기자 judy6956@etnews.com
