오케스트로가 과학기술정보통신부와 한국지능정보사회진흥원이 주관하는 '초거대 AI 기반 플랫폼 이용지원 사업'에 공급기업으로 선정됐다.
'초거대 AI 기반 플랫폼 이용지원 사업'은 초거대 인공지능(AI)을 공공, 민간 기업에서 자유롭게 이용하도록 지원하는 사업이다.
초거대 AI 플랫폼을 보유한 공급기업이 수요기관에게 심층 컨설팅, 기술실증(PoC), 최적화, 고도화, 플랫폼 이용 환경 등 종합 서비스를 지원한다.
오케스트로는 프라이빗과 멀티·하이브리드 클라우드 구축부터 클라우드 네이티브 설계와 운영까지 엔드투엔드 서비스를 제공하는 클라우드 전문 기업이다.
오케스트로는 이번 사업으로 클라우드 네이티브 기반 대화형 AI 솔루션을 제공할 계획이다. 손쉽게 생성형 AI를 만들 수 있는 관리자 기능과 검색을 통해 원하는 정보를 얻을 수 있는 사용자 기능을 구현할 예정이다.
관리자 기능에서는 프로그램에 대한 지식 없이 특정 영역에 대한 생성형 AI를 구축할 수 있다.
사용자들은 관리자가 미리 구축해둔 특정 주제나 용도에 특화된 생성형 AI를 선택하여 사용할 수 있다. 사용자가 특정 생성형 AI를 선택하면 생성형 AI가 가지고 있는 전문 지식 영역을 질문하고 답변받을 수 있다.
특히 오케스트로는 검색 증강 생성(RAG) 기술을 활용해 대규모 언어 모델(LLM)에서 발생하는 환각현상을 해소했다. 관리자가 업로드한 문서 정보만을 활용해 답변하도록 설정할 수 있다. 답변 생성에 활용한 근거 문서도 사용자에게 제공한다.
또 오케스트로는 고객 도메인에 특화된 LLM을 안정적으로 파인 튜닝하고 배포할 수 있도록 클라우드 네이티브를 기반으로 솔루션을 설계했다.
박소아 오케스트로 DX융합기술원장(부사장)은 “오케스트로는 클라우드 및 AI 역량을 바탕으로 수요기관에 혁신적인 솔루션을 제공할 수 있을 것이라 확신한다”며 “지속적인 연구개발과 투자로 기술력을 강화하고, 고객의 요구에 부응하는 고객 중심의 클라우드 기반 인공지능 서비스를 제공하겠다”고 말했다.
박두호 기자 walnut_park@etnews.com
