
“거대언어모델(LLM) 기반 인공지능(AI) 서비스를 구현하려면 엄청난 인프라가 필요합니다. 이 때문에 서비스 비용이 만만치 않습니다. AI가 확산하려면 비효율성을 개선한 새로운 방식의 AI가 나와야 합니다.”
정무경 디노티시아 대표는 AI 대중화의 걸림돌로 '비용'을 지적했다. 시장에서 가장 많이 활용하는 엔비디아 AI 가속기 칩이 수천만원대에 달하니, AI 인프라 구축에 부담이 크다는 것이다. 글로벌 AI 서비스 산업의 숙제로 꼽힌다. 누구나 접근할 수 있는 AI 서비스를 위해서는 특단의 조처가 필요하다고 정 대표는 강조했다.
국내 AI 반도체 스타트업 사피온 최고기술책임자(CTO) 출신인 정 대표는 디노티시아를 설립하기 전부터 이같은 도전 과제를 기회로 봤다. 그는 “기존 LLM 기반 AI의 비효율적인 방식을 효율적인 알고리즘으로 바꾸기 위해 '데이터'에 초점을 맞췄다”며 “디노티시아가 '검색증강생성(RAG)' 기술 분야에 뛰어든 배경”이라고 설명했다.
RAG는 AI 서비스를 위해 데이터베이스(DB)를 검색하고 이를 기반으로 응답을 생성하는 기술이다. RAG가 구동되려면 텍스트·이미지·영상 등 비정형 데이터를 수치화해 벡터 형식으로 저장하고, 유사도를 측정해 제공할 수 있는 '벡터 DB'가 필수다. 2023년 10월 출범한 디노티시아가 1년만에 고성능 벡터 DB 시스템 '씨홀스'를 개발했다.
벡터 DB는 '시맨틱 검색'을 기반으로 한다. AI가 검색 단어의 의미를 이해하고 사용자 의도에 맞춰 결과를 표시할 수 있다. 게다가 AI 서비스 이용자가 원하는 데이터를 토대로 운용되기에 정확도가 훨씬 높다. 글로벌 DB 회사나 스타트업들이 벡터 DB 시스템 개발에 뛰어든 것도 이같은 강점 덕에 시장 성장세가 예상돼서다.
정 대표는 “경쟁사는 모두 소프트웨어(SW) 기반으로 벡터 DB 시스템을 제공한다”며 “디노티시아는 이를 하드웨어(HW)까지 함께 구성한 유일한 회사”라고 강조했다. 차별화 전략으로 벡터 DB에 최적화된 HW로, SW가 가진 성능 한계를 극복했다.
디노티시아는 완전한 AI 서비스를 구현할 수 있도록 자체 LLM도 개발했다. '디엔에이'라는 이 모델은 벡터 DB와 함께 정확성 높은 AI 서비스를 지원한다. AI 사용자가 쉽게 도입할 수 있도록 경량화한 것이 특징이다. 올해 상반기 중으로 씨홀스(벡터 DB)와 디엔에이(AI 모델)을 결합한 개인용 AI 기기 '니모스'도 출시할 계획이다.
또 2026년 양산을 목표로 자체 벡터 DB 가속기 칩도 개발 중이다. 디노티시아 벡터 DB에 최적화된 반도체 칩으로 벡터 DB와 AI 성능을 대폭 끌어올릴 것으로 기대하고 있다. 마치 AI 연산·추론 성능을 높이기 위해 AI 가속기 칩을 탑재하는 것과 유사하다. AI 서비스 사업자의 데이터센터 등에 적용하면 저비용으로도 고성능 AI 환경을 조성할 수 있다고 정 대표는 부연했다.
그는 “현재는 범용 AI 서비스를 위해 엔비디아 의존도가 높고 비용 부담이 크지만, 앞으로는 벡터 DB 가속기와 같이 맞춤형(커스텀) 칩 수요가 점점 확대될 것”이라며 “각 수요처마다 원하는 AI 환경이 다르기 때문에 글로벌 빅테크 기업이 아닌 개인 및 중소규모 기업에서도 AI 인프라를 쉽게 구축할 수 있게 될 것”이라고 말했다.

권동준 기자 djkwon@etnews.com