래블업의 '백엔드닷에이아이(Backend.AI)'는 인공지능(AI)을 연구·개발하고 서비스를 만드는 전 과정을 통합하는 올인원 플랫폼이다. 특히 초거대 AI와 고성능 컴퓨팅, 슈퍼컴퓨팅 분야에 특화된 엔터프라이즈 솔루션이다.
온프레미스 서버 및 클라우드 환경에 설치해 딥러닝 모델 설계와 훈련 과정의 원활한 분산을 위한 실행·관리를 담당한다. 리눅스 컨테이너와 가상계측(VM) 기술을 바탕으로 다양한 플랫폼에서 AI와 고성능 컴퓨팅 코드를 안전하게 분산·실행하고, 수천대 컴퓨터를 동원하는 복잡한 AI 개발 과정을 그래픽사용자환경(GUI) 및 머신러닝운영(MLOps) 기능과 함께 복잡한 설정 없이 자동화한다.
Backend.AI는 독자적으로 개발한 오케스트레이터와 스케쥴러 위에 그래픽처리장치(GPU) 사용 비용을 크게 줄여주는 자체 특허 기반 GPU 분할 가상화 기술과 함께 최신 스토리지와 AI 가속 하드웨어 기술을 통합했다. 이를 바탕으로 업계 최고 수준 성능을 달성, 막대한 비용이 들어가는 거대 AI 훈련과 AI 서비스 비용을 효율적으로 줄여주는 게 특징이다.
Backend.AI는 누구나 장벽없이 AI를 개발할 수 있도록 오픈소스로 공개하고 있다. 기업·기관용 기능이 다수 포함된 엔터프라이즈(Enterprise) 버전인 Backend.AI Enterprise는 고성능과 편의성을 통합한 AI 플랫폼이다. 삼성전자·KT·LG전자 등 국내 대기업을 비롯해 한국은행·건강보험심사 평가원·GIST 등 70여개 기업·기관에서 사용하고 있다. 또 엔비디아의 AI 슈퍼컴퓨터인 DGX의 운영에 최적화된 DGX-Ready 소프트웨어로 아시아 태평양 지역에서 유일하게 선정됐다. 현재 라틴아메리카 및 유럽 지역에 Backend.AI Enterprise를 수출하고 있다.
신정규 래블업 대표는 “Backend.AI는 AI 개발·운영 과정에서 발생하는 다양한 신뢰성 문제를 기술적으로 해결했다”며 “많은 기업이 고신뢰·고품질 AI를 만들 수 있게 지원하고 있다”고 밝혔다.
조재학 기자 2jh@etnews.com
