“인공지능(AI) 사업 수익성은 인퍼런스(추론)에서 결정됩니다. 프렌들리AI는 최적화 기술로 그래픽처리장치(GPU) 성능을 최대한 사용할 수 있도록 지원, 국내뿐만 아니라 북미 시장에서 매출을 확대하겠습니다.”
브라이언 유 프렌들리AI 최고사업책임자(CBO)는 최근 전자신문과 인터뷰에서 “젠슨 황 엔비디아 최고경영자(CEO)가 'GTC 2026'에서 AI는 학습 중심 시대를 넘어 추론의 변곡점을 맞이했다고 밝혔을 정도로 추론이 AI 서비스 효율을 좌우할 것”이라며 이같이 밝혔다.
프렌들리AI는 추론 인프라 최적화로 GPU 사용 비용과 레이턴시 등 병목을 해결하는 테크기업이다. 유 CBO 영입을 통해 국내뿐만 아니라 미국 등 북미 시장 공략을 본격화할 계획이다.
특히 추론단계에서 성능과 비용 문제를 동시에 해결하는 데 집중하고 있다. 머신러닝 인프라 스텐더드 기술인 컨티뉴어스 배칭 기술로 대규모 AI 워크로드를 안정적으로 처리하고, GPU 활용 최적화로 처리 속도를 높이며 비용 절감을 지원한다. GPU 인프라 비용을 최대 50% 이상 줄여주는 기술과 함께 AI 구축·배포 플랫폼을 제공한다.
유 CBO는 “프렌들리AI처럼 AI 추론 플랫폼을 제공하는 베이스텐·투게더AI 등 미국 기업은 이미 대규모 투자를 유치, 5조~10조원 규모 기업가치를 인정받고 있다”며 “기술 측면에서 프렌들리AI가 우위에 있는 만큼 북미 시장에서 사업 성과를 내고 이를 바탕으로 투자 유치에 나설 것”이라고 강조했다.
AI산업이 기존 모델 성능 경쟁 중심에서 추론 효율 경쟁으로 전환되고, GPU 비용·레이턴시 문제로 AI 서비스 수익성 확보가 핵심 과제로 부상한 상황도 사업 확대와 기업 가치 제고에 유리할 것이라고 부연했다. AI 수요가 급증하는 상황에서 추론 수요는 지속될 것이란 취지다.
프렌들리AI는 현재 다수 미국 기업과 추론 적용을 위한 기술검증(PoC) 사업을 진행하고 있다. 이달 AI 기반 코딩 서비스를 제공하는 커서와 같은 사업모델(BM)을 가진 글로벌 AI 네이티브 기업과 본사업 체결을 앞두고 있다.
유 CBO는 “벤치마크 테스트 결과를 봤을 때 경쟁사 대비 레이턴시나 GPU에서 토큰을 끌어내는 지표 등에서 좋은 성적을 냈다”며 “시장이 열리는 데다 기술 경쟁력이 있기 때문에 충분히 승부를 볼 수 있다고 판단한다”고 자신했다.
이어 “프렌들리AI가 미국 내 영업조직을 이제 막 가동한 만큼 잠재력은 충분하다”며 “올해 매출은 전년 대비 10배, 내년에는 올해 대비 10배, 2년 내 매출이 100배 성장할 수 있게 북미 사업을 확대할 계획”이라고 말했다.
박종진 기자 truth@etnews.com
