빌 게이츠는 “일생 동안 단 두 번, 혁명이라고 생각한 기술 중 하나가 바로 초거대 언어모델”이라 했다. 이처럼 초거대언어모델(LLM)의 출현은 세계적으로 전례없는 혁신을 가져왔고, 이를 방증하듯 인공지능(AI) 기업은 앞다퉈 혁신에 속도를 더하고 있다. 이에 LLM을 도입하려는 기업도 빠르게 증가하고 있다. 범용 LLM 등장은 누구나 쉽게, 고도로 발전된 AI를 경험할 수 있도록 새로운 지평을 열었다.
그런데 기업 담당자들은 되려 고민이 깊어졌다. 범용 LLM 종류와 구축 방식이 다양해지면서 오히려 선택에 어려움이 생긴 것이다. 자체 LLM 구축의 경우 지속적인 유지 관리와 업데이트가 필요하고, LLM 연동의 경우에는 보안과 비용, 기술적 노하우의 문제가 생길 수 있다.
LLM 접근 장벽이 낮아진 것은 맞지만, 실제 기업이 만족할 만한 퀄리티를 보장할 수 있는 방안을 찾는 것은 쉽지 않다. 기업이 자체적으로 LLM을 구축하려는 시도는 그 자체로 상당한 도전이다. LLM을 최신 상태로 유지하려면 지속적인 업데이트와 전문 인력 투입이 필요하며, 이는 막대한 비용과 자원을 필요로 한다.
투자없이 범용 LLM 모델과 데이터 규모와 최신성에서 격차가 벌어질 수밖에 없다. 이에 기업 경쟁력을 유지하려면 이러한 격차를 줄이는 노력이 필수적이며 지속적인 관리와 연구, 적절한 전략, 그리고 이에 상응하는 인력과 비용이 요구된다.
LLM을 연동해 사용하는 경우는 어떨까. 범용 LLM 연동 과정에서 보안, 비용, 관련 인력 부재와 같은 새로운 문제가 발생할 수 있다. 특히 LLM을 연동하면 기업 데이터가 외부 클라우드 서비스로 전송돼 제 3자에 의해 관리되기 때문에 기업 기밀이나 고객 정보의 유출 위험이 증가하게 된다. 따라서 기업은 LLM 도입에 있어서 이러한 위험 요소를 고려해 신중히 판단해야 한다.
또 비용 문제에서도 자유로울 수 없다. LLM을 연동해 활용하는 과정에서 발생하는 토큰 비용이 상당할 수 있기 때문이다. 비용을 줄이는 노하우가 존재하지만, 대화형 AI 전문 기업이 아닌 경우에는 이를 적용하는 것이 쉽지 않다.
그렇다면 기업은 어떤 LLM을 선택하고 도입해야 만족스러운 결과를 얻을 수 있을까. 정답은 LLM 전문가 또는 전문기업의 도움을 받는 것이다. LLM을 성공적으로 비즈니스에 접목하기 위해서는 오랜 기간 동안 AI 분야를 깊이 연구한 전문가들의 지식과 노하우가 응축된 실력 있는 대화형 AI 전문 기업의 솔루션을 활용하는 것이다.
도입을 원하는 기업은 LLM 사용에서 어떻게 페인 포인트를 해소할 수 있을지 면밀히 살펴 전략적으로 활용하는 것이 필요하다. 의사결정시 LLM이 어떻게 기업의 비즈니스를 효율적으로 전환시킬 수 있을지, 고객에게 어떤 가치를 줄 수 있는지를 살펴야 한다. 다만 이때 발생할 수 있는 보안과 비용 등의 현실적인 문제를 기술적으로 해결할 수 있는 노하우를 갖춘 대화형 AI 전문가와 함께 한다면, 더욱 전략적인 결론에 도달할 수 있을 것이다.
필자는 대화형 AI 전문 기업을 8년간 경영하며, 누구나 최고 수준의 대화형 AI 기술을 활용하는 것을 목표로 기술을 연구하고 서비스를 개발해 왔다. 기술적인 격변은 언제나 있었지만, LLM 혁명은 특별하다. 무섭게 밀려오는 LLM의 파도 속에서 최고 수준의 LLM을 진통 없이 도입할 수 있도록 관련한 기술과 서비스 개발에 매진하고 있다.
이미 좋은 재료를 취할 수 있는 기회는 모두에게 공평하게 주어졌다. 이를 속도감 있게 현장에 도입하고, 비즈니스 전환을 이뤄 특별한 고객 경험을 만들어내는 게 기업의 미래 경쟁력이자, 성공의 척도가 될 것이다.
조원규 스켈터랩스 대표 ted@skelterlabs.com
