생성형 인공지능(AI) 기술은 단기간 내에 많은 것을 변화시켰다. 빅테크 기업 주도로 혁신 기술에 대한 대규모 투자가 이뤄지고, 챗GPT와 같은 서비스가 등장하며 기술 활용이 너무나 쉬워진 시대가 됐다.
하지만 여전히 기업의 생성형 AI 활용은 쉽지 않다. 자유롭게 이용하려면 동일한 조건에서도 일정하지 않은 결과가 도출되는 환각현상 등 고려해야 할 것들이 많다. 즉, 전통적 정보기술(IT) 개발·운영 절차에서 벗어나 단 1%의 환각현상 가능성을 염두에 두는 새로운 서비스 개발·운영 절차가 필요한 것이다.
생성 결과의 적정성을 대부분 현업 부서에서 판단하기에 개발 완료 후 검토·보완 과정에서 부서간 커뮤니케이션 비용이 급증할 수 있다는 점을 대비해야 한다. 언어 모델별로 속도, 결과 품질 등 경향성의 차이가 존재하므로 서비스에 맞춘 유연한 언어 모델 선택도 필요하다. 특정 벤더 환경에서만 개발하면 언어 모델을 자유롭게 택할 수 없다는 점도 고려해야 한다.
다양한 생성형 AI 서비스를 운영하는 원티드랩의 생성형 AI 개발·운영 원칙은 다음과 같다. △개발자 의존성을 최소화한 현업을 위한 개발 환경 제공 △환각현상 발견 즉시 실시간 업데이트 △프롬프트 버전 관리·생성결과·비용 모니터링 기반의 서비스 개선 △서비스별 최적 모델 적용을 위한 다양한 거대언어모델 지원 등이다.
지금까지는 누구나 쉽게 데이터를 추출·분석하는 시민 분석가(Citizen Data Scientist)의 역할이 중요했지만, 이제는 노코드·및 로코드 플랫폼의 등장으로 시민 개발자(Citizen Developer) 역할이 거론되고 있다. 시민 개발자의 핵심은 비개발자도 생성형 AI를 자유롭게 이용하는 것이다. 생성형 AI 활용 주체를 현업으로 옮겨 비즈니스 부서의 도메인 전문성, 현장감, 그리고 고객 기대 수준에 부합하는 결과물을 생성해 내는 형태가 돼야 한다.
원티드랩은 올해 비개발자도 쉽게 쓸 수 있는 생성형 AI 개발·운영 솔루션 '원티드 LaaS(LLM as a Service)'를 활용해 복수의 경연대회를 개최했다. 참가자의 50% 이상이 비개발자였음에도 코드 개발 없이 생성형 AI 활용 아이디어를 내고 성공적으로 구현했다.
이미 여러 기업이 원티드 LaaS를 구독, 생성형 AI 활용 노하우를 쌓아가고 있다. 원티드 LaaS 기반의 CS AI 챗봇을 운영하는 기업은, 사업부에서 직접 해당 챗봇의 CS 내역을 확인하고 이 과정에서 발견한 고객의 숨은 니즈와 아이디어를 서비스에 반영하는 등 활용 노하우를 누적해 가고 있다.
디지털 전환 시대에는 '실행과 시행착오, 해결 경험의 축적'이 기업의 경쟁력이 될 것이며, 현업 부서의 아이디어를 쉽게 이끌고 구체화하고 운영 경험을 쌓아갈 수 있는 환경은 더욱 중요해질 것이다.
성공적인 생성형 AI 개발·운영 환경 구축을 위해서는 비개발자도 쉽게 개발할 수 있는 솔루션인지, SI 파트너와 연계해 초단기간 생성형 AI 서비스 구축이 가능한지 살펴야 한다. 또 기업 구성원 AI 역량 개발을 도울 별도 교육 패키지가 있는지, 실제 구성원들이 생성형 AI 아이디어를 도출하고 구체화할 수 있는 경연대회운영 지원 여부 등도 점검하면 좋다.
주형민 원티드랩 AX사업개발 총괄 Hyoungmin.joo@wantedlab.com
