실리콘밸리가 본 AI 경쟁…“기술보다 빠른 도입과 ROI가 중요”

Photo Image
24일(현지시간) 미국 캘리포니아 팔로알토에서 열린 젠스파크 미디어 투어에서 (왼쪽 두번째부터)밥 고엘 NTT VC 공동창업자, 줄리 최 세레브라스 CMO, 케이 주 젠스파크 CTO가 패널 토의를 진행하고 있다.

미국 실리콘밸리의 인공지능(AI) 산업이 모델 경쟁을 넘어 실제 기업 도입과 생산성 혁신 단계로 이동하고 있다는 진단이 나왔다. AI 기술의 발전 속도가 빨라지는 가운데 향후 경쟁력은 기술 자체보다 얼마나 빠르게 현장에 적용하고 투자수익률(ROI)을 만들어내느냐에 달려 있다는 분석이다.

밥 고엘 NTT VC 공동창업자는 24일(현지시간) 미국 캘리포니아 팔로알토에서 열린 젠스파크 미디어 투어에서 “2년 전만 해도 AI는 더 나은 검색엔진 정도로 여겨졌지만 지금은 제조, 법률, 재무, 마케팅, 영업, 소프트웨어 개발 등 거의 모든 업무가 AI와 통합되는 방향으로 재구성되고 있다”고 말했다.

그러면서 “향후 5~10년 안에 세계 주요 기업들의 직원 중 최대 50%가 AI 에이전트 또는 AI 노동자 형태로 구성될 가능성이 있다”며 “이는 엄청난 기회인 동시에 기업들이 준비해야 할 새로운 도전 과제가 될 것”이라고 말했다.

실리콘밸리 현장에서 기업들이 체감하는 가장 큰 변화로는 AI 모델 성능의 비약적인 향상이 꼽혔다.

케이 주 젠스파크 공동창업자 겸 최고기술책임자(CTO)는 “1~2년 전과 비교하면 현재 프론티어 모델의 역량은 완전히 다른 수준”이라며 “예전에는 수많은 조정과 가드레일이 필요했지만 이제는 모델 자체의 능력이 매우 강력해졌다”고 말했다. 다만 그는 “대부분의 일반 사용자는 여전히 단순한 채팅 인터페이스를 통해 AI를 접하고 있으며 최신 모델의 잠재력을 충분히 활용하지 못하고 있다”고 진단했다.

AI 인프라 분야에서는 학습 중심에서 추론 중심 구조로의 전환이 가장 중요한 변화로 진단됐다.

최근 뉴욕증권거래소 상장으로 주목받은 AI 반도체 기업 세레브라스의 줄리 최 최고마케팅책임자(CMO)는 “과거에는 학습이 80%, 추론이 20% 수준이었다면 앞으로는 추론이 80%, 학습이 20%를 차지하는 구조로 이동할 것”이라며 “추론 최적화를 위한 새로운 하드웨어 아키텍처들이 등장하고 있으며 이는 AI 산업의 중요한 성장 동력이 될 것”이라고 전망했다.

세 참석자는 공통적으로 AI의 미래는 모델 자체보다 실제 도입 경험에서 갈릴 것이라고 봤다. 특히 일본과 한국 기업들에 대해서는 AI 도입을 서둘러야한다고 조언했다.

고엘 공동창업자는 “AI 배포는 매우 어렵고, ROI를 입증하는 것도 쉽지 않다”면서 “일본과 한국 기업이 완벽해질 때까지 기다리면 너무 늦을 수 있기 때문에 AI를 지켜보기만 해서는 안 되고 일단 게임에 들어와야 한다”고 강조했다.

그러면서 기술 도입 과정에서 젊은 인재의 역할을 강조했다. 그는 “경영진만의 판단으로는 변화 속도를 따라가기 어렵기 때문에 조직 내 젊은 직원들을 의사결정 테이블에 올려야 한다”면서 “AI 자동화는 워크플로를 제대로 이해해야 가능한데, 이를 위해선 새로운 기술 감각과 현업 이해가 결합돼야 한다”고 말했다.

팔로알토(미국)=


정현정 기자 iam@etnews.com

브랜드 뉴스룸