퀄컴이 스냅드래곤 컴퓨팅 플랫폼 기반 생성형 인공지능(AI) 실행 등 온디바이스 AI 기술 경험을 다양한 디바이스에 탑재한다.
퀄컴 자회사 퀄컴테크놀로지는 마이크로소프트(MS) 연례행사 MS 빌드 2023에서 온디바이스 AI 기술을 소개하고 스냅드래곤이 탑재된 윈도11 PC용 애플리케이션 개발에 새로운 가능성을 제시했다.
AI 애플리케이션을 온디바이스로 운영하면 비용효율성, 프라이버시, 개인화, 저지연 등을 향상시킬 수 있다. 스냅드래곤 플랫폼에는 전용 퀄컴 AI 엔진이 장착, 온디바이스 AI를 얇고 가벼운 소형 기기에서 구현해 AI 워크로드 처리 효율성을 높인다.
지아드 아즈가 퀄컴 제품관리 수석부사장은 “생성형 AI가 안정적으로 자리잡기 위해서는 엣지 디바이스에서 추론 기능 활용이 극대화돼야 한다”며 “퀄컴의 최고급 AI 하드웨어와 소프트웨어는 개발자가 AI 기술을 활용해 스냅드래곤이 탑재된 노트북, 휴대폰과 기타 디바이스상에서 놀라운 사용자경험을 선사하도록 뒷받침할 것”라고 말했다.
퀄컴테크놀로지는 윈도11 PC상에서 생성형 AI 개발에 도움을 주는 데모를 시연하고 툴도 공개했다. 10억개 이상 매개 변수를 보유한 텍스트-투-이미지 생성형 AI와 대규모 언어모델(LLM) 등 100억개 이상 매개 변수를 보유한 모델의 단말기상 운영을 지원한다.
또 퀄컴 AI 스택을 향상하고 개발자가 차세대 온디바이스 AI 경험을 선보일 수 있는 퀄컴 AI 엔진 다이렉트 SDK를 대중을 상대로 처음 개방했다.
박종진 기자 truth@etnews.com
