디바이스 자체에서 인공지능(AI)이 구현되는 '온디바이스(On-device) AI'는 삼성전자, 인텔, 퀄컴을 비롯한 주요 하드웨어 업체들이 주목하는 차세대 AI 기술이다. 지금까지는 빅데이터로 대표되는 클라우드 기반 AI가 시장을 주도했으나 최근 사회·문화적 환경 변화 영향으로 디바이스 의존도가 증가함에 따라 하드웨어 공급자의 입지가 점차 확대되고 있다.
특히 스마트워치, 스마트폰, 센서 등이 빠르게 성장하면서 온디바이스 AI 발전을 위한 토양이 다져졌다. 이들 지능형 디바이스 총합은 현재 약 150억개에서 오는 2025년 약 1500억개 규모로 늘어날 것으로 추정된다. 또 올해 발생한 코로나19 사태로 인해 공공장소 모니터링이나 감염자 접촉 추적 프로그램 구현에도 온디바이스 AI 접목이 활발하게 이뤄지는 상황이다.
◇클라우드 AI 대안으로 떠오른 온디바이스 AI
온디바이스 AI의 가장 큰 장점은 데이터 수집 및 컴퓨팅 파워 여건이 열악한 상황에서도 AI를 원활하게 지원할 수 있다는 점이다. 멀리 떨어진 서버나 클라우드를 이용하지 않더라도 스마트폰, 로봇청소기, 세탁기 등 개별 디바이스 AI 연산을 자체 처리한다.
일반적인 AI 서비스나 제품은 AI 알고리즘의 복잡하고 많은 연산량 때문에 고성능 연산장치인 중앙 서버나 클라우드를 기반으로 작동한다. 에지단에서 모바일 기기가 정보를 수집해 서버에서 연산을 처리하면 다시 서버는 분석된 내용을 기반으로 기기에 명령을 전달하는 방식을 취한다.
이와 같은 클라우드 기반 AI는 네트워크가 단절된 환경에서 제 역할을 수행하기 어렵다. 외국 여행 시 활용하게 되는 '실시간 번역' 기능이 대표적이다. 아직 상당수 국가 통신망은 음영 지역이 많고, 통신 품질이 쉽게 저하돼 지연시간이 길다. 집안에 설치된 사물인터넷(IoT) 기기도 마찬가지다. 갑작스럽게 공유기가 작동하지 않거나 화재 발생 등으로 네트워크 접속이 차단된다면 활용이 어렵다.
각 기기에서 수집한 정보가 이동 및 저장되는 과정에서 발생할 수 있는 개인 민감정보 유출 문제도 해결이 쉽지 않다. AI스피커는 음성인식 기능을 향상하기 위해 사용자 대화를 수집하는데, 오작동 등으로 인해 녹음 기능이 갑자기 활성화되기도 한다. 이 경우 이용자 '침실대화' '가정 폭력 상황' 등 민감한 정보가 타인에게 노출될 여지가 생긴다.
2019년 구글은 AI스피커 '구글홈'에서 이 같은 논란이 발생하자 문제점에 대해 일부 시인한 바 있다. 같은 해 페이스북 역시 AI 학습을 위해 이용자 음성 대화를 수집하고 이를 외부인에게 유출해 논란이 됐다. 소량 데이터로 디바이스에서 독립 구현이 가능한 온디바이스 AI는 이 같은 문제의 대안이 될 수 있다.
◇세탁기 등 가전기기에도 AI 도입 가속
삼성전자는 하드웨어로부터 출발하는 온디바이스 AI 기술을 새로운 기회로 보고 있다. 폭넓은 하드웨어 제품군을 매개로 보유하고 있어 AI 역량을 발휘하기 좋은 환경을 확보할 수 있다. 삼성전자가 2018년 선보인 모바일 애플리케이션프로세서(AP) '엑시노스9(9820)'이 대표적인 온디바이스 AI 기기다. 지연 없이 실시간으로 다양한 연산을 처리하는 시스템반도체 신경망처리장치(NPU)가 탑재되면서 모바일 기기 자체에서 기존 대비 7배 빠른 AI 연산 처리가 가능해졌다. 삼성전자는 사용자 식습관이나 운동 등 생활습관에 대한 정보를 직접 파악할 수 있게 되면서 스마트기기의 사용자 맞춤형 서비스도 더욱 강화될 것으로 전망하고 있다.
삼성전자가 올해 초 선보인 '삼성 그랑데 AI' 세탁기·건조기가 온디바이스 AI와 클라우드 AI를 결합한 형태로 접목한 제품이다. 이용자 개개인의 사용 습관과 패턴을 스스로 학습하고 맞춤형 서비스를 제공한다.
인텔은 2019년 국내 온디바이스 AI 솔루션 스타트업 노타와 기술검증(PoC) 프로젝트를 진행한 바 있다. 네이버D2SF가 투자한 첫 번째 스타트업으로 잘 알려져 있는 노타는 딥러닝 모델 경량화 및 압축 원천기술을 보유하고 있다. 이를 모빌리티, 보안관제, 리테일 분야에 적용하고 있으며, 올해 시리즈A 투자 라운드에서 삼성그룹(삼성벤처투자)과 LG그룹(LG CNS)으로부터 동시에 전략적 투자를 유치했다.
노타가 보유한 자동 경량화 플랫폼 '넷츠프레소'는 단기간에 경량화된 AI 모델을 만들 수 있다. 경량화는 저전력, 저사양의 개별기기에서도 구동할 수 있도록 복잡한 AI 모델을 성능 저하 없이 재구축하는 기술이다. 기존에는 엔지니어가 직접 수행해야 했기 때문에 많은 시간과 비용이 소요되는 문제가 있었지만 노타는 가볍고 빠르면서도 기존 모델 대비 최대 97% 정확도를 내는 기술을 확보하고 있다.
전자통신연구원(ETRI)은 올해 8월 영상을 다루는 온디바이스 장치의 핵심 소프트웨어(SW) 기반 기술을 개발해 국내 최초로 해당 분야 국제 표준 인증을 받았다. 낮은 전력으로도 온디바이스 장치에서 비전처리 SW를 높은 성능으로 구동할 수 있는 기술이다. 또 다양한 하드웨어에 응용도 가능해 개발 비용 절감에 도움을 준다.
민옥기 ETRI 본부장은 “온디바이스 AI 기술의 핵심은 경량화”라면서 “통상 원본 알고리즘 대비 정확도 손실을 10% 이내로 방어하면서, 데이터 볼륨을 얼마나 축소하느냐가 기술 수준 척도가 된다”고 설명했다.
이형두기자 dudu@etnews.com
