엣지 AI(Edge AI)는 데이터 처리를 클라우드 서버가 아닌 기기에서 수행하는 AI 기술이다. 기기 자체에서 데이터를 분석하고 작업을 수행하는 개념이다.
데이터 처리가 사물인터넷(IoT) 장치와 스마트폰 등 기기 자체에서 이뤄지는 만큼, 빠른 응답속도와 높은 보안성이 강점이다. 또 클라우드 AI처럼 대규모 서버 인프라 구축이 필요 없고 저전력 구동이 가능해 자원 효율성도 좋다.
특히 인터넷 연결이 안 되는 상황 속에서도 AI 기능을 구현할 수 있어 사용성이 무궁무진하다는 평가를 받는다. 대표적인 사용처는 자동화 시스템이 구축된 공장, 로봇, 고객 응대 챗봇 서비스, 스마트 홈 기기, 자율 주행 자동차, 헬스케어 등이 꼽힌다.
국내외 기업들은 엣지 AI를 사업에 녹이기 위한 작업에 나서고 있다. 삼성전자는 기존 갤럭시 모바일 제품군에 적용하던 엣지 AI를 TV, 가전 등에도 추가 접목해 제품 특성에 맞는 AI 기능을 구현하고 기기 간 연결을 통해 개인화된 AI 경험을 제공한다는 방침을 세웠다. 애플은 아이폰16시리즈를 온디바이스AI 기기로 구현했다. 테슬라, 지멘스, 인텔 등 글로벌 대기업들도 자사 서비스나 공장에 엣지AI를 도입했다.
국내 이동통신사업자들도 엣지AI를 주목하고 있다. SK텔레콤은 미국 AI 솔루션 기업 스마트글로벌홀딩스(SGH)에 2억달러(약 2700억원)을 투자하고 '텔코 엣지 AI 솔루션'을 개발 중이다. KT 또한 온디바이스 AI사업을 준비하고 있다. LG유플러스는 경량화 언어모델(sLLM) '익시젠'을 활용한 온디바이스 AI 전용 반도칩을 준비 중이다.
남궁경 기자 nkk@etnews.com