KAIST 인공지능반도체대학원 유회준 교수 연구팀이 사용자의 특성에 맞춰 스스로 진화하는 개인 맞춤형 거대 언어 모델(LLM) 가속기 '소울메이트(SoulMate)'를 최근 개발했습니다.
이번 기술은 기존의 '모두를 위한 AI'를 넘어, 사용자의 대화 방식과 선호도를 학습해 반응하는 '나만을 위한 초개인화 AI' 시대를 앞당길 핵심 반도체 기술로 평가됩니다.
연구팀이 개발한 소울메이트의 핵심은 외부 서버(클라우드)를 거치지 않고 기기 자체에서 데이터를 처리하는 온디바이스(On-Device) AI 기술입니다.
연구팀은 기억된 대화 내용을 바탕으로 맞춤형 답변을 만드는 검색증강생성(RAG) 기술과 사용자의 피드백을 즉각 반영해 학습하는 로우 랭크 미세조정(LoRA) 기술을 반도체 내부에 직접 구현했습니다.
이를 통해 소울메이트는 약 0.2초(216.4ms) 만에 사용자에게 답을 제공하면서 동시에 학습도 진행하는 실시간 개인화 AI 시스템을 구현했습니다.
또한 정보의 중요도에 따라 처리 방식을 최적화하는 혼합 랭크(Mixed-Rank) 아키텍처를 적용해 전력 소모를 크게 줄였습니다.
이 반도체는 스마트폰 프로세서 소비전력의 약 1/500 수준인 9.8밀리와트(mW)의 초저전력만으로도 복잡한 학습과 추론을 동시에 수행할 수 있습니다. 덕분에 스마트폰 같은 모바일 기기에서도 배터리 부담 없이 사용할 수 있습니다.
특히 모든 개인 데이터가 외부 서버로 전송되지 않고 기기 내부에서만 처리되는 '보안 완결형 AI' 구조를 구현해 개인정보 유출 우려도 크게 낮췄습니다.
연구팀은 이 기술이 앞으로 스마트폰, 웨어러블 기기, 개인형 AI 디바이스 등 차세대 플랫폼과 결합해 진정한 개인화 인공지능 서비스 시대를 여는 데 중요한 역할을 할 것으로 기대하고 있습니다.
최성훈 기자 csh87@etnews.com
