한국과학기술원(KAIST·총장 배충식) 연구진이 AI가 여러 감각 정보를 스스로 구분하고 존재하지 않는 정보를 만들어내는 '환각'을 줄이는 핵심 기술을 개발했다. 더욱 신뢰할 수 있는 멀티모달 AI 구현의 기반이 될 것으로 기대된다.
KAIST는 노용만 전기 및 전자공학부 교수팀이 멀티모달 대형 언어모델(MLLM)의 감각 혼선을 줄이는 두 가지 핵심 기술을 개발했다고 31일 밝혔다.
카메라와 다양한 센서 특성을 정확히 이해하도록 하는 기술과 시각·청각 정보가 뒤섞이면서 발생하는 환각을 줄이는 기술로, 별도의 대규모 재학습 없이도 AI의 신뢰성을 크게 높였다.
첫 번째 기술은 AI가 열화상, 깊이 영상, 엑스레이 등 다양한 센서가 담고 있는 물리적 의미를 정확하게 이해하도록 돕는 '센서 이해 AI'기술(DNA) 최적화 기법이다.
두 번째 기술은 시각과 청각 정보가 서로 영향을 주면서 발생하는 환각을 줄이는 '감각 혼선 방지' 기술(MAD) 기술이다.
또 연구팀은 AI를 막대한 컴퓨팅 자원으로 처음부터 다시 학습시키는 대신, DNA 기술은 적은 데이터만으로 다양한 센서를 이해하도록 성능을 높이고, MAD는 기존 AI에 프로그램을 추가하듯 바로 적용할 수 있도록 설계했다. 시간·비용을 크게 줄이면서도 기존 멀티모달 AI의 신뢰성을 높일 수 있어 산업 현장에 빠르게 적용할 수 있다.
이번 기술은 밤이나 안개 속에서도 보행자와 차량을 정확히 인식해야 하는 자율주행차, 연기로 앞이 보이지 않는 화재 현장에서 생존자를 찾는 구조 로봇, 열화상 카메라를 이용하는 드론 등에 활용될 수 있다. 공항 보안검색에서 엑스레이 영상을 분석하거나, 병원에서 CT·MRI·엑스레이 등 여러 의료영상을 함께 분석하는 AI 정확성·신뢰성을 높이는 데도 기여할 것으로 기대된다.
노용만 교수는 “멀티모달 AI가 실제 환경에서 사용되기 위해서는 다양한 센서의 특성을 정확히 이해하고 여러 감각 정보를 혼동하지 않는 것이 중요하다”며 ”이번 연구는 대규모 재학습 없이도 AI의 감각 편향과 환각을 줄여 실제 생활과 산업 현장에서 믿고 사용할 수 있는 멀티모달 AI의 기반을 마련했다”고 말했다.
정상윤 KAIST 전기 및 전자공학부 박사과정이 두 기술 연구 모두 제1 저자로 참여했고, 유영준 박사가 DNA 연구에 공동 제1 저자로 참여했다.
MAD 연구는 '국제 컴퓨터 비전 및 패턴인식 학술대회(CVPR)'에 지난 6월 발표됐다. DNA 연구는 'IEEE Transactions on Image Processing'에 게재됐다.
김영준 기자 kyj85@etnews.com
