한국과학기술원(KAIST·총장 이광형)은 윤찬현·김주영 전기및전자공학부 교수 연구팀이 설명가능인공지능(XAI) 뉴로프로세싱 유닛(EPU)을 개발했다고 24일 밝혔다. XAI기법을 처리하기 위한 노이즈에 강한 주의집중 구조 탑재 AI 칩을 설계해 반영했다.
XAI는 이해할 수 있고 신뢰할 수 있는 설명을 제공하는 AI 기법이다. 어떤 것이 AI 의사결정에 큰 영향을 줬는지 설명할 수 있다는 점에서 기존 AI 대비 정확성, 공정성, 신뢰성이 높다.
연구팀은 다중 규모 및 다중물체 특징 추출 구조인 피라미드형 신경망 구조에서 추론 결과에 영향을 주는 AI 내부 신경층별 활성화 정도를 복합적으로 해석할 수 있는 AI 모델과 가속 처리에 특화된 채널 방향 합성곱 연산 및 정확도를 유지하는 EPU칩을 구현했다.
다중 규모 및 다중물체 특징 추출에 특화된 피라미드형 AI 모델에서 설명 시각화를 구현하려면 추론 과정 역방향으로 모든 합성곱 층별 활성화 맵에서 모델 파라미터의 변화도를 추출할 수 있어야 한다.
하지만 한정된 온 칩 메모리 크기 및 AI 모델 전체를 특정한 용도에 맞게 주문 제작해야 해 구현하는 데 물리적 한계가 있었다. 매우 작은 노이즈에도 클래스 활성화 맵핑 시각화 설명이 완전히 달라져 XAI 모델 신뢰도 저하도 큰 문제점이었다.
연구팀은 XAI의 다중 활성화 맵 고유 특성 정보를 융합해 입력 이미지 노이즈에 강한 모델 생성을 위한 상호학습 방법을 개발함으로써 단일 활성화 맵 기반 주의집중 맵 생성 기술에 비해 설명성 지표를 최대 6배가량 높였다.
XAI 모델 가속화를 위해 기존 모델의 추론과 역전파 과정에 더해 활성화 맵 생성까지 처리할 수 있는 XAI 코어를 개발하고, 다양한 연산 태스크를 유연하게 나눠 동시에 처리할 수 있는 멀티 데이터 플로우 방식도 제안했다.
윤찬현 교수는 “EPU 칩은 광학 위성, 전천후 관측 영상레이더 위성 등 특수 목적과 고정밀 AI 영상처리시스템에 적용할 수 있으며, 저지연·저전력으로 AI 시스템 판단 근거에 대한 설명성을 획기적으로 높일 수 있을 전망”이라며 “EPU 칩 개발 후속 연구를 진행할 계획”이라고 말했다.
이인희기자 leeih@etnews.com
