KAIST(총장 신성철)가 수학으로 의료영상 및 정밀분야용 고성능 인공지능(AI) 제작 원리를 밝히는데 성공했다.
KAIST는 예종철 바이오 및 뇌공학과 석좌교수팀이 그동안 알 수 없었던 심층 신경망의 수학 원리를 규명했다고 10일 밝혔다.
심층 신경망은 가장 흔히 쓰는 딥 러닝 구현방법이다. 심층신경망 기반 AI는 다방면에서 사람의 능력을 뛰어넘은지 오래다. 문제는 심층 신경망의 정확한 구조나 동작 원리를 알지 못한다는 점이다. 예상하지 못한 결과가 나오거나 오류가 발생해도 원인을 알 수 없다.
연구팀은 신호처리 분야에 집중한 고차원 구조인 '행켈구조 행렬'을 기저함수(가중치 결합으로 표시할 수 있는 바탕함수의 집합)로 분해할 때 심층 신경망의 기하학 구조가 나온다는 것을 발견했다. 또 기저함수 가운데 좁은 영역을 담당하는 국지기저함수, 넓은 영역을 담당하는 광역기저함수가 각각 다른 역할을 하는 것을 확인했다. 국지기저함수는 AI의 '필터링' 역할을 맡고 광역기저함수는 신호 차원을 줄이는 '풀링' 역할을 했다.
연구팀은 이를 바탕으로 기저함수 개수, 신경망 깊이를 조절해 원하는 심층 신경망 구조를 제시할 수 있다고 설명했다. 새롭게 도출한 심층 신경망 구조를 영상잡음 제거 및 영상 복원에 적용해 성능을 높일 수 있다고 밝혔다.
예종철 교수는 “최적화된 심층신경망구조를 수학적 원리로 디자인하고 그 영향을 예측할 수 있게 됐다”며 “AI가 필요한 다양한 분야에 이를 응용될 수 있다”고 말했다.
대전=김영준기자 kyj85@etnews.com
