원본 학습 데이터 없이 합성 자료로 다른 모델 학습
초기 중요도 낮은 패치도 끝까지 최적화해 재활용
인하대학교가 원본 학습 데이터 없이 인공지능(AI) 모델의 지식을 다른 모델에 전달하는 기술을 개발했다.
인하대는 최동완 컴퓨터공학과 교수 연구팀이 이미지의 일부를 일찍 버리지 않고 계속 활용하는 '패치 재탄생 역변환(PRI)' 기술을 개발했다고 8일 밝혔다.
연구 대상은 이미지를 작은 조각인 '패치'로 나눠 분석하는 비전 트랜스포머다. 연구팀은 학습된 모델의 정보를 바탕으로 합성 이미지를 만드는 '모델 역변환' 방식을 이용했다. 합성 이미지를 새 모델의 학습에 쓰면 원본 데이터를 사용하지 않고도 기존 모델의 지식을 전달할 수 있다.
기존 방식은 합성 이미지를 만드는 초기에 중요도가 낮아 보이는 패치를 제거해 계산량을 줄였다. 연구팀은 이때 버려지는 패치도 최적화를 계속하면 유용한 정보를 담을 수 있다는 점에 주목했다. PRI는 중요한 패치를 단계적으로 분리해 합성 이미지를 만들면서, 남은 패치도 계속 최적화해 이후 이미지 생성에 활용한다.
논문에 따르면 PRI의 이미지 생성 속도는 실험에서 기존 희소 모델 역변환 방식보다 최대 2배, 일반적인 밀집 모델 역변환 방식보다 최대 10배 빨랐다.
허성수 석사 졸업생이 제1저자로 참여한 논문 'Patch Rebirth: Fast and Transferable Model Inversion of Vision Transformers'는 인공지능 분야 국제학술대회 'NeurIPS 2026' 채택 논문 목록에 올랐다.
최동완 교수는 “좋은 연구는 기존 방식을 분석하는 과정에서 발견한 작은 의문에서 시작되는 경우가 많다”며 “학생이 석사과정 동안 하나의 문제를 꾸준히 탐구하고 발전시킨 결과가 좋은 결실로 이어졌다는 점에서 뜻깊다”고 말했다.
인천=김동성 기자 estar@etnews.com
