국민대학교는 김민규 소프트웨어융합대학 인공지능학과 교수가 이미지·비디오 생성 AI의 대표 기법인 확산 모델(Diffusion Model)과 플로우 매칭(Flow Matching)을 기반으로, 안전한 콘텐츠 생성을 위한 통합 프레임워크 'Safety-Guided Flow(SGF)'를 제안하는 연구를 수행했다고 17일 밝혔다.
이번 연구는 정보통신기획평가원(IITP)과 캐나다 고등교육원CIFAR의 지원을 받아 진행됐으며, 김민규 교수가 제1저자로 참여하고 김영헌·박미정 교수 캐나다 브리티시컬럼비아대(UBC) 교수가 공동 참여했다.
연구 결과는 인공지능(AI) 분야 세계 3대 최우수 학회인 'International Conference on Learning Representations 2026' (구글 Scholar H-index 기준 전체 과학/공학 분야에서 8위)에 구두발표(Oral)로 채택됐다.
연구 결과에 따르면, 기존의 대표적 안전 생성 기법인 Shielded Diffusion과 Safe Denoiser가 각각 최대 평균 불일치(Maximum Mean Discrepancy, MMD) 포텐셜의 특수한 경우임을 증명go 분산되어 있던 안전 생성 연구를 하나의 통합 프레임워크로 제시했다.
또한 제어 장벽 함수(Control Barrier Function) 이론을 적용go 디노이징 초기에 가이던스를 강하게 적용하고 이후 점차 감소시켜야 하는 '임계 시간 창(Critical Time Window)'의 존재를 보였다. SGF를 적용한 모델은 유해 콘텐츠 방어, 학습 데이터 암기 방지, 저작권 보호 등 다양한 안전 생성 시나리오에서 기존 기법 대비 우수한 성능을 보이며, 생성 AI의 안전한 실용화를 위한 핵심 기반 기술로서의 가능성을 확인했다.
김 교수는 “이번 성과에 대해 향후 확산 모델과 플로우 매칭 모델이 자율주행, 의료, 콘텐츠 생성 등 고위험 영역에 실용화되는 과정에서 안전성을 보장하는 핵심 기반 기술로 활용될 수 있을 것”이라고 말했다.
권미현 기자 mhkwon@etnews.com
