
인공지능(AI) 의료제품의 보안·안전성을 검증하는 기술이 산업 현장 실증 단계에 들어섰다. 개발을 맡은 9개 기관 컨소시엄은 내년까지 연구를 마무리해 성과를 실제 안전관리에 활용할 계획이다.
한국기계전기전자시험연구원(KTC)은 13일 서울 중구 롯데호텔에서 'AI 기반 디지털의료제품 안전성·신뢰성 확보 기술 개발 연구' 과제 2차년도 성과발표회를 개최한다고 11일 밝혔다.
이번 과제는 식품의약품안전처 출연사업인 '첨단의료 AI 안전성·신뢰성 향상 기술 개발'의 일환이다. KTC가 총괄연구기관을 맡아 2025년부터 수행 중이다. 컨소시엄에는 KTC를 비롯해 한국산업기술시험원(KTL), 한국화학융합시험연구원(KTR), 디지털헬스보안협회, 스패로우, 한국전자통신연구원(ETRI), STA테스팅컨설팅, 분당서울대병원, 동국대 산학협력단 등이 참여하고 있다.
세부 과제는 △디지털의료제품 통합위험관리시스템 개발 △소프트웨어 자재명세서(SBOM) 저작도구 개발 △생성형 AI 레드팀 시험평가 기술 개발 △첨단 AI 취약점 글로벌 대응체계 마련 △AI 특화 위험관리 △유형별 안전 설계·소프트웨어 생명주기 거버넌스 등 7개로 구성됐다. 첨단 의료기기 분야의 안전성·신뢰성 평가체계 구축이 목표다.
KTC는 디지털의료제품 보안위험 분석·관리체계와 SBOM 기반 취약점 연구 성과를 내놓는다. SBOM은 소프트웨어를 이루는 오픈소스 등 구성요소 목록을 담은 명세서로, 공급망 보안 취약점 관리에 활용된다. 발표에는 보안위험 관리 모델 가이드라인과 공급망 통합위험관리시스템 고도화·검증 결과, 통합형 SBOM 저작도구와 연동형 애플리케이션 프로그래밍 인터페이스(API), 바이너리 분석 데이터셋 등이 담긴다. 수요기업을 대상으로 SBOM 저작도구를 실증한 결과도 공개한다.
ETRI·분당서울대병원·STA테스팅컨설팅은 생성형 AI 디지털의료제품의 취약점을 공격자 관점에서 점검하는 레드팀 시험평가 기술과 플랫폼 개발 성과를 소개한다. 동국대 산학협력단과 KTL은 디지털의료제품 위험관리와 유형별 안전성 거버넌스 체계 구축 결과를 공유한다.
특별강연도 열린다. 한국인터넷진흥원(KISA)과 국민대는 안전한 AI 데이터 활용과 의료기기 SBOM 분석을, 로엔서지컬과 제이앤피메디는 의료로봇 적용 사례와 AI 의료기기 임상시험을 다룬다.
KTC는 이번 연구로 디지털의료제품 개발·운영 전반의 보안 취약점 관리 시스템과 표준화된 SBOM 저작도구 등 관련 기술이 고도화될 것으로 기대했다. 생성형 AI 디지털의료제품에 특화된 레드팀 운영 체계를 정립해 새로운 분석·테스트 기법을 개발하고 기술적 안전성도 높일 수 있을 것으로 내다봤다.
양병내 KTC 원장은 “올해는 그동안 개발한 기술과 도구를 산업 현장에서 직접 검증하며 한 단계 도약한 해였다”며 “내년 최종 연도에는 연구 성과가 디지털의료제품 안전관리 현장에서 실질적으로 활용될 수 있도록 마무리하겠다”고 말했다.
최성웅 기자 yes@etnews.com











