5월 20일 조직위원회, 웨스틴 조선 서울에서 운영 방안 최종 승인
9월 3~4일 노보텔 앰배서더 서울 동대문서 개최
STA테스팅컨설팅, 식약처 R&D 과제로 개발한 '레드팀 플랫폼' 운영 적용
식품의약품안전처가 주최하고 한국전자통신연구원(ETRI), 분당서울대학교병원, STA테스팅컨설팅, 한국화학융합시험연구원(KTR)이 공동 주관하는 '2026 첨단AI 의료제품 레드팀 챌린지 및 기술 워크숍' 개최 계획이 지난 20일 서울 웨스틴 조선호텔에서 열린 조직위원회를 통해 최종 확정됐다. 이날 회의에서는 2025년 운영 결과와 2026년 운영·홍보 계획 등이 논의·승인됐다.
행사는 오는 9월 3일부터 4일까지 노보텔 앰배서더 서울 동대문 호텔에서 열린다. 의료 AI 및 AI 보안·시험 분야 전문가 200여 명이 참여할 예정이며, 첫째 날에는 레드팀 챌린지, 둘째 날에는 기술 워크숍과 시상식이 진행된다. 올해 챌린지는 지난해보다 대상 모델을 1.5배 확대해 국내외 대표 LLM·FM과 의료 특화 모델 등 총 15종을 대상으로 운영된다.
이번 행사의 주요 변화 중 하나는 STA테스팅컨설팅이 식약처 R&D 과제로 개발한 '생성형 AI 디지털의료제품 레드팀 시험평가 플랫폼'이 운영 인프라로 처음 적용된다는 점이다. 해당 플랫폼은 의료제품에 특화된 적대적 공격 시나리오 설계, 시험 환경 제공, 결과 수집·분석, 취약점 재현 로그 관리 등 레드팀 전 과정을 통합 지원하는 의료 AI 전용 플랫폼이다.
회사 관계자는 “의료 AI 제품 인허가 단계에서 활용 가능한 신뢰성·안전성 시험평가 체계로 확장될 수 있도록 설계됐으며, 이번 챌린지가 실증 무대가 될 것”이라고 밝혔다.
평가는 △기술적 난이도 △안전 및 위해도 △취약점 재현성 △공격의 창의성·다양성 등 실무 지표를 기준으로 진행된다. 지난해에는 47개 팀, 100여 명이 참여해 10종 이상의 LLM을 대상으로 4,000건 이상의 유효 공격 프롬프트를 발굴했다.
둘째 날 열리는 기술 워크숍에서는 기술·표준 동향, 글로벌 규제 조화, 의료 AI 안전 및 제품 평가 등이 주요 의제로 다뤄질 예정이다. 점심시간에는 '첨단 의료AI 안전 포럼'도 함께 운영된다.
행사에는 국가인공지능전략위원회, 보건복지부, 보건산업진흥원, 한국인터넷진흥원, 대한의료인공지능학회 등 유관 기관과 업스테이지, AIM intelligence 등 기업이 후원 기관으로 참여한다.
조직위원회 관계자는 “의료 AI 개발사와 보안 연구자, 임상 전문가, 학생 등 누구나 참여할 수 있도록 운영할 계획”이라고 전했다.
이원지 기자 news21g@etnews.com
