셀렉트스타는 자사 연구진이 참여한 인공지능(AI) 신뢰성 및 안전성 관련 연구 논문 5편이 자연어처리(NLP) 학회인 'EMNLP 2026'에 채택됐다고 28일 밝혔다.
EMNLP는 전산언어학회(ACL)가 주관하는 세계 최고 권위의 자연어처리 학술대회 중 하나다. 경험적 방법론과 검증을 기반으로 한 자연어처리 연구를 폭넓게 다루며, 글로벌 빅테크와 주요 연구기관 소속 연구자들이 최신 연구 성과를 발표하는 자리다. 올해 학회는 오는 10월 24일부터 29일까지 헝가리 부다페스트에서 열린다.
이번에 채택된 논문은 메인 콘퍼런스 1편과 파인딩스(Findings) 1편, 워크숍 논문 3편이다. 올해 EMNLP 메인 콘퍼런스에는 약 1만8000편의 연구가 제출돼 15.4%만이 채택된 것으로 알려졌다.
메인 콘퍼런스에 채택된 'When Accuracy Aligns and Fails: Diagnosing Human-LLM Response Alignment at Population Scale(정확성이 일치할 때와 어긋날 때: 대규모 집단 수준에서 인간과 LLM의 응답 정렬 진단)'는 AI가 문제를 맞히는지만 평가하는 기존 방식에서 나아가, 틀린 경우에도 사람과 유사한 오답을 선택하는지를 분석한 연구다. 셀렉트스타 최혜지 연구원이 공동 주저자로 참여했다.
연구진은 표준화 시험 문항에서 나타나는 사람들의 정답·오답 선택 분포와 대규모언어모델(LLM)의 응답 분포를 비교해, AI가 인간과 얼마나 유사하게 성공하고 실패하는지를 정량적으로 진단하는 평가 프레임워크를 제시했다.
파인딩스에 채택된 'Guard Models Are Overconfident Where Base Models Are Uncertain(기반 모델이 불확실한 영역에서 가드 모델은 과도한 확신을 보인다)'는 유해하거나 위험한 요청을 판별하는 가드 모델이 자신의 판단을 얼마나 확신하는지 분석한 연구다. 홍종현 연구원이 주저자, 정민재 연구원이 공동저자, 김민우 AI Safety팀 리더가 교신저자로 참여했다.
이번 연구들은 AI의 정답률뿐 아니라 인간과의 응답 패턴 차이, 안전 모델의 판단 신뢰도 등 기존 성능 지표만으로 포착하기 어려운 신뢰성 문제를 정량적으로 분석했다. 특히 실제 AI 서비스에서 안전장치 역할을 하는 가드 모델의 과신 가능성을 확인하고, 보다 정교한 AI 안전성 평가 기준이 필요하다는 점을 제시했다.
EMNLP 2026 산하 워크숍에서도 셀렉트스타 김민우 AI Safety팀 리더가 교신저자로 참여한 공동연구 논문 3편이 채택됐다. 금융보안원과 공동 연구한 2편은 금융 자연어처리 전문 워크숍 'FinNLP'에, 이화여자대학교와 공동 연구한 1편은 다양성과 문화적 맥락을 반영한 책임 있는 AI 정렬을 다루는 'PANDORA' 워크숍에 각각 채택됐다.
김세엽 셀렉트스타 대표는 “이번 EMNLP 논문 채택은 셀렉트스타의 AI 신뢰성 평가와 안전성 연구 역량을 국제 학술 무대에서 인정받았다는 점에서 의미가 있다”라며 “연구 성과를 셀렉트스타의 평가·레드티밍·가드레일 기술과 연결해 기업이 실제 서비스 환경에서 활용할 수 있는 AI 신뢰성 검증 체계로 발전시키겠다”고 말했다.
정현정 기자 iam@etnews.com
