콕스웨이브가 인공지능(AI) 안전성·AI 정렬(Alignment) 분야 연구를 주도하는 이기민 한국과학기술원(KAIST) 교수를 어드바이저로 영입했다.
이기민 교수는 국제머신러닝학회(ICML)와 신경정보처리시스템학회(NeurIPS), 국제표현학습학회(ICLR) 등 세계 AI 분야 최고 수준의 학회에서 논문을 다수 게재하고 워크숍을 주최했다. AI 연구 혁신을 이끄는 차세대 연구자이다.
콕스웨이브는 이 교수 영입으로 '얼라인 AI'의 안전성을 강화하고 나아가 안전한 AI 생태계 조성에 앞장설 계획이다. 이 교수는 안전한 AI 개발을 위한 연구를 중점으로 AI 모델이 잘못된 결과물을 냈을 때 인간이 피드백을 주며 강화 학습을 시키는 'RLHF'를 지속 연구해왔다.
이러한 연구 방식을 '얼라인 AI'에 적용해 AI 시스템이 겪을 수 있는 주요 위험과 악용 사례를 식별하고, AI 모델의 취약점을 보완해 잠재 위협 예방을 강화할 방침이다.
김명희 기자 noprint@etnews.com
