오픈AI가 한국 정부·공공부문과 협력을 지속 강화한다. 고위험 인공지능(AI) 등장을 대비해 안전성 강화를 위해 AI안전연구소(AISI)와 협력을 본격화한다.
17일 한국전자통신연구원(ETRI) 서울사무소에서 AI안전연구소와 오픈AI는 최첨단 AI 안전성 확보와 고위험 분야 AI 안전 협력 강화를 위한 업무협약(MOU)을 체결했다.
협약은 지난해 10월 과학기술정보통신부와 오픈AI 간 MOU 체결로 구축한 AI 협력 기반을 AI 안전 분야까지 확대하는 차원이다. 올해 두 차례 과기정통부 2차관과 오픈AI 고위관계자 간 논의된 AI 안전 협력 방안을 AI안전연구소와 오픈AI 간 실질적 협력으로 발전시켰다.
AI안전연구소와 오픈AI는 이번 업무협약을 통해 고위험 분야별 안전 평가 방법론과 벤치마크에 관한 지식과 모범사례를 공유할 예정이다.
한국어와 한국의 사회·맥락을 반영한 평가 체계 개발을 위한 기술 정보를 교환한다. 국제적으로 적용 가능한 AI 안전 평가체계 마련을 위해 지속 협력하기로 했다.
AI기본법상 투명성 의무 대상 사업자를 판별하는 기준이 되는 '학습 누적연산량 10의 26제곱 플롭스'에 대한 협력도 기대된다. 연산량 확인을 위해 AI 선도 모델을 개발하는 글로벌 기업과 협업은 필수다. 현재 투명성 의무를 준수해야 하는 AI 모델은 없지만 AI가 발전할수록 연산량은 급증할 수밖에 없다.
오픈AI가 각국의 AI안전연구소와 업무협약을 체결한 것은 미국, 영국, 일본에 이어 네 번째다. 오픈AI 코리아는 이날 MOU에 대해 오픈AI가 AI기술 활용과 혁신이 빠르게 이뤄지는 한국을 전략적 동반자로 인식하고 정부·기업과 협력을 지속 강화하겠다는 방향성의 일환이라고 설명했다.
실제 오픈AI는 글로벌 빅테크 기업 중 우리나라 정부·기업과 가장 밀접하게 협업하고 있다. 가장 먼저 사이버 보안에 특화된 차세대 AI 모델에 대한 접근권인 '정부·기관용 신뢰기반 접근 프로그램(GTAC)'를 미국·캐나다에 이어 세계 세 번째로 개방했다. 기업과도 TAC 협력을 논의하고 있다.
우리나라는 이번 협약을 계기로 최첨단 AI의 위험 검증과 평가기준 마련을 위한 국제 협력 네트워크에서 역할을 강화할 수 있게 됐다. AI안전연구소와 오픈AI는 실무 협의를 거쳐 MOU에 따른 구체적 협력 과제와 일정을 확정해 나갈 계획이다.
김명주 AI안전연구소 소장은 “AI가 국가 핵심 인프라와 안보에 미치는 영향이 커질수록 고위험 분야에 대한 엄밀한 안전 평가는 선택이 아닌 필수”라며 “연구소는 오픈AI와 최첨단 AI 위험을 과학적으로 검증하고 국제적으로 통용되는 평가체계를 만드는 데 기여하겠다”고 말했다.
이상현 오픈AI 아태지역 정책 총괄은 “고위험 분야 AI 안전성 평가에 대한 지식과 모범 사례를 공유하고, 신뢰할 수 있는 AI 개발과 안전한 이용 환경 조성에 함께 기여하게 돼 뜻깊게 생각한다”고 전했다.
이진수 과기정통부 인공지능정책기획관은 “급변하는 글로벌 AI 기술과 이용 환경에 대응해 고성능 AI·자율형 에이전트 AI 등 최첨단 AI 모델의 안전성 확보에 적극 협력하길 기대한다”고 밝혔다.
박종진 기자 truth@etnews.com
