네이버는 이용자들의 안전한 인공지능(AI) 서비스 경험까지 관리 범위를 확장한 AI 안전성 체계 'ASF(AI Safety Framework) 2.0'을 8일 공개했다.
ASF 2.0은 네이버가 지난 2024년 AI 서울 서밋에서 공개한 ASF의 업데이트 버전이다. AI 기술 모델의 성능과 위험 수준을 중점적으로 관리해왔던 기존 ASF의 안전성 관리 범위를 확대, AI 안전성 관리 체계를 이용자 보호 측면까지 확장한 게 핵심이다. 이를 위해 AI 서비스의 출시부터 운영 전반에 이르는 모든 단계에서 안전성을 관리하는 내용을 담았다.
네이버는 8일 서울 강남구에서 개최된 인공지능안전 서울 포럼에서 ASF 2.0의 제정 배경과 구성 요소, 방향성 등을 공유했다.
이날 발표에 나선 송대섭 네이버 AI 세이프티 폴리시 리더는 “AI를 둘러싼 기술과 서비스 및 정책과 제도 환경이 변화하며, 하나의 모델을 안전하게 만드는 문제를 넘어 다양한 AI 모델을 결합해 수천만 명이 사용하는 서비스를 어떻게 안전하게 설계하고 운영할 것인지의 문제로 확장되고 있다”며 ASF 2.0의 제정 배경을 설명했다.
송 리더는 “네이버 ASF 2.0에는 AI탭, 쇼핑 AI 에이전트 등 고도화 중인 네이버 '온서비스 AI' 전략, 글로벌 AI 생태계에서의 멀티 모델 환경의 확산, AI기본법 제정 등과 같은 정책·제도 환경의 변화 등이 다각적으로 반영됐다”고 부연했다.
ASF 2.0의 구성요소도 소개했다. 기존 AI의 기술 모델을 중심으로 삼았던 관리 범위를 멀티 모델 환경 기반의 AI 서비스로 확장했다. 또 성능 중심의 단일 평가 기준은 맥락, 활용사례, 영향으로 세분화했다.
네이버는 서비스 출시 과정에서 ASF 2.0이 일관되게 적용될 수 있도록 돕는 전사적 실행 체계 'CHEC 2.0'을 마련하기도 했다. 지난달 정식 출시한 'AI탭' 역시 CHEC 2.0을 통해 설계부터 출시 단계에 이르는 모든 과정에서 AI 안전성을 점검했다.
네이버는 출시 예정이거나 이미 출시된 AI 기반 서비스들의 안전성을 CHEC 2.0을 통해 지속 점검한다는 방침이다.
송 리더는 “네이버는 2021년 '네이버 AI 윤리 준칙', 2024년 '네이버 ASF 베타'를 공개하며, AI 윤리 글로벌 흐름과 국내 정책 환경에 맞춰 AI 안전성 체계를 지속적으로 구체화해 나가고 있다”면서 “AI 안전성에 대한 경험과 노하우를 축적해가며 학계, 정책, 외부 전문가 및 다양한 기관과의 협업을 통해 이러한 경험과 노하우를 공유하고 발전시켜 나갈 것”이라고 말했다.
현대인 기자 modernman@etnews.com
