네이버가 자체 인공지능(AI) 안전성 관리 체계인 'ASF 2.0' 서비스 적용 사례를 담은 보고서를 내놨다.
네이버는 'AI 세이프티 프로그레스 리포트'를 처음 발간했다고 16일 밝혔다.
이번 보고서에는 ASF 2.0과 이를 기반으로 한 실행 체계 'CHEC 2.0'이 실제 서비스에 어떻게 적용되고 작동하는지 구체적인 사례를 담았다.
ASF 2.0은 AI 모델 성능과 위험 수준, 이용자와 서비스 보호를 포괄하는 네이버의 AI 안전성 관리 체계다. AI 서비스 설계·개발부터 출시, 운영에 이르는 전 과정에서 안전성을 체계적으로 관리하는 것을 목표로 한다.
네이버는 보고서에서 AI 위험 분류·식별 체계 'N-ARTI'를 공개했다. 법률·사회·산업 현장 사례를 바탕으로 AI 서비스에서 발생할 수 있는 잠재 위험을 110개 세부 항목으로 분류해 정밀 분석한다. 생성형 AI 서비스가 제공하는 정보가 사전에 설정된 안전 기준을 벗어나지 않도록 관리하는 '가드레일'을 구축한다.
생성형 AI 답변 안전성을 평가하는 'N-ASET'도 마련했다. N-ASET은 AI 서비스의 응답을 '유해성'과 '사용성' 관점에서 종합적으로 평가하는 도구다. 단순히 유해한 답변을 차단하는 데 그치지 않고 이용자의 질의에 적절하게 대응했는지까지 균형 있게 평가한다.
보고서에는 AI 쇼핑 에이전트와 날씨 서비스 등에서 AI 활용 사실을 표시·고지해 이용자에게 안내한 사례도 소개했다. 지난 6월 선보인 'AI탭' 역시 CHEC 2.0을 기반으로 설계부터 출시까지 전 과정에서 AI 안전성을 점검한 대표적인 사례다.
네이버는 한국과학기술원(KAIST), 서울대 인공지능 정책 이니셔티브(SAPI), 고려대 인공지능안전연구센터, 인공지능안전연구소(AISI) 등 국내외 학계·전문기관과 협력을 넓혀 AI 서비스에서 발생할 수 있는 위험을 예방·완화하기 위한 연구를 이어갈 계획이다.
원성재 네이버 AI 세이프티 센터장은 “AI 기술이 이용자의 일상에 빠르게 스며들면서 AI 안전성 역시 이론적 논의를 넘어 실제 서비스 환경에서 구체적으로 다뤄야 하는 단계에 접어들고 있다”면서 “AI의 개발과 이용 전 과정에서 인간 중심의 가치를 최우선으로 두고, AI 서비스에서 발생할 수 있는 위험을 예방하고 완화할 수 있도록 ASF 2.0을 지속 고도화하고 적용해 나갈 것”이라고 말했다.
현대인 기자 modernman@etnews.com
