일본 정부가 스스로 판단하고 행동하는 인공지능(AI) 에이전트와 실제 물리적 동작을 수행하는 '피지컬 AI'의 확산에 대비해 새로운 안전 지침을 마련한다.
니혼게이자이신문은 15일 일본 경제산업성과 총무성이 기존 'AI 사업자 가이드라인'을 대폭 보강한 개정안을 다음 달 말쯤 발표할 것이라고 보도했다.
개정안은 자율성이 강해진 AI 시스템이 일으킬 수 있는 오작동이나 사생활 침해 등의 부작용을 사전에 방지하는 데 초점을 맞췄다. 일본 정부는 AI 에이전트를 환경을 감지해 자율적으로 목표를 달성하는 시스템으로, 피지컬 AI는 스스로 추론한 결과를 물리적 행동으로 옮기는 시스템으로 각각 규정할 방침이다.
특히 지침에는 시스템의 자율적 판단에만 의존하지 않고 '인간의 개입'을 필수적으로 보장하는 구조를 구축해야 한다는 내용이 포함된다. 이는 AI가 통제 범위를 벗어날 경우 발생할 수 있는 사고를 차단하기 위한 조치다. 이 밖에도 교육 분야에서 AI 활용이 학생들의 독자적인 사고력 발달을 저해할 수 있다는 점을 주요 위험 요소로 명시해 경각심을 높일 것으로 보인다.
최호 기자 snoop@etnews.com
