피지컬 인공지능(AI) 시대가 도래하면서, 기존의 소프트웨어 중심 AI 규제 패러다임이 한계에 직면했다는 지적이 나왔다. 자율주행차나 수술 로봇처럼 오작동 시 신체 피해를 일으키는 기술 특성상, 민간의 자율규제 역량과 국가의 공적 인증 역할이 동시에 확대되는 '이중 팽창' 현상이 불가피해짐에 따라 이를 어떻게 효율적으로 배분하고 정립할 것인지가 향후 거버넌스의 핵심 관건으로 부상했다는 분석이다.
7일 국회의원회관에서 열린 'AI안전포럼 1차 간담회'에서 손산 박사(사회정책연구소 무하유)는 '제2의 블레츨리 선언은 가능한가'를 주제로 한 발표를 통해 현재의 글로벌 AI 거버넌스 지형을 진단했다. 블레츨리 선언은 2023년 11월 영국 블레츨리 파크에서 열린 제1차 AI 안전성 정상회의에서 대한민국, 미국, 중국, EU 등 28개국이 AI의 위험성에 공동 대응하기 위해 서명한 국제 합의문이다.
손 박사는 한국이 이 선언의 정신을 계승하되, 이제는 '피지컬 AI'라는 새로운 영역으로 논의를 확장하고 규제틀을 국제사회에 제안해야 한다고 제안했다.
그는 피지컬 AI가 기존의 '결정을 내리는 소프트웨어'로서의 AI와는 차원이 다른 도전을 제기한다고 분석했다. 물리적 환경에서 자율적으로 작동하는 피지컬 AI는 사고 발생 시 즉각적이고 치명적인 신체 위해를 가할 수 있어 사후 교정이 사실상 불가능하다. 이에 따라 엔비디아나 보스턴 다이내믹스 같은 민간 기업의 안전 프로토콜이 사실상의 규범으로 작용하는 '민간 팽창'과, 국민의 생명 안전을 위해 기준을 강화하려는 '국가 팽창'이 동시에 발생하는 '이중 팽창' 구조가 형성되고 있다. 따라서 미래 거버넌스의 성패는 이 양대 동력을 어떻게 조화롭게 배분해 공백을 메우느냐에 달려 있다고 분석했다.
이와 관련해 손 박사는 올해 시행되는 'AI 기본법'의 실효적 보완이 시급하다고 강조했다. 피지컬 AI를 명시적으로 포괄할 수 있도록 고영향 AI 기준을 재정의하고, 개발사와 제조사 등 다중 행위자 간의 책임 소재를 명확히 하기 위한 '특별 책임 조항'의 도입을 제안했다.
그는 또 국내 안전 기준이 고립되지 않도록 국제 표준 연계 메커니즘을 제도화하는 작업이 선행되지 않는다면, 한국형 AI 기본법이 피지컬 AI 시대의 '제3의 길'로 기능하기 어렵다고 내다봤다.
한국이 '피지컬 AI 안전'을 차기 AI 정상회의의 핵심 의제로 선제 제안하는 전략적 리더십도 필요하다고 했다. 한국은 세계 최고 수준의 로봇 밀도와 탄탄한 AI 법적 기반, 그리고 반도체-로봇-AI를 잇는 독보적인 산업 생태계를 보유하고 있다. 이는 한국이 피지컬 AI의 위험과 편익을 가장 먼저 경험하고 해결책을 제시할 수 있는 실질적 근거라는 설명이다.
손승우 법무법인 율촌 상임고문 등 이날 행사에 참석한 전문가들은 영국이 블레츨리를 통해 '프런티어 AI 안전의 중재자'가 되었듯, 한국은 '피지컬 AI 안전의 실험장이자 기준 제안국'으로서 새로운 규범적 역할을 개척해야 한다고 입을 모았다. 단순히 글로벌 규범을 수용하는 것을 넘어, 한국이 보유한 산업 데이터를 바탕으로 물리적 세계의 AI 안전 기준을 전 세계에 수출하는 '규범 수출국'으로 거듭나야 한다고 제언했다.
최호 기자 snoop@etnews.com
