미국, 유럽연합(EU) 등 세계적으로 생성형 인공지능(AI)에 대한 규제가 늘고 있다. 국내 관련 기업도 이러한 규제에 따른 위험에 대비해야 한다는 목소리가 높다.
글로벌 규제 환경은 빠르게 변화하지만 국내에는 아직 뚜렷한 AI 지침이 없다. 우리 기업의 체계적 대응이 어려울 수 있기 때문이다.
미국 백악관 예산관리국(OMB)은 지난 28일(현지시간) 연방 정부 기관들이 AI를 활용할 때 발생할 수 있는 부작용 방지를 위한 안전장치를 의무화하는 새로운 정책을 발표했다.
연방 정부 기관은 올해 12월까지 AI 활용 내용을 공개하고 부작용을 검증하며 모니터링해야 한다. 또 각 기관은 '최고 AI 담당관(Chief AI Officer)'을 채용하고 매년 AI 활용 내용을 공개해야 한다. 이는 공항 얼굴인식부터 의료, 날씨 등 다양한 분야에서 AI 활용을 포함한다.
정부 기관 내에서 AI가 사용되는 방식을 조정하기 위한 AI 거버넌스 위원회도 올 여름까지 구성해야 한다.
조 바이든 미국 대통령이 지난해 10월 '안전하고 신뢰할 수 있는 AI에 대한 행정명령'에 서명한 것을 구체화한 것이다. 사람과 유사하거나 그 이상 지능을 가진 AI인 '범용인공지능(AGI)' 시대가 가까워졌다는 진단이 나오면서 최소한의 안전장치를 마련했다는 것이 전문가 진단이다.
규제에 가장 속도를 내는 것은 유럽이다. 최초의 AI 규제법으로 불리는 EU의 'AI 법'이 3월 13일 유럽의회를 통과했다.
AI 법은 EU 내에서 서비스되거나 사용되는 경우에는 기업 소재지와 상관 없이 AI 시스템 공급자와 활용자에게 적용된다. AI 금지, 고위험, 투명성, 범용 총 4단계로 잠재적 위험과 영향 수준에 따라 AI에 대한 의무를 규정했다.
해당 법안은 EU 27개국 장관들이 최종 승인하면 5~7월 경 관보에 게재되고 20일 후 발효된다. 이르면 올 연말부터 시작해 오는 2026년까지 위험 등급에 따라 단계 적용된다. 법 위반 시 경중에 따라 직전 회계연도 기준 세계 연간 총 매출의 최대 7%에 해당하는 과징금이 부과될 수 있다.
조원희 법무법인 디라이트 대표변호사는 “EU 지역에 서비스를 하거나 제품을 판매하는 기업은 해당 법의 직접 영향을 받게 될 것”이라며 “중장기적으로 EU의 규제 방향은 우리나라는 물론 다른 나라가 차용할 가능성이 높다”고 말했다.
그는 “특히 '투명성' 원칙같은 경우는 향후 글로벌하게 적용될 가능성이 높다”며 “기업에선 리스크에 대비해 어떤 데이터를 수집해서 어떤 과정을 통해 어떤 결과를 만들어내는 지 적법하고 투명하게 관리해야 할 것”이라고 조언했다.
우리나라의 경우 AI 산업 육성·안전성 확보를 골자로 한 'AI 기본법(인공지능 산업 육성 및 신뢰 기반 조성에 관한 법률안)'이 국회에서 발의된 상태다.
최근 개인정보보호위원회가 오픈AI, 구글, MS, 메타, 네이버, 뤼튼 등 6개 사업자를 대상으로 AI 서비스에 대한 개인정보 취약점을 보완하도록 개선 권고를 내리기도 했다.
이성엽 고려대 기술경영전문대학원 교수는 “정부는 규제와 산업 진흥 모두를 고려하고, 국내 기업이 해외 진출 시 부담을 느끼지 않도록 정책을 마련해야 한다”며 “기업은 국내 규제와 글로벌 규제를 종합적으로 파악하고 대비해야 한다”고 말했다.
김명희 기자 noprint@etnews.com
