인공지능(AI) 산업 진흥·규제를 위한 'AI기본법' 시행 8개월이 지나면서 세부 가이드라인까지 마련됐지만 기업 현장에서는 AI 생성물에 대한 표시 의무와 고영향 AI 판단 기준을 둘러싼 혼선이 계속되고 있다.
28일 과학기술정보통신부 'AI기본법 지원 데스크'에는 AI기본법 제31조(투명성 확보 의무) 이행 방법 등에 대한 기업 문의가 이어지고 있다. 지원 데스크에 이달까지 접수된 온라인 상담 461건 중 투명성 의무 관련 문의(212건)가 가장 많았다.
특히 AI 생성물에 비가시적 워터마크를 적용해도 별도 고지 의무가 뒤따라 사실상 활용하기 어렵다는 지적이 나온다. 과기정통부 가이드라인에 따르면 AI 사업자는 AI 생성 사실을 표시할 때 가시적·비가시적 방법 중 하나를 선택할 수 있다. 기계 판독 가능한 메타데이터 등 비가시적 방법을 택하면 문구·음성으로 AI 생성 사실을 1회 이상 안내해야 한다.
법조계 관계자는 “가이드라인에는 명시가 됐지만, 정작 AI기본법에는 워터마크 표시 주체를 AI 사업자로만 규정하고 방법에 대해선 가시적·비가시적으로 구분하지 않아 혼선이 있다”며 “AI 모델 이용 사업자가 아니라 비가시적 워터마크 적용이 기술적으로 가능한 AI 모델 개발사에 표시 의무를 부여하는게 효율적”이라고 말했다.
국회에서도 AI 생성물 표시 의무를 AI 모델 개발사와 이용 사업자의 역할에 따라 구분하는 AI기본법 개정안이 소관 위원회 심사 중이다.
AI기본법 제2조에서 고영향 AI 판단의 핵심 요건인 '중대한 영향' 범위가 모호하다는 지적도 지속 제기된다. AI사업자가 고영향 AI 해당 여부를 사전에 검토해야 하는 만큼 명확한 판단 기준이 필요하다는 것이다. 지원 데스크에도 고영향 AI 판단 문의(117건)가 두 번째로 많았다.
선지원 한양대 법학전문대학원 교수는 “고영향 AI의 '중대한 영향' 부분은 관점에 따라 판단이 달라질 여지가 있다”며 “요건 판단에 관한 규정인 만큼 고시에 위임하기보다 구속력이 있는 법률이나 법규명령 개정을 통해 수범자의 예측가능성을 높여야 한다”고 제언했다.
고영향 AI 판단에 앞서 AI시스템 정의부터 명확히 해야 한다는 의견도 나온다. 고영향 AI 규제 대상인지 판단하려면 먼저 모델이 법상 AI시스템인지 따져야 하기 때문이다.
AI기본법 제2조는 AI시스템 판단 요건으로 '다양한 수준의 자율성·적응성' 등을 규정한다. 이에 따르면 자율성은 시스템이 사람 개입 없이도 독립적으로 데이터를 학습하고 운영될 수 있는 것을 말한다. 적응성은 초기 개발 후에도 지속적으로 발전할 수 있는 기계학습 기반 시스템의 특성을 의미한다.
강지원 법무법인태평양 변호사는 “법에서 핵심적 판단 기준인 자율성·적응성 범위가 불명확해 사업자가 AI시스템 해당 여부를 판단하기 어렵다”며 “가이드라인에 적응성 기준을 구체화하고 지원 데스크의 주요 사례를 반영해야 한다”고 제언했다.
과기정통부 'AI기본법 제도개선 연구반'은 투명성 의무 조항 등 주요 쟁점을 논의하고 있다. 과기정통부는 지원데스크에 축적된 현장 질의와 연구반 논의를 토대로 제도 개선 과제를 검토할 방침이다.
조벼리 기자 starry@etnews.com
