국내외 인공지능(AI) 기업이 AI로 생성한 영상물 전체 분량에 사람이 식별할 수 있는 표시 의무가 적용될 가능성이 제기됐다.
9일 업계에 따르면 과학기술정보통신부는 전날 국내외 기업 대상 AI기본법 투명성 규제 관련 비공개 간담회를 열고, AI 생성물에 대한 '사람이 인식할 수 있는 표시 의무'에 대한 제도 방향성을 제시하고 업계 의견을 수렴했다.
과기정통부는 이날 영상을 비롯해 텍스트, 이미지 등 모든 AI 생성물에 사용자가 인식할 수 있는 표시가 이뤄져야 한다고 설명했다. 또 표시 의무 관련 AI 생성물의 생성단계와 소비단계로 나눠 규제 적용 방침을 제시하며 어떻게 명확히 구분하고 규제해야 할지 업계 의견을 구했다.
업계는 이날 설명이 영상 전후 'AI로 생성된 콘텐츠입니다'와 같은 단순 고지가 아닌 AI로 생성한 영상물 전체 분량에 표시 의무를 적용한다는 취지로 해석된다며 사실상 규제 강화라고 당혹감을 나타냈다.
특히 AI 생성물 전반에 사람이 인식 가능한 표시 의무 적용은 최소한의 규제를 강조했던 과기정통부 방침과 분명한 차이가 있다고 지적했다. 앞서 배경훈 부총리 겸 과기정통부 장관은 “AI기본법은 AI 남용을 막기 위한 최소한의 규제를 두는 취지”라고 밝힌 바 있다.
업계 관계자는 “모든 텍스트 결과물에 일일이 AI 생성이라는 점을 알리기 쉽지 않고 AI로 생성한 영상에 처음부터 끝까지 표시를 하기 위해선 워터마크 외 대안이 없다”며 “비용·시간 등 기업 부담이 클 수밖에 없는 상황으로 사용자가 인지할 수 있는 선에서 표시 의무를 부과하는 게 효율적”이라고 말했다.
외국계 기업 역시 AI 생성물에 대한 사람이 확인할 수 있는 표시는 '글로벌 스탠더드'가 아니라는 입장이다. 해외에서는 대체로 기계가 확인할 수 있는 비가시적 표시 제도를 채택하고 있다는 것이다.
글로벌 기업 관계자는 “한국의 제도는 존중하지만 해외에서 널리 채택한 머신 리더블(Machine readable)한 표시가 아닌 사람이 확인할 수 있는 표시를 위해 또다른 리소스를 투입해야 해 부담이 가중된다”며 “한국 기업이 해외 진출할 땐 또 비가시성 표시를 해야 해 역시 이중고”라고 강조했다.
과기정통부는 내년 1월 AI기본법 시행 전까지 민간 의견수렴을 지속, 표시 의무 관련 고시와 AI 투명성 가이드라인을 확정할 예정이다.
과기정통부 관계자는 “AI 생성 전체 분량에 표시 의무가 부여된다는 것은 기업 오해”라며 “현재 법령에 기초해 AI 투명성이 실현될 수 있도록 이해관계자 의견을 지속 청취해 제도를 마련하겠다”고 설명했다.
간담회에는 네이버·카카오 등 플랫폼 기업과 SK텔레콤·KT 등 통신사와 AI 기술·서비스를 제공하는 스타트업, 협회·단체 관계자 등이 참석했다. 구글·마이크로소프트(MS)·메타·아마존웹서비스(AWS)·오픈AI·X(옛 트위터) 등 외국계 기업 대상 별도 의견수렴 과정도 거쳤다.
박종진 기자 truth@etnews.com
