한국이 글로벌 인공지능(AI) 3대 강국으로 도약하기 위해 한국어를 중심으로한 '한국형 AI안전 생태계'와 AI 데이터샛을 구축해야 한다는 제언이 나왔다. 과학기술정보통신부는 AI 안전과 관련한 종합계획을 준비하며 완성되는대로 공개할 방침이다.
한국통신사업자연합회(KTOA) AI 미래가치 포럼과 박정, 이인선, 강승규, 김형동(이상 국민의힘), 이정헌 의원(더불어민주당)은 11일 국회의원 회관에서 '글로벌 AI 안전 생태계 주권 확보를 위한 정책토론회'를 열고 이같이 논의했다.
김명주 AI 안전연구소장은 발제를 통해 범용 AI(AGI) 등장과, AI 안전을 실현하기 위한 한국, 영국, 유럽연합(EU) 등의 AI 안전연구소 설립 활동을 소개했다. 김 소장은 “오픈AI가 챗GPT를 거의 완성해놓고 2년동안 출시하지 않은 것은 비윤리적 정보 등에 대한 답, 질문을 내놓지 않도록 학습을 시키는 과정 때문이었다”며 “AI 안전이 보장되지 않을 경우 AI가 위험한 무기가 될 수 있기 때문”이라고 말했다.
김 소장은 “하지만, 한국어 웹 콘텐츠가 0.6%에 불과한 현실은 데이터 주권 위기로 볼 수 있다”며 “화학·생물학·핵·방사능(CBRN) 정보제공, 공론 조작 등 AI 위험에 대응하기 위한 한국형 안전 데이터셋 구축과 안전분야 국제표준 선점이 시급하다”고 말했다.
이어진 토론에서 문정욱 정보통신정책연구원(KISDI) 실장은 “한국이 개발한 전문가·시민 참여 기반의 윤리영향평가 모델을 국제사회에 프로세스 표준으로 제안하자”고 제안했다.
안정민 한림대 교수는 “절차 중심의 규범 준수 모델을 넘어 성능·공정성·신뢰성 기반의 정량적 안전 기준이 필요하다”말했다.
민대기 이화여대 교수는 “국제표준에 부합하는 안전 관리 체계와 더불어, 우리 산업 특성에 맞는 한국형 AI 안전 평가체계 구축이 필요하다”고 제언했다.
황정현 법무법인 세종 변호사는 “한국이 규범 종속을 피하려면 자체적 AI 안전성 평가·데이터 거버넌스·국제 표준 주도권 확보가 국가전략으로 필요하다”고 제언했다.
김국현 과기정통부 과장은 “AI 안전연구소에 기능과 역할 부여하며, 안전한 환경을 만드는 역할을 해나가고 있다”며 “AI안전을 강화하고 산업혁신을 지원하는 방향으로 AI 안전 종합계획을 준비중으로, 늦지 않은 시점에 공개할 예정”이라고 말했다.
이성엽 AI 미래가치 포럼 의장은 “이번 토론회를 시작으로 AI 안전 생태계 주권을 어떻게 실질적으로 확보해 나갈지 논의하는 것이 핵심 과제”라고 강조했다.
박지성 기자 jisung@etnews.com
