정부가 인공지능(AI) 성능·인프라 예산으로 6조원 이상 투자할 계획인 반면, AI 안전·신뢰 분야 예산은 300억원도 채되지 않는 것으로 나타났다.
AI발 사이버 침해·해킹 이슈뿐 아니라 인간 통제를 벗어나는 AI 에이전트 사례가 지속 발견되는 상황에서 추가 예산 편성이 필요하다는 지적이 나온다.
6일 국회 과학기술정보방송통신위원회 이주희 더불어민주당 의원이 과학기술정보통신부에서 확인한 자료에 따르면 내년 과기정통부 예산 9조4308억원 중 모델 개발·컴퓨팅·데이터 등 성능·인프라 예산은 6조1490억원으로 전체의 65.2% 수준이었다.
반면 안전성 평가·검증, 레드팀, 딥페이크 대응, 윤리·영향평가 등 AI 안전·신뢰 예산은 전체의 0.3%인 274억원에 불과했다.
연도별로 보면 2023년 안전·신뢰로 분류된 예산은 0원이었지만 2024년 예산을 확보, 성능·인프라 대 안전·신뢰는 36대 1 비율을 기록했다. 그러나 내년도 정부안 기준 224대 1로 격차가 컸다 3년 새 격차가 6배 이상 벌어졌다.
증가폭도 차이가 크다. 성능·인프라 예산은 올해보다 116% 늘었지만 안전·신뢰 예산 증가율은 36% 수준이었다. 3조 8500억원 규모 그래픽처리장치(GPU) 서버 확충 사업 하나만 놓고 봐도 안전·신뢰 예산 전체의 140배에 달했다 .
내년 안전·신뢰 예산 274억원은 총 3개 사업이다. AI 안전 기술개발 R&D 152억원, 안전한 AI 활용 기반 조성 101억원, AI 신뢰성과 산업 생태계 기반 조성 21억원 등이다 . R&D를 제외한 2개 사업은 예산 동결이다 .
해킹 등 외부 공격을 막는 AI 보안과 달리 AI 안전은 AI 스스로 통제를 벗어나는 위험에 대비하는 영역이다. 2064억원 규모 AI 보안 예산을 모두 더해도 전체 AI 예산의 2.5%에 불과한 상황이다.
세계 석학들과 빅테크 기업 전현직 종사자들이 AI 가속화에 따른 위험은 실재하고 임박했다고 경고하는 상황에서 재고가 필요한 것으로 보인다.
이주희 의원은 “AI 3 대 강국은 반드시 가야 할 길이지만 브레이크 없는 가속은 경쟁력이 아니라 위험”이라며 “배경훈 부총리가 강조한 '제대로 작동하는 브레이크'가 지금은 0.3%, 유발 하라리가 기업을 두고 비판한 1%에도 못 미친다”고 지적했다.
이어 “안전 예산을 AI 전체 예산의 최소 1%로 끌어올리고 해외 고성능 모델을 우리 손으로 검증할 역량을 갖춰 AI 안전 국제 논의를 이끌어 온 나라답게 국제 안전 공조에 앞장서야 한다”고 강조했다.
이날 과방위 과학기술정보통신부 국정감사에서 배경훈 부총리 겸 과기정통부 장관은 AI안전연구소 등 AI 안전·신뢰 예산 확충 필요성에 공했다.
배 부총리는 “AI 성능이 빨리 발전하고 높아지는 만큼 신뢰·안전이 굉장히 중요하다”며 “AI안전연구소 인력과 예산을 늘려 역량을 확보하는 일이 굉장히 중요하다”고 말했다.
과기정통부는 연말 '국가 AI 안전 생태계 조성 마스터플랜(가칭)' 수립을 비롯해 사이버 보안 특화 파운데이션 모델 개발, 프런티어 AI 개발 등으로 AI발 사이버 침해·해킹 공격에 대비한다는 계획이다.
박종진 기자 truth@etnews.com
