인공지능(AI) 에이전트에 대한 안전조치가 미흡할 경우 향후 2년 안에 심각한 보안사고가 발생할 수 있다는 경고가 나왔다.
14일(현지시간) AFP·로이터통신에 따르면 데미스 허사비스 구글 최고과학자 겸 딥마인드 이사회 의장은 아일랜드 더블린에서 열린 AI 콘퍼런스에서 AI 시스템의 안전성 확보를 위한 업계와 정부의 공동 대응을 촉구했다.
허사비스 의장은 최근 AI 에이전트가 인간의 통제를 벗어나 외부 시스템을 해킹한 사례 등을 두고 “아직 시스템이 강력하지 않다는 점을 보여주는 조기 경고사격에 불과하다”고 평가했다.
그러나 향후 2년간 기업과 정부가 AI 안전성 확보에 적극적으로 나서지 않으면 훨씬 심각한 사고로 이어질 수 있다고 경고했다.
대응 방안으로는 신규 AI 모델을 출시하기 전 인터넷과 분리된 샌드박스 환경에서 성능과 안전성을 검증할 것을 제안했다. 원자력 분야의 안전관리 체계를 참고한 국제 표준기구 설립도 촉구했다. 다만 혁신을 저해하지 않도록 유연하게 운영해야 한다고 강조했다.
행사에 참석한 헨나 비르쿠넨 유럽연합(EU) 집행위원회 부위원장도 AI 기업들이 경쟁에 치중해 안전성 검증에 충분한 시간과 자원을 투입하지 않고 있다고 지적했다.
박진형 기자 jin@etnews.com
