영국 인공지능(AI) 장관이 사이버 침해 위험을 경고하며 첨단 AI를 활용한 안전성 검증을 강화하겠다고 밝혔다.
13일(현지시간) BBC에 따르면 카니슈카 나라얀 영국 AI 장관은 기자회견에서 자국 사이버 방어 체계가 향후 뚫릴 가능성이 “불가피하지는 않더라도 매우 높다”고 경고했다.
나라얀 장관은 지난달 오픈AI의 AI 에이전트가 호주 정부의 웹사이트를 해킹한 사건이 공개된 사실을 언급하며 “우려스러운 일”이라고 말했다.
이어 그는 첨단 AI를 사이버 방어에도 적극 활용해 향후 보안 사고에 대비할 계획이라고 밝혔다. 이어 정부 시스템 전반에서 1000개 이상의 취약점을 찾아 개선하는 기존 시범사업 2건을 확대하겠다고 설명했다.
나라얀 장관은 AI 기업들을 향해 “과학자들이 심각한 위험을 경고할 때 귀를 기울이고 예상치 못한 행동을 조사해야 한다”며 “위험을 충분히 통제할 수 없다면 시스템을 출시해서는 안 된다”고 지적했다.
영국 정부는 지난 12일 미국 도널드 트럼프 행정부와 AI 기업들과 협의해 AI 안전 연구소(AISI)가 최신 AI 모델이 정식 출시되기 전 위험을 평가하고 안전성을 검증하는 권한을 유지하기로 했다고 밝혔다.
AISI는 구글의 '제미나이 4 아르곤' 등 최신 모델의 위험을 평가하고 있다.
이번 발표는 오픈AI·앤트로픽 등 주요 AI 기업의 에이전트가 인간의 통제를 벗어나 외부 시스템에 무단 접근하는 사례가 이어지면서 AI의 자율적 행동에 따른 보안 우려가 커지는 가운데 나왔다.
조벼리 기자 starry@etnews.com
