인공지능(AI)을 활용한 사이버 공격이 빠르게 고도화하면서 방어 체계도 AI 중심으로 전환해야 한다는 주장이 나왔다. 획일적인 망분리 정책을 개선하고 AI 기반 보안 대응 체계를 강화해야 한다는 지적이다.
김승주 고려대학교 정보보호대학원 교수는 7일 서울 마곡동 시스원 본사에서 열린 제345회 스마트포럼에서 'AI 해킹 대중화 시대의 국가 보안정책 변화 방향'을 주제로 강연했다.
그는 “AI 해킹의 대중화는 이미 현실이 됐다”며 “AI 해킹은 AI로 막는 '디펜스 앳 AI 스피드(Defense at AI Speed)'가 필요하다”고 말했다.
AI의 취약점 탐지와 공격 능력이 빠르게 발전하고 있다는 게 김 교수의 진단이다. 앤트로픽은 지난 4월 AI를 활용해 주요 운영체제와 웹브라우저 등에서 수천건의 제로데이 취약점을 찾아냈다고 발표했다. 27년간 발견되지 않았던 오픈BSD(OpenBSD) 취약점도 포함됐다.
김 교수는 자율형 침투테스트 시스템 'XBOW'와 구글의 AI 보안 에이전트 '빅 슬립(Big Sleep)' 사례도 소개했다. 대규모언어모델(LLM)이 소스코드의 주석과 변수명 등을 분석하면서 취약점 탐지 능력이 높아지고 있다고 설명했다.
국내 보안정책의 첫 번째 과제로는 획일적인 망분리 정책 개선을 꼽았다. 업무망과 인터넷망을 물리적으로 분리하는 방식에서 벗어나 정보 중요도에 따라 보안 수준을 차등 적용해야 한다는 주장이다.
대안으로 국가망보안체계(N2SF)와 제로 트러스트를 결합하는 방식을 제시했다. N2SF는 업무정보를 기밀(C)·민감(S)·공개(O) 등급으로 분류해 보안 통제를 차등 적용하는 체계다.
소버린 AI 만능주의도 경계해야 한다고 강조했다. 미국 국방고등연구계획국(DARPA)의 'AI 사이버 챌린지(AIxCC)' 등을 사례로 들며 AI 보안 성능은 가장 강력한 LLM 하나보다 LLM과 퍼저, 정적 분석기 등 기존 보안 도구를 얼마나 효과적으로 결합하는지가 중요하다고 설명했다.
국가안보 영역에서는 국산 소버린 AI 활용이 필요하지만 일반 산업에서도 국산 AI 사용을 일률적으로 강제해서는 안 된다고 지적했다.
클라우드 정책에서도 물리적 분리 중심의 접근을 바꿀 필요가 있다고 주장했다. 상용 리전과 정부 전용 리전의 물리적 인프라 공유를 제한하는 방식이 기존 망분리 정책을 클라우드 환경에 그대로 옮기는 결과로 이어질 수 있다는 것이다.
사후 대응 중심의 보안정책을 사전 예방 중심으로 전환하기 위한 방안도 제시했다. 협력적 취약점 공개(CVD)와 취약점 공개 프로그램(VDP)을 확대하고 제조사가 일정 기간 안에 보안 업데이트를 제공하도록 하는 '패치 데드라인' 제도화가 필요하다고 밝혔다.
메모리 격리와 접근통제 등 보안 기능이 설계대로 작동하는지를 수학적으로 검증하는 형식검증(Formal Verification) 확대도 과제로 제시했다.
제345회 스마트포럼은 전자신문과 도산아카데미가 공동 주최하고 시스원이 후원했다.
박진형 기자 jin@etnews.com
