인공지능(AI) 기술의 폭발적인 확산이 산업 전반에 혁신을 가져오고 있다. 동시에 사이버 위협도 전례 없이 고도화하고 있다. AI 기반 사이버 공격은 더 이상 미래의 가상 시나리오가 아니다. 산업 전반을 직접 위협하는 현실이 됐다. 그러나 이러한 변화의 속도에 비해 국내 사이버보안 인력 양성과 관리체계는 여전히 과거의 틀에 머물러 있다. 급변하는 위협 환경과 보안 인력의 대응 역량 사이에 심각한 불균형이 발생하고 있는 것이다.
최근 AI를 악용한 사이버 공격은 다양한 형태로 확산하고 있다. 화상회의에서 최고경영자(CEO)나 핵심 임원의 얼굴과 목소리를 실시간으로 사칭해 거액의 송금을 유도하는 딥페이크 사기부터 사내 AI 챗봇을 통해 비공개 소스코드와 고객정보, 산업기밀을 탈취하는 프롬프트 인젝션 공격까지 등장했다. 기존 보안체계의 탐지를 우회하는 맞춤형 피싱 메일도 AI를 통해 자동으로 생성되고 있다. 실제 국내 침해사고 신고 건수는 2024년 1887건에서 지난해 2383건으로 26.3% 증가했다.
문제는 공격 기술이 빠르게 진화하는 동안 이를 방어해야 할 인력의 직무와 역량은 과거의 패러다임에 머물러 있다는 점이다. 규정 준수와 체크리스트에 의존하는 전통적인 보안체계만으로는 AI를 활용한 공격의 속도와 변칙성에 대응하기 어렵다. AI 학습 데이터와 외부 클라우드 서비스의 연계로 기존 데이터 보호 경계까지 약화되고 있다. 공격 비용은 급격히 낮아지는 반면, 방어에는 인간과 AI의 긴밀한 협력이 요구된다.
그럼에도 현장에는 여전히 값비싼 보안 솔루션을 도입하면 안전을 확보할 수 있다는 인식이 남아 있다. 서버 운영체제와 백신 프로그램은 수시로 업데이트하면서 정작 이를 운영하는 담당자의 지식과 역량은 제대로 갱신하지 않는다. 아무리 뛰어난 AI 보안 솔루션이라도 이를 이해하고 통제할 인력이 없다면 무용지물이다.
이러한 문제의 근본 원인은 기존 사이버보안 교육체계의 구조적 한계에 있다. 상당수 교육은 법적 의무를 충족하기 위한 서약서 작성이나 일회성 온라인 동영상 시청에 머물러 있다. 대학 교육은 원리와 이론에 치중하고, 기업 교육은 현장과 동떨어진 범용적인 내용을 전달하는 데 그친다. 프롬프트 인젝션이나 데이터 오염 공격을 직접 경험하고 방어하는 실전 훈련 기회도 턱없이 부족하다. 정부 지원 교육사업의 비정상적인 운영으로 전문 훈련기관마저 위축된 현실도 개선해야 한다.
개발과 마케팅, 인사 등 부서마다 AI 활용 방식과 보안 위험이 다른데도 획일적인 교육을 반복하는 것 역시 문제다. 이제는 교육 이수 여부가 아니라 실제 공격에 대응할 수 있는 역량을 갖췄는지 평가해야 한다.
AI 시대 사이버보안 인력의 역할도 달라져야 한다. 과거처럼 외부 위협을 차단하는 문지기(Gatekeeper)에 머물러서는 안 된다. AI 활용을 안전하게 지원하는 조력자(Enabler)이자 최종 통제자로 발전해야 한다.
이를 위해 기업의 AI 활용 지침을 수립하고 모델의 편향과 오작동을 감시하는 거버넌스 역량이 필요하다. 데이터 오염과 프롬프트 인젝션, 모델 추출 공격을 방어하고 실시간 위협 정보를 활용할 수 있어야 한다. AI 기본법과 유럽연합(EU) AI법(AI Act), 개인정보 보호 및 사이버보안(안보) 관련 법제 등 규제와 윤리적 요구사항을 실제 업무에 적용하는 능력도 갖춰야 한다. 조직 구성원 모두의 AI 이해도를 높이는 일도 중요하다.
이러한 변화를 위해서는 대학과 전문 훈련기관, 산업 현장의 역할을 명확히 구분하고 유기적으로 연결하는 '실전 배치형' 교육체계로 전환해야 한다.
대학과 대학원은 기술 변화에도 쉽게 낡지 않는 기초 역량을 기르는 데 집중해야 한다. AI와 머신러닝의 원리, 시스템 기초, 보안 연구, 윤리와 법제 등이 핵심이다. 반면 전문 훈련기관은 대규모언어모델(LLM) 가드레일과 AI 레드팀 도구, 딥페이크 탐지, AI 보안관제 도구 등을 직접 다루는 실습을 맡아야 한다. 특히 사이버 레인지에서 실제 공격과 방어를 반복하는 훈련을 통해 현장 대응 능력을 길러야 한다. 정부는 위축된 전문 훈련기관을 조속히 재정립하고 실전 교육 기반을 강화해야 한다.
산업 현장에서는 직무별 현장훈련(OJT)과 레드팀 활동을 통해 실전 경험을 축적해야 한다. 실제 침해사고 데이터와 현업 전문가의 경험을 교육기관에 다시 제공하는 선순환 구조도 필요하다.
교육과정 역시 소프트웨어 보안 패치처럼 지속적으로 갱신해야 한다. 새로운 위협 정보를 반영해 교육과 훈련 시나리오를 분기마다 개선하고, 일회성 학위나 자격 취득에서 벗어나 직무별 실기 인증과 정기 재인증 체계를 정착시켜야 한다. 보안 인력의 역량에도 유효기간이 있다는 인식이 필요하다.
이를 실현하기 위한 단계적 접근도 중요하다. 우선 3개월 이내에 기업과 기관의 정보자산을 식별하고 공격표면관리(ASM)와 사내 AI 사용 현황을 점검하는 등 보안의 기본을 확립해야 한다. 이후 3~12개월 동안 전문 훈련기관 지정과 사이버 레인지 구축, AI 레드팀 모의훈련 정례화를 추진해야 한다. 장기적으로는 민·관·학 교육 협의체를 상설화하고 직무별 인증과 재인증 제도를 마련해 지속 가능한 인력 양성체계를 구축해야 한다.
해커는 쉬지 않고 새로운 AI 공격 기법을 익힌다. 방어 인력도 끊임없이 배우고 역량을 갱신해야 한다. 재교육과 직무 전환을 위한 리스킬링(Reskilling)은 이제 선택이 아닌 생존의 조건이다.
값비싼 AI 보안 솔루션도 공부하지 않는 담당자의 손에서는 빈 껍데기에 불과하다. AI 시대 사이버보안의 경쟁력은 기술뿐 아니라 이를 이해하고 통제하는 사람에게 달려 있다. 대학과 훈련기관, 산업 현장을 유기적으로 연결하는 실전 배치형 교육체계로의 대전환이 시급하다. 이를 통해 AI를 위협이 아닌 강력한 도구로 활용하고 신뢰받는 디지털 생태계를 구축해야 한다.
이기혁 중앙대 융합보안학과·보안대학원 교수 marathon033@gmail.com
〈필자〉 중앙대 융합보안학과·보안대학원 교수이자 한국보안정책연구원 원장이다. 한국FIDO산업포럼 회장과 한국디지털인증협회 회장을 역임했다. 융합보안 및 보안인문사회학 분야 전문가로, 정보통신기술(ICT)과 사이버보안 분야에서 연구 활동을 이어왔다. 녹조근정훈장과 과학기술저술인상을 받았으며, 저서 다수가 우수학술도서로 선정됐다.
