인공지능(AI)이 사이버보안의 새로운 위협으로 떠오르고 있다. 과거 해킹은 사람이 직접 시스템의 취약점을 찾아 침투, 정보를 탈취하는 방식이었다면, 이제는 AI가 취약점 탐색부터 공격 과정까지 자동화하면서 공격 속도와 규모를 크게 높이고 있다. 특히 생성형 AI를 넘어 스스로 판단하고 작업을 수행하는 에이전트 AI가 등장하면서, 사이버공격도 인간 중심에서 AI가 적극적으로 관여하는 형태로 진화하고 있다. 이에 따라 사이버보안의 핵심 과제도 공격의 '사후 발견'에서 '실시간 예측·차단'으로 바뀌고 있다.
이러한 변화는 최근 실제 사례에서도 확인된다. 글로벌 보안기업 크라우드스트라이크의 최근 보고서에 따르면 AI를 활용한 공격자의 활동은 전년 대비 89% 증가했으며, 사이버 범죄자가 최초 침입 후 다른 시스템으로 이동하기까지 걸리는 평균 시간은 2024년 48분에서 2025년 29분으로 단축됐다. 가장 빠른 사례는 불과 27초였으며, 미국의 한 법률사무소에서는 해커가 침입한 지 4분 만에 정보 유출을 시도한 사례도 있었다. AI 에이전트의 활용이 확대되면서 사이버 공격이 분초를 다투는 수준으로 빨라지고 있는 셈이다.
구글 위협정보그룹(GTIG) 역시 지난 10월 사이버 공격이 단순한 악성코드 작성이나 피싱을 넘어 AI를 이용한 다단계 자동화 공격으로 발전하고 있다고 분석했다. 특히 지난 7월에는 AI 개발사 앤트로픽이 보안 평가 과정에서 자사의 AI 모델이 실제 외부 시스템에 무단 접근한 사례를 공개하기도 했다. 이는 의도적인 범죄 목적의 해킹과는 구별되지만, AI 자체의 자율성이 새로운 보안 위험을 만들 수 있음을 여실히 보여주는 사례다.
AI를 활용한 사이버공격이 빠르게 확산되는 이유는 크게 세 가지다. 첫째, 해킹의 비용과 기술적 진입장벽이 낮아졌기 때문이다. 과거에는 높은 전문성과 상당한 시간이 필요했던 정보 수집과 취약점 분석 등을 AI가 지원하면서 적은 비용으로도 더 많은 대상을 공격할 수 있게 됐다.
둘째, 공격의 지능화와 자동화다. 생성형 AI는 정교한 피싱 메시지와 딥페이크를 만들어 공격의 성공 가능성을 높이고, 에이전트 AI는 작업을 연속적으로 수행해 공격 속도를 높일 수 있다. 셋째, 공격 대상과 침투 경로의 확대다. 금융회사의 클라우드 전환과 외부 서비스 연동이 증가하면서 공격 접점도 넓어지고 있다. 결국 금융시스템의 디지털화로 공격 대상이 확대되는 가운데, AI가 공격의 비용은 낮추고 속도와 정교함을 높이고 있기 때문이란 분석이다.
그렇다면 AI 해킹을 막을 순 없을까. 현재로선 모든 공격을 완벽하게 차단하기는 어렵다는 게 전문가들의 진단이다. 하지만 침입에 성공하더라도 실제 피해는 크게 줄일 수 있다. 핵심은 AI를 활용한 조기 탐지와 신속한 대응, 피해 최소화를 결합한 방어체계를 구축하는 것이다. 해킹을 당하더라도 조기에 발견해 추가 침투를 차단하고, 핵심 데이터는 암호화와 접근 권한 통제를 통해 탈취와 악용 가능성을 최소화하며, 공격받은 시스템은 신속히 복구하는 방식이다. 기존 보안시스템이 알려진 공격 유형이나 사전에 설정한 규칙을 중심으로 위험을 탐지했다면, AI 기반 보안은 방대한 데이터를 분석해 평소와 다른 비정상적인 행동을 실시간으로 찾아낸다.
예컨대 금융회사 직원의 계정으로 평소와 다른 국가에서 접속하거나, 짧은 시간에 대량의 고객정보를 내려받는 경우 AI가 이를 이상징후로 감지한다든지, 고객 계좌에서 평소와 다른 시간대에 거액이 이체되거나 여러 계좌로 자금이 빠르게 이동하는 경우 이상거래로 탐지해 추가 인증을 요구하거나 거래를 일시 보류할 수 있다. 다만, 정상적인 거래를 공격으로 오인할 가능성도 있는 만큼, 중요한 차단 조치에는 인간의 감독과 명확한 통제 기준이 필요하다. AI의 판단 능력과 인간의 감독을 결합하는 것이 지능형 금융보안의 핵심인 셈이다.
현재 시장에선 글로벌 보안기업들의 경쟁이 치열해지고 있다. 크라우드스트라이크는 클라우드 기반 보안 플랫폼인 'Falcon'을 통해 기업의 단말기와 클라우드 환경에서 발생하는 위협을 통합적으로 분석하고 대응하는 모델을 론칭했다. 팔로알토 네트웍스는 'Cortex XSIAM'을 통해 네트워크·단말기·클라우드의 보안정보를 통합하고 AI가 위험 탐지부터 조사와 대응까지 수행하도록 지원한다. 센티넬원의 '싱귤래리티 ASOC'과 '퍼플 AI'는 보안 담당자가 설정한 범위 안에서 AI가 경보를 분석하고 대응하도록 설계한 것이 강점이라고 얘기한다. 이들 기업의 공통점은 개별 보안제품을 판매를 넘어, 보안 업무 전반을 통합 관리하는 구독형 플랫폼이란 점이다.
보안을 다른 각도에서 접근하는 기업도 있다. 대표적 예로 클라우드플레어는 AI 서비스 자체를 보호하는 영역에 주목한다. 'AI Security for Apps'는 외부 입력을 통해 AI의 의도된 작동 방식을 바꾸려는 프롬프트 인젝션과 개인정보 노출 등 AI 특유의 위험을 탐지하는 서비스다. 이는 앞으로 보안 시장이 기존 정보시스템을 보호하는 분야뿐 아니라 AI 모델과 에이전트의 행동을 통제하는 분야로 확대될 가능성을 보여준다는 게 전문가들 평가다.
우리나라도 이러한 위협에서 자유롭지 않다. 금융위원회에 따르면 지난 9월 말부터 11월 3일까지 37개 금융회사에서 40건의 침해사고가 신고됐으며, 약 47만 3000건의 정보유출과 10억 원 규모의 자금 탈취가 확인됐다. 이에 금융당국은 약 580개 금융회사를 대상으로 보안 체계 전수 점검에 나서는 한편, AI 기반의 보안 체계 구축과 망분리 규제 개편을 추진하고 있다. 또한 11월 12일에는 가상자산사업자에 대해 24시간 보안관제와 이용자 자산의 안전한 보관 등 보안 강화 조치를 발표했다.
그렇다면 우리 금융권은 어떻게 대응해야 할까. 첫째, 개별 금융회사에 분산된 보안정보를 효과적으로 연결하고, 업권 공동의 위협정보 공유체계를 강화해야 한다. 해커들이 여러 금융회사를 동시다발적으로 공격할 수 있는 만큼, 신속한 정보 공유와 공동 대응이 피해 확산을 막는 데 중요하기 때문이다. 특히 전문인력과 투자 여력이 부족한 중소 핀테크기업에는 공동 보안관제 서비스가 현실적인 대안이 될 수 있다.
둘째, AI가 이상징후를 실시간으로 탐지하고 위험도가 낮은 대응부터 자동화하되, 계좌·서비스 차단과 같은 중요한 결정에는 사람의 승인과 감독을 거치도록 해야 한다. 셋째, 실제 공격 사례를 활용한 공동 모의훈련을 확대하고, AI 기반 보안 체계의 탐지 정확도와 대응 효과를 정기적으로 검증해야 한다. 이를 통해 AI 보안기술의 도입이 실질적인 사고 예방과 피해 최소화로 이어지도록 해야 한다.
향후 사이버보안 시장은 공격 AI와 방어 AI가 경쟁하는 방향으로 발전할 가능성이 크다. 공격 기술의 고도화는 기업의 보안 투자를 확대하고, 이는 다시 AI 보안 플랫폼과 전문서비스 기업에 새로운 성장 기회를 제공할 것이다. 이제 사이버보안은 디지털 금융의 신뢰와 지속 가능한 성장을 뒷받침하는 핵심 인프라다. 금융회사에는 필수적인 관리 비용이지만, 보안산업에는 빠른 성장이 기대되는 새로운 사업 기회이기도 하다.
정유신 넥스체인지 대표 겸 AI디지털경제금융포럼 의장
넥스체인지 대표 겸 AI디지털경제금융포럼 의장 정유신
