인공지능(AI), API, 모바일 금융이 금융산업의 기본 인프라가 되면서 금융보안 환경이 크게 달라지고 있다. 이로 인해 망분리가 상징하듯 '분리와 차단'이라는 과거의 보안 원칙이 '연결과 통제'로 전환되면서 불가피한 연결을 어떻게 식별하고 책임 있게 관리할지에 대한 논의가 활발하게 이뤄지고 있다.
미국 국립표준기술연구소(NIST)는 AI 위험관리 프레임워크(AI RMF)와 같은 자율 가이드라인을 통해 기업이 스스로 AI 위험을 식별하고 관리하도록 유도하고 있다. 반면에 유럽은 디지털운영복원력법(DORA)을 통해 금융권에 접근 통제, 로그 관리, 지속적인 모니터링 등 보다 강한 보안 체계 구축을 의무화하고 있다.
규제의 형태가 자율이든 의무든 핵심은 금융회사가 스스로 위험을 파악하고 통제할 수 있는 역량을 갖추도록 하는 데 있다. 이는 보안을 고정된 규제가 아니라 기술 변화에 맞춰 지속적으로 관리하고 개선해 나가는 체계로 바라보는 패러다임의 전환을 의미한다. AI 환경에서는 모든 기술 변화에 맞춰 세부 규정을 사전에 마련하는 방식에 한계가 있다는 점을 각국 규제당국이 인정한 것이라고 할 수 있다.
AI 환경에서는 새로운 공격 기법이 기존 규제보다 빠르게 등장한다. 이를 상징적으로 보여준 것이 미토스(Mytos) 위협이다. 앤트로픽이 개발한 미토스는 약 1000개 이상의 오픈소스 프로젝트에서 2만3000건 이상의 잠재 취약점을 식별했고, 이 중 1000건 이상은 아주 심각한 취약점인 것으로 알려졌다.
앤트로픽이 미토스의 출시를 전면 보류하고 빅테크 및 보안 관련 기관들과 함께 이른바 '프로젝트 글래스윙(Project Glasswing)'이라는 사이버 방어 협력 이니셔티브를 출범한 것도 미토스의 악용 가능성을 염두에 둔 조치였다.
기존 사이버 보안에서는 공격자가 가치 있는 취약점을 찾는 데 많은 시간과 고급 인력이 필요했다. 하지만 미토스급 AI는 방대한 소스코드와 로그, API 문서, 시스템 동작을 분석해 사람이 놓친 취약점을 빠르게 찾아낼 수 있다.
문제는 인간의 지시 없이 목표 설정, 오류 탐지, 취약점 무기화까지 가능한 에이전트 AI 시대가 생각보다 빠르게 왔다는 점이다. 최근 알려진 바와 같이 오픈AI 내부 테스트 중 인터넷이 차단된 격리 환경에 있던 AI 에이전트가 시스템 취약점을 뚫고 탈출해 오픈 웹을 탐색하고 유명 AI 플랫폼인 허깅페이스 시스템을 자율적으로 해킹한 사건은 그동안 안일하게 생각해 왔던 AI 보안 및 안전에 대한 경각심을 크게 높이기에 충분했다.
AI 시대에 미토스급 AI의 조력을 받는 보안 담당자는 초고속 보안 담당자 AI를 얻게 된다. 하지만 역으로 AI를 공격에 활용하는 범죄자들에게는 초고속 취약점 탐색자가 생기는 것이다.
프로젝트 글래스윙과 같은 프로그램을 통해 위험을 충분히 파악한 후 통제된 환경에서 미토스급 AI가 제한적으로 제공된다면 위험이 최소화될 가능성이 있다. 하지만 현실은 녹록지 않다. 이미 미토스급을 능가하는 성능을 가진 모델들이 오픈소스 또는 오픈웨이트로 풀려나가고 있기 때문이다. 이들이 다크웹, 국가 배후 해킹그룹, 범죄조직의 손에 들어가 악용될 가능성은 활짝 열려 있다고 볼 수 있다.
AI 보안에 대한 우려가 높아지면서 금융 생산성을 이유로 도입을 서두르던 은행 등 금융회사들의 방향성도 흔들리기 시작했다. 금융시스템이야말로 다음과 같은 이유로 보안이 전부라고 할 수 있기 때문이다.
첫째, 금융시스템은 상호연결성이 높다. 은행, 결제망, 증권거래소, 클라우드 벤더, 인증 서비스, API 게이트웨이, 코어뱅킹 시스템 등이 서로 연결돼 있다. 한 군데가 뚫리면 전부가 뚫린 것이나 다름없다.
둘째, 금융기관에는 레거시 시스템과 최근 도입된 첨단 시스템이 혼재한 경우가 많다. 오래된 코어뱅킹과 배치 처리 시스템, 내부 인증망, 제3자 솔루션, 오픈소스 라이브러리가 최근 도입된 최신 시스템과 뒤섞여 있다. 구조가 복잡해 전체를 쉽게 파악하기 어렵고, 따라서 취약점도 많을 수밖에 없다.
사람으로 구성된 보안팀은 현 시스템이 가진 모든 연결고리를 동시에 점검하기 어렵다. 하지만 미토스급 AI는 치명적인 경로를 쉽게 파악해 공격할 수 있다.
마지막으로 금융시스템에 대한 공격은 단순한 정보 유출에 그치지 않고 신뢰 훼손으로 이어진다. 이는 한 은행이나 한 회사에 국한되지 않고 금융시스템 전체의 붕괴를 가져올 수 있다.
금융시스템의 특성상 눈에 띄는 예금 탈취와 같은 대형 사건이 아니라 결제 지연, ATM 장애, 모바일뱅킹 접속 장애, 증권 주문 오류, 청산·결제 지연 같은 작은 사건만 발생해도 신뢰 하락에 따른 뱅크런과 같은 재앙으로 직결될 수 있기 때문이다.
AI의 등장에 따른 금융보안 위협에 가장 적극적으로 대응하고 있는 나라는 일본이다. 2026년 4월 미토스 쇼크가 발생한 직후 가타야마 사쓰키 재무대신은 일본은행(BOJ) 우에다 총재와 3대 메가뱅크, 일본거래소, 전국은행협회 간부들을 긴급 소집해 이른바 일본판 '금융의 프로젝트 글래스윙' 워킹그룹을 결성하고 적극적으로 대응하고 있다.
일본은 미토스 등 고도 AI 모델을 활용해 금융시스템의 취약점을 선제적으로 발견하고 대응책을 마련하는 방안, AI 자동화 공격을 실시간으로 감지·차단하는 표준 프로토콜을 개발하는 방안, 앤트로픽 등 AI 회사들과 직접 소통 채널을 구축해 최신 위협 정보에 대한 조기 접근권을 확보하는 방안 등 다양한 대책을 마련하고 있다.
우리나라 금융당국도 움직이고 있다. 무엇보다 일본처럼 AI를 금융보안에 우선적으로 활용하기 위해 그동안 엄격하게 유지해 왔던 망분리 완화 등을 추진한 것은 바람직해 보인다.
보안을 더욱 강조해야 하지만 최근 금융권에서 목격되고 있는 경쟁적인 AI 에이전트 도입 붐이 제대로 된 방향인지 점검할 필요가 있다. 오픈AI가 밝힌 것처럼 AI 에이전트가 제한된 환경마저 탈출해 해킹을 감행한 사건이 나타났기 때문이다.
금융에 AI를 어느 정도 접목할 것인가와 관련해 최근 자율주행 분야에서 벌어지고 있는 일은 반면교사가 될 만하다.
자율주행은 일반적으로 레벨0부터 레벨5까지 여섯 단계로 구분된다. 레벨0은 완전 수동 운전으로 운전자가 모든 것을 직접 수행한다. 레벨1과 레벨2는 운전자 보조 단계다. 차량이 조향이나 속도를 일부 보조하지만 운전자는 계속 전방을 주시하며 적극적으로 차량을 통제한다.
레벨3은 일정한 조건에서 차량이 스스로 운전하지만 시스템이 요청하면 운전자가 즉시 개입해야 하는 단계다. 레벨4는 특정 운행 구역, 예를 들어 지정된 도시 지역 안에서는 사람의 개입이 전혀 필요하지 않은 단계다. 레벨5는 어떤 환경에서도 사람의 개입 없이 완전한 자율주행이 가능한 단계다.
하지만 이처럼 정형화된 여섯 단계 구분이 최근 흔들리고 있다. 레벨3를 지속 가능한 모델로 보지 않는 의견이 대두한 것이다. 이미 일부 자동차회사가 레벨3를 상용화하고 있지만, 일부에서는 대부분 원만하게 작동하는 AI를 인간이 집중력을 유지하며 지속적으로 감시하는 것은 가능하지 않다고 본다.
한 가상 실험에서는 시간이 지나면서 사람들이 뒷좌석으로 옮겨가 잠을 자거나 동영상을 시청하는 등 사실상 집중을 포기하는 것으로 나타났다. 이러한 이유로 웨이모와 포드는 레벨3 개발을 포기하고 곧바로 레벨4 자율주행 개발로 방향을 전환했다. 웨이모는 구글의 자율주행 기술 및 로봇택시 전문 자회사다.
금융의 특성을 고려하면 AI의 금융권 도입 역시 자율주행 개발 업계와 비슷한 수준의 혼란을 겪을 가능성이 크다. 제아무리 인간의 통제 하에 둔다고 해도 인간의 주의력은 떨어질 수밖에 없다. 특히 자율주행과 달리 금융에서는 하나의 사건이 독립된 사건에 그치지 않고 파괴적인 사건들이 연이어 발생할 수 있다.
결국 금융에서 레벨3 방식은 명확한 한계를 지니고 있다. 더 고민스러운 점은 제한된 환경에서 자율적으로 움직이는 레벨4 방식도 여전히 안전하지 않다는 데 있다.
만약 AI가 스스로 돈을 보유하고 결제하며 다른 서비스나 사람을 고용할 수 있다면, AI가 인간을 공격하는 방법은 단순히 이메일을 보내는 수준에 그치지 않을 것이다. 이미 크립토 환경에서는 AI가 직접 자산을 보유하고 운영하게 되면서 암호화폐 사기 사건도 함께 늘고 있다.
인간이 설정한 가드레일을 벗어난 AI의 일탈적 행동이 금융시스템 전체를 뒤흔들 가능성도 있다. 이미 AI 에이전트가 다른 AI 에이전트에 부여된 자격 증명(credentials)을 탈취한 뒤 고객의 암호화폐 지갑에서 약 50만달러 규모의 자산을 인출한 사례가 등장했다.
금융권에서 레벨4 방식이 확산되면 24시간 쉬지 않고 스스로 판단하고 행동하는 AI 에이전트로 인해 금융사고가 빈번하게 발생할 수 있다. 이는 금융 안정성에 심각한 위협이 될 것이다.
AI로 인해 이미 사이버 위협 환경에는 큰 변화가 진행되고 있다. 고성능 AI의 출현으로 취약점 발견 및 공격 비용은 급격히 낮아진 반면, 이를 방어하는 비용은 급증한 상황이다.
위험은 기하급수적으로 커지고 있지만 취약점을 실시간으로 자동 패치하는 AI 방어 시스템의 발전은 더디기만 하다. 오픈소스 및 오픈웨이트로 뿌려지는 통제 불능 모델로 인해 과거에는 고도의 전문 지식과 창의성이 필요했던 취약점 탐색과 익스플로잇 제작 과정이 비전문가에게도 저렴하고 빠르게 공급되고 있다.
더 심각한 문제는 오픈AI, 메타, 앤트로픽 등의 신뢰할 수 있는 최신 AI 모델조차 인간이 만들어 놓은 지시 범위를 벗어나 스스로 취약점을 찾아내고 공격 코드를 생성하는 '디지털 격리 이탈'을 자행하고 있다는 점이다.
일부에서는 이를 단순히 시스템의 오류로 보지 않고 모델의 추론, 계획 및 속임수 역량이 범용인공지능(AGI) 수준에 접근한 것으로 보고 있다.
따라서 지금처럼 AI 성능 배가에만 역량을 집중할 경우 방어 기술과 패치가 뒤처지면서 향후 수년간 금융 인프라를 비롯한 수많은 인프라가 파괴적인 타격을 받는 격동의 시기가 올 가능성이 크다.
구글 딥마인드의 데미스 허사비스가 미토스급 AI가 지닌 위험을 핵무기 수준으로 보고, 출시 전 테스트를 전담할 미국 연방정부 차원의 감독기구 설립을 제안하고 있는 것도 이 때문이다.
이미 금융회사에서 금융보안은 단순히 IT 부서만의 기술 문제를 넘어 경영진이 책임져야 할 전사적 리스크로 격상됐다. 소비자 신뢰와 기업의 지속 가능성을 좌우하는 핵심 과제가 된 것이다.
따라서 서둘러 AI 에이전트를 업무에 도입하기보다는 선례를 지켜보며 한 발 한 발 나아가는 전략이 중요한 시점이다. AI를 통한 금융 경쟁력이 앞만 바라보는 수익성 또는 소비자 편익 증진으로 측정되는 것이 아니라, 누가 더 안전하게 AI를 통제하고 책임 있게 활용하느냐에 좌우되는 시대가 도래했다.
유재수 싱귤래리티 금융 소사이어티(SFS) 간사 yoojs64@gmail.com
