기업 인공지능(AI) 모델 접근 권한을 탈취해 불법 판매하거나 대규모 이용 요금을 유발하는 '거대언어모델(LLM) 재킹' 공격이 확산되는 것으로 나타났다.
하루 만에 10만달러(약 1억4000만원) 이상 피해가 발생하고 누적 피해액이 100만달러에 달한 사례도 확인된 만큼 기업 내 AI 활용에 대한 각별한 주의가 요구된다.
구글 클라우드는 구글 위협 인텔리전스 그룹(GTIG)과 맨디언트가 이같은 내용을 담은 LLM 재킹 공격 분석 보고서를 공개했다고 4일 밝혔다.
LLM 재킹은 기업 LLM 접근 권한을 탈취해 무단으로 이용하거나 제3자에게 재판매하는 사이버 공격이다. 타인의 컴퓨팅 자원을 암호화폐 채굴에 사용하는 크립토재킹과 달리 단기간에 막대한 AI 모델 사용 비용을 발생시킨다.
최근 공격은 북미·남미와 아시아태평양 지역 금융·유통·기술·운송 등 다양한 산업을 겨냥했다. 공격자는 기업의 계정 정보를 탈취하거나 로그인 세션을 가로채 내부 시스템에 침투했다. 공개된 깃허브 저장소에 노출된 유효한 인증 정보를 수집하는 방식도 활용했다.
특히 탈취한 응용프로그램인터페이스(API) 키를 불법 중계 서버 'LLM 믹서'로 연결, AI에 대한 무단 접근 권한을 사이버 범죄 암시장에서 대폭 할인된 가격에 되팔아 수익 창출에 나섰다.
실제 한 불법 토큰 라우팅 서비스는 월 60달러에 최신 고성능 AI 모델을 무제한 이용할 수 있는 서비스를 제공했다. 이 과정에서 약 100만달러 모델 사용 비용이 피해 기업에 청구됐다.
대규모 API 호출을 통한 공격도 포착됐다. 한 공격자는 7시간여 만에 50만건 이상 LLM API 호출을 실행했다. 호출 한도를 우회하기 위해 수명이 짧은 서비스 계정을 반복 생성·삭제하는 '소각·교체' 수법을 사용하고 피해 규모를 추적했다.
존 헐트퀴스트 GTIG 수석 애널리스트는 “공격자들은 LLM 재킹을 적극 활용, 방어자보다 규모 측면 우위를 점하려 한다”며 “에이전틱 도구를 악용해 피해자가 인지하지 못하는 사이 토큰을 탈취하는 방식으로 공격 규모를 확대하고 있다”고 지적했다.
이어 “기업이 LLM 자원 접근을 엄격히 통제하고 모니터링해야 비용 폭탄을 방지할 수 있고, 공격자들의 저비용 무한대 자율형 공격으로부터 커뮤니티 전반을 보호할 수 있을 것”이라 “자원 사용 내역을 철저히 점검하고 다중 인증(MFA)을 활성화하는 등 계정 정보를 신중하게 관리해야 한다”고 강조했다.
대응 방안으로 기업 내 승인 받지 않은 '섀도 AI' 활용 현황 파악, API 키 접근 권한 세분화, 인증 정보 노출을 자동으로 탐지하는 '시크릿 스캐닝' 등을 제시했다. 잠재적 침해 징후를 선제적으로 찾아내는 위협 헌팅 활동도 권고했다.
박종진 기자 truth@etnews.com
