회사 내부 자료를 ChatGPT에 올려 업무를 처리한 뒤 대화 기록을 삭제했다면 해당 정보도 완전히 사라졌다고 볼 수 있을까. 답은 반드시 그렇지는 않다는 것이다. 화면에서 대화가 사라지는 것과 AI 서비스의 서버에서 데이터가 실제로 삭제되는 것은 별개의 문제이기 때문이다.
생성형 인공지능(AI)의 업무 활용이 확산하면서 기업의 승인 없이 개인 계정으로 AI 서비스를 사용하는 이른바 '섀도 AI(Shadow AI)'가 새로운 보안 위협으로 떠오르고 있다.
글로벌 시장조사업체 가트너는 최근 보고서 '섀도 AI 데이터 유출에 신속히 대응하라'에서 기업들이 승인되지 않은 AI 서비스로 유출된 데이터에 신속히 대응해야 한다고 경고했다.
특히 회사 컴퓨터로 ChatGPT에 접속하더라도 개인 계정을 이용하면 기업용 보안 정책이 적용되지 않을 수 있다. 업무용 기기를 사용했다는 사실만으로 입력한 기밀정보가 보호되는 것은 아니라는 얘기다.
실제 피해 규모도 커지고 있다. 가트너가 인용한 IBM의 2026년 데이터 유출 비용 보고서에 따르면 2025년 3월부터 2026년 2월까지 전체 데이터 유출 사고 중 섀도 AI 관련 사고 비중은 43%로 집계됐다. 전년보다 두 배 이상 증가한 수치다. 관련 사고의 평균 피해 비용은 건당 539만달러(약 72억원)에 달했다.
문제는 대화 기록을 삭제해도 데이터가 여러 저장 공간에 남을 수 있다는 점이다. AI 서비스는 대화 내용뿐 아니라 서버 요청·응답 로그, 안전성 검토 시스템, 임시 저장소와 백업 서버 등에도 정보를 보관할 수 있다.
가트너가 제시한 일반적인 데이터 보관 사례에 따르면 삭제된 대화 기록과 서버 로그는 약 30일간 남을 수 있다. 안전성 검토 대상으로 분류된 데이터는 2~7년, AI 학습용으로 수집된 데이터는 최대 5년까지 보관될 수 있다. 실제 기간은 서비스와 계정 유형, 데이터 처리 정책에 따라 달라진다.
이미 AI 모델 학습에 활용된 정보는 삭제가 더욱 까다롭다. 입력 데이터가 모델의 수많은 매개변수에 통계적으로 반영되기 때문에 원본 파일을 지우더라도 학습 결과에서 해당 정보의 영향을 완전히 제거하기 어렵다. 특정 정보를 선택적으로 제거하는 '머신 언러닝(Machine Unlearning)' 기술도 아직 실용화에 한계가 있다는 평가다.
가트너는 정보 유출 사실을 확인하면 AI 학습 활용 설정을 우선 점검하고, 추가적인 데이터 입력을 차단할 것을 권고했다. 노출된 비밀번호와 인증정보를 변경하고 서비스 제공업체에 데이터 삭제를 요청하는 한편, 서버 로그와 백업 데이터의 보관 및 삭제 여부도 확인해야 한다.
기업의 과제는 AI 사용을 단순히 금지하는 데 그치지 않는다. 직원들이 어떤 AI 서비스를 이용하고 어떤 정보를 입력하는지 파악하고, 승인된 서비스와 데이터 관리 기준을 마련해야 한다. 대화창에서 삭제 버튼을 누르는 것만으로 기업의 정보보안 문제가 해결되는 시대는 지났기 때문이다.
이상목 기자 mrlsm@etnews.com
