인공지능(AI) 기술이 기업 업무 전반에 빠르게 침투하면서 디지털 포렌식과 형사 수사의 지형도 크게 바뀌고 있다. 과거 수사기관이 사건의 전모를 파악하기 위해 피의자의 웹 브라우저 검색 기록이나 이메일, 문자메시지를 집중적으로 추적했다면, 이제는 생성형 AI에 입력된 '프롬프트' 대화 이력이 형사사건의 핵심 증거로 부상하고 있다.
실제로 국내의 한 모텔 연쇄 사망 사건 수사에서는 피의자가 챗GPT에 '약물 치사량'이나 '수면제와 술을 함께 복용했을 때의 위험성' 등을 정밀하게 질의한 대화 기록이 포렌식으로 복구됐다. 수사기관은 이를 토대로 단순 상해치사였던 혐의를 '살인죄'로 변경하고 범행의 고의성을 입증해 유죄 판결을 끌어냈다. 기업 포렌식 현장에서도 퇴직 예정자가 AI에 '회사 보안망을 피하는 소스코드 변형 방법'이나 '저작권 단속을 회피하는 코드 재작성 프롬프트'를 입력한 로그가 확보돼 영업비밀 유출의 범의를 밝혀내는 결정적 증거가 되는 유형 사례가 잇따르고 있다.
이처럼 AI 프롬프트는 기업과 임직원의 형사적 책임 여부를 가르는 '양날의 검'이 되고 있다. 특히 임직원의 개인적 비위나 영업비밀 유출 사건이 발생했을 때, 회사가 적절한 내부 통제 시스템을 갖추지 못했다면 법적 관리감독 책임(양벌규정 등)에서 자유로울 수 없다. 이에 기업은 선제적 법적 방어막을 구축하기 위한 관리 체계를 완성해야 한다.
첫째, 개인 계정 사용을 차단하고 중앙 로그 관리가 가능한 기업 전용 환경(Enterprise AI)을 단계적으로 구축해야 한다. 무료·개인용 계정의 대화 삭제 기능이나 '임시 채팅' 모드는 안티 포렌식 행위로 오인될 수 있으며, 사건 발생 시 증거 확보를 불가능하게 만든다. 다만, 과도한 통제가 비인가 AI를 몰래 쓰는 '섀도 AI' 현상으로 이어지지 않도록 업무용 공식 채널을 제공하고, 모든 입·출력 데이터는 타임스탬프와 해시값을 기반으로 중앙 감사 서버에 무결하게 보존해야 회사의 입증 능력이 확보된다.
둘째, 데이터 유출 방지(DLP) 솔루션과 AI 문맥 분석 모니터링을 연동해야 한다. 소스코드, 고객 개인정보, 미공개 계약서 등 핵심 자산의 유출 차단은 기본이다. 나아가 우회 표현이나 은어를 활용한 질문(Jailbreaking)까지 감지할 수 있도록 단순 키워드 차단을 넘어선 문맥 기반 탐지망을 갖추고, '증거인멸' '장부 조작' '포렌식 회피' 등 비위 행위를 모의하는 질의 발생 시 실시간 차단과 동시에 보안 담당자 알람 조치를 취해야 한다.
셋째, 적법절차에 맞춘 내부 통제 규정 제정과 임직원 동의서 수령이 병행되어야 한다. 생성형 AI 이용 가이드라인 등을 통해서 금지 프롬프트 유형을 세부적으로 명시하고, 업무용 AI 로그 감사가 '근로기준법'상 불법 감시로 오인받지 않도록 수집 목적과 범위를 명확히 고지해 서면 동의를 받아둬야 한다. 나아가 단순 규정 제정에 그치지 않고 정기적인 교육과 실제 모니터링이 수반돼야 향후 개인 일탈 발생 시 회사가 '상당한 주의 및 관리감독 의무'를 다했음을 인정받아 면책을 얻을 수 있다.
넷째, 정기적인 프롬프트 감사와 사후 포렌식 대응 절차(SOP)를 표준화해야 한다. 이상 징후가 포착되거나 퇴직자 발생 시 즉시 AI 이용 로그를 정밀 분석하는 가이드라인을 마련해 두어야 사건을 조기에 발견하고 피해를 최소화할 수 있다.
AI 시대의 증거는 '무엇을 검색했는가'에서 'AI와 어떤 문맥으로 대화했는가'로 전환됐다. 법적 적법절차가 반영된 프롬프트 관리 체계 구축만이 기업을 뜻하지 않은 형사적 리스크와 법적 혼란으로부터 지켜내는 가장 확실한 방패다.
김경환 법무법인 민후 변호사
