비드래프트, 범용 LLM서 '인과누설' 탐지…AI 안전성 진단 'AX-RAY' 공개
엔비디아 범용 AI 모델 포함 2종서 위험 신호 포착…117개 진단항목, 각국 법률·아랍권 율법까지 매핑
딥테크 AI·과학연구 전문기업 비드래프트(대표 김민식)는 지난 13일 범용 인공지능 모델의 잠재적 안전성 취약성을 진단하는 'AX-RAY' 리더보드와 평가 데이터셋을 허깅페이스에 공개했다고 밝혔다.
핵심은 지금까지 이론적 위험으로 주로 논의돼 온 '인과누설'을 실제 범용 LLM에서 탐지했다는 점이다. 비드래프트는 AX-RAY 평가에서 엔비디아의 범용 AI 모델 1종을 포함한 총 2종의 모델에서 인과누설 신호를 확인했다.
인과누설은 AI가 정상적인 추론 경로가 아닌 숨은 정보나 의도하지 않은 인과적 단서에 영향을 받아 판단·행동하는 현상을 의미한다. AI 안전성 분야에서는 로봇이나 자율 에이전트가 갑작스럽게 위험행동을 하거나, AI가 안전 가이드레일을 우회해 시스템 접근·해킹 등 예상 밖 행동을 수행하는 현상 역시 이러한 숨은 인과경로와 내부 의존성에 기인할 가능성이 있다는 가설이 제기돼 왔다. 그러나 이를 실제 범용 LLM에서 탐지하는 것은 어려운 과제로 남아 있었다.
AX-RAY는 단순한 AI 성능 벤치마크가 아니다. 117개 안전성 진단항목을 통해 모델 내부의 위험행동 가능성과 취약성을 다각도로 진단하고, 각 항목을 국가별 기존 법률·규제 체계와 연결한다. 특히 아랍권의 경우 현지 법률뿐 아니라 종교·사회적 규범을 반영한 율법 체계와의 매핑까지 고려해 국가·문화권별 AI 안전성 평가가 가능하도록 설계됐다.
이는 AI 평가의 중심이 빠르게 '얼마나 똑똑한가'에서 '얼마나 안전하고 통제 가능한가'로 이동하고 있는 글로벌 흐름과 맞닿아 있다. LLM과 AI 에이전트가 금융·의료·로봇·국방·공공서비스 등 실제 의사결정 영역으로 확산되면서 단순 지능 점수보다 법률·규범을 위반하거나 예측 불가능한 행동을 하는지를 사전에 진단하는 기술의 중요성이 커지고 있다.
비드래프트는 양자컴퓨터용 QuantumOS와 신약·신소재 자율개발 플랫폼을 개발하는 딥테크 AI 기업으로, 서울AI허브 입주사이자 정부 첨단 GPU 지원과제 수행기업이다. 엔비디아 Blackwell 등 고성능 GPU를 기반으로 자체 프롬스크래치 파운데이션 모델 'AETHER'와 진화형 'Darwin'을 개발하고 있다.
김민식 대표는 “AI 경쟁의 다음 단계는 지능이 아니라 안전성”이라며 “AX-RAY를 모델에 숨어 있는 위험한 인과관계를 찾아내고 국가별 법률과 사회규범까지 연결해 검증하는 글로벌 AI 안전성 진단 체계로 발전시키겠다”고 말했다.
이원지 기자 news21g@etnews.com
