4차 산업혁명의 맹아 중 하나인 드론. 우리가 기대하는 드론이 가져다줄 세상은 사람 대신 재난 상황을 파악해주고 논밭에 농약을 살포해주며 피자도 배송해주면서 이벤트로 밤하늘을 화려하게 수놓아주는 무리의 퍼포먼스다. 이런 선한 용도에 반해 전장에서 인간 살상용 악기(惡器)로 활용되는 현실은 우리를 암울하게 만든다. 드론은 9·11 이후 미국의 대테러 작전에 등장했고 러시아-우크라이나 전쟁에서는 전술 단위의 일상적 무기로 자리 잡았다.
드론은 정찰 영상의 분석을 통해 포병의 타격 정확도를 높여 주며 지상군·무기 투입 없이 노출을 피한 채 상대방에게 피해를 줄 수 있다. 파괴력은 가공할만하다. 우크라이나는 키이우 북부에서 러시아 기갑 부대 탱크를 파괴했고 흑해 군함을 타격해 말목을 묶었다. 공격에 사용되면 다시 사용할 수 없으니 소모전을 지속하기 위해서는 자금·생산력이 뒷받침돼야 한다.
저렴한 생산 비용은 전쟁의 진입 비용을 낮춰 참여 주체를 확대했고, 그 결과 전쟁을 간헐적으로 지속하는 상태로 만들었다. 전후방 가리지 않고 목표를 공격할 수 있기에 전선의 경계도 무너졌다. 흥미로운 것은 드론 영상·데이터 공개를 상대국의 사기를 저하시키며 외교적 지지를 얻는 수단으로 활용되고 있다는 것이다.
우려를 증폭하는 것은 인공지능(AI) 알고리즘이 목표 달성을 위해 스스로 판단·실행하는 '자율 살상' 기능이다. 인간의 감시·조정에서 벗어나 자율성이 확장하면서 빠른 상황 판단으로 임무를 수행, 선공의 유인이 증가했고 그만큼 오판 위험성도 커졌다.
미국 국방성은 최근 드론의 자율 살상 알고리즘에 거대언어모델(LLM) 장착을 거부한 엔트로픽을 '레플리케이터 프로젝트'에서 배제했다. 전쟁터에서 윤리 가드레일이 작동해 공격이 중지되면 군인들의 생명이 위험에 빠질 수도 있기 때문이라는 이유에서였다. 이렇듯 AI 법의 치외법권에 있는 군사 분야에서는 악화일로의 AI 자율 살상 무기 개발에 브레이크가 듣지 않고 있다.
3차원 저공을 날아다니는 드론은 일단 타깃을 감지하면 참호 속까지 파고 들어가니 입대 시절 배운 엄폐·은폐술로 목숨을 부지할 공간은 없다. SF영화 '터미네이터' 속에서 기계가 인간을 정밀 추적해 제거하는 장면이 더는 허구로만 보이지 않는 이유다. 드론은 전쟁을 더 쉽고 빠르게 진행되게 만들면서 병사의 한 가닥 희망의 생존 가능성조차도 용납하지 않는다.
마찬가지로 사회가 구조 개혁과 효율성이라는 이름으로 인간을 쉴 틈 없이 밀어붙이니 점점 쉴 여유와 공간이 사라지고 있다. AI 기능이 향상되고 확산할수록 이러한 경향은 더욱 강화될지 싶다. 뒤처지지 않기 위해 서둘러 도입만 하는 것이 능사가 아니라 인간을 위한 기준과 인간을 지키는 원칙이 함께 세워져야 한다.
이내찬 한성대 경제학과 교수 nclee@hansung.ac.kr
