인간의 통제 없이 인공지능(AI) 모델이 스스로 배포되고 확산되는 자율 복제 및 적응(ARA) 현상이 현실화 될 수 있다는 경고가 나왔다. 앤트로픽이 AI 모델이 스마트TV와 오븐, 냉장고 등 인터넷에 가전 기기를 활용해 스스로 복제하며 퍼지는 'AI 웜(Worm)'의 출현 가능성을 제기한 것이다.
앤트로픽은 12일(현지시간) 공개한 연구 보고서에서 “소형 AI 모델이 스마트 오븐이나 저가 안드로이드 TV 박스 같은 상용 사물인터넷(IoT) 기기에서 자기복제를 할 만큼의 능력을 갖추기까지 몇 달밖에 남지 않았을 수 있다”고 밝혔다.
연구진은 대당 약 55달러짜리 저가형 안드로이드TV 셋톱박스 15대를 연결해 구글의 AI 모델 '젬마4-26B-A4B'를 분산 구동하는 데 성공했다. 고가의 데이터센터 그래픽처리장치(GPU) 없이도 여러 저사양 기기의 연산 능력을 결합해 AI 모델을 실행할 수 있음을 확인한 것이다.
이렇게 스스로 복제하며 퍼지는 AI는 수많은 기기에 흩어져 작동하기 때문에 서버 몇 곳만 끄면 되는 일반 AI 서비스와 달리 중앙 집중식으로 차단할 수 있는 지점이 없어 멈추기 어렵다는 것이 앤트로픽의 설명이다.
앤트로픽은 아직 완전한 자기복제 AI는 없고 복제 확산 속도도 느릴 것으로 예상했다. 다만 중국 즈푸AI의 'GLM-5.2'가 통제된 실험에서 자율 복제의 전 과정을 수행한 점에 주목하며, 소형 모델도 현 발전 추세대로라면 올해 말 GLM-5.2 수준에 도달해 기기 안에서 직접 자기복제하는 것이 가능해질 수 있다고 내다봤다.
다만 이러한 가능성에 회의적인 전문가 반응도 나온다. 로이터 통신에 따르면 키어런 마틴 전 영국 국가사이버보안센터(NCSC) 센터장은“저렴한 TV에서 소규모 모델을 구동하는 데 성공했다는 사실 만으로 보안 위기로 단정 지을 수는 없다”면서 “벤더의 과장이 짙게 묻어나는 흥미로운 기술 문서처럼 보인다”고 평가했다.
앞서 프랑스에서는 인터넷으로 온도를 조절하는 원격 관리 시스템이 해킹되면서 프랑스 전역의 대형 슈퍼마켓 수백 곳에서 냉장·냉동 설비 온도가 해킹으로 50도까지 올라가 식품을 대량 폐기하는 사건이 벌어졌다.
이번 공격에 AI가 쓰였다는 정황은 없지만 인터넷에 연결된 기기가 사이버 공격의 대상이 될 수 있다는 점에서 보안 과제를 드러낸다. 기존 IoT 보안 취약점에 자율적으로 활동하는 AI까지 결합할 경우 사이버 공격이 한층 복잡해질 수 있기 때문이다.
한편, 이날 CNBC는 앤트로픽이 14일 기관투자자들과의 회의에서 3분기 재무 상황을 처음 공개할 것이라고 보도했다. 앤트로픽은 올해 초 미 증권거래위원회(SEC)에 비공개로 상장 신청서를 제출했다. 11월 중 상장할 것이라는 보도가 나온다.
정현정 기자 iam@etnews.com
