오픈AI의 인공지능(AI) 안전 보고서 작성을 이끌어온 직원이 AI가 통제력을 상실할 경우 원전 사고보다 큰 피해가 발생할 수 있다고 경고하며 회사를 떠났다.
데이비드 로빈슨 전 오픈AI 안전 담당 직원은 3일(현지시간) 미국 시사월간지 디애틀랜틱 기고문을 통해 “AI 통제력 상실의 피해는 단일 원자로 노심용융 사고보다 훨씬 클 것”이라며 “AI 기업들이 이 기술을 충분히 신중하게 개발하고 있지 않다”고 지적했다.
로빈슨은 “오픈AI를 비롯한 업계 선두 기업들의 방향을 더 이상 용납할 수 없다고 판단한 전 동료들과 함께 사임 의사를 밝힌다”며 “최근 퇴사한 다른 직원들의 의견에 동의하며 이 기술을 개발하는 기업들이 충분한 주의를 기울이지 않고 있다고 생각한다”고 했다.
그는 오픈AI가 문제를 발견한 뒤 안전장치를 개선하는 '반복적 배포(iterative deployment)' 방식으로 성장해왔다고 설명했다. 그는 “반복적 배포는 주기적인 실패를 수반하며 시스템의 능력이 커질수록 실패 규모도 커진다”며 “이제 시행착오를 거칠 시기는 끝났다”고 지적했다.
프런티어 AI 연구소가 원자력발전소나 대형 공항처럼 다중 안전장치와 충분한 사전 검토 절차를 갖춰야 한다고도 했다. 그는 “인간 허가 없이 작동하는 자율 AI 에이전트 무리가 등장할 수 있다”며 고성능 모델이 안전한 선택을 하도록 보장할 과학적 연구가 필요하다고 주장했다.
로빈슨은 약 3년6개월간 오픈AI에서 근무하며 고성능 AI 위험을 평가·관리하는 '준비성 프레임워크(Preparedness Framework)' 작성에 참여했다. 오픈AI가 프런티어 AI 모델 12개를 출시하는 과정에서 안전 보고서 작성도 감독했다.
그는 “회사가 끊임없이 새로운 제품을 출시하는 과정에서 필요한 수준의 주의를 기울이지 못하고 있다”며 앞으로 외부에서 AI 기업의 안전 강화를 촉구하겠다고 밝혔다.
조벼리 기자 starry@etnews.com
