인공지능(AI) 모델 '클로드' 개발사 앤트로픽이 AI 기술의 발전에 대응해 정부의 강력한 규제와 노동시장 대책이 필요하다고 촉구했다.
다리오 아모데이 앤트로픽 최고경영자(CEO)는 10일(현지시간) 개인 블로그에 게시한 '기하급수적 AI 발전에 대한 정책'이라는 에세이를 통해 규제부터 지정학까지 5개 분야에 걸친 포괄적 정책 제언을 발표했다.
아모데이 CEO는 AI 스케일링 법칙이 계속 유지될 경우 1~2년 안에 '데이터센터 안의 천재 국가' 수준의 강력한 AI가 등장할 수 있다고 전망했다. 그러면서 이제는 과거 거론됐던 '투명성'만으로는 충분히 규제할 수 없다고 지적했다.
아모데이는 AI를 자동차·항공기·의약품과 같이 “잘못 운영될 경우 대규모 피해를 야기할 수 있는 강력한 기술”로 규정하고 연방항공청(FAA)을 모델로 삼아 AI를 규제하는 기관을 설립해야 한다고 강조했다.
이와 함께 그는 프론티어 모델 테스트 입법 제안도 함께 발표했다. 일정 규모 이상 모델은 사이버 보안·생물 무기·AI 통제 상실·자동화 R&D 가속 등 4개 분야에서 제3자 테스트를 의무로 받아야한다는 내용이다.
아모데이는 AI가 이전의 어떤 기술보다 광범위하고 지속적인 노동 시장 교란을 일으킬 수 있다고 경고했다.
그는 “장기적인 일자리 대체 현상은 바람직하지 않을 뿐만 아니라 위험하기도 하다”며 고용 촉진을 위한 인센티브나 보편적 기본소득과 같은 소득 지원이 필요할 것으로 보인다고 주장했다.
아모데이는 AI가 바이오의학 등을 빠르게 가속하는 반면, 현재의 규제 시스템은 이 속도를 따라가지 못한다고 지적했다. FDA와 유럽의약품청(EMA)의 신약 승인에는 평균 7~8년이 소요되는데, AI는 이 시스템을 과부하시킬 수 있다고 경고했다.
이어 그는 완전 자율무기 체계에 대해 신뢰할 수 있는 책임 규정을 마련해야 하고, 미국 내 사용을 금지해야 한다고도 강조했다.
그는 정부뿐 아니라 기업도 AI의 권력 집중 위험을 내포한다며, 앤트로픽의 '장기이익신탁'처럼 더 광범위한 견제 구조가 산업 전반에 확산돼야 한다고 덧붙였다.
정현정 기자 iam@etnews.com
