마이크로소프트(MS)가 인공지능(AI) 행동강령 초안을 발표했다.
MS는 14일(현지시간) 자사 홈페이지를 통해 “MS의 AI는 인간이 AI보다 중요하다는 단순한 전제에서 출발한다”는 내용 중심 행동강령을 공개했다. 인간을 최우선으로 해 설계되고 인간의 필요에 기반을 두며 인간의 지침에 따라 형성된 AI 모델을 훈련하고 배포하겠다는 의지를 밝혔다.
행동강령에 따르면 MS AI 모델은 사람 지시에 따라 승인된 범위 내에서만 작동하고, 스스로 독립적인 목표를 설정하거나 부여된 권한 범위를 넘어서는 행동을 할 수 없다. AI가 자체 추론 과정·코드 등을 조작·은폐하는 행위나 신경망어처럼 인간이 이해할 수 없는 언어로 AI끼리 소통하는 행위도 금지된다.
MS는 AI는 인간처럼 설계돼선 안되고 AI는 의식을 갖고 있지 않으며 의식을 모방하도록 설계돼서도 안 된다고 지적했다. AI 모델이 법인격 지위 획득을 추구하는 것이나 모델이 복지를 누리거나 권리를 보유할 수 있다는 주장을 거부한다는 입장이다.
미국 CNBC에 따르면 무스타파 술레이만 MS AI 최고경영자(CEO)는 “AI가 항상 인간을 위해 일하고 인간을 대체하려 하지 않는다는 명확한 약속이 있었으면 좋겠다는 의견이 있었다”고 행동강령 발표 배경을 설명했다.
술레이만 CEO는 “AI가 인간에 대한 의존성을 창출하거나 아첨하지 않고 항상 인간 판단과 자율성을 촉진하도록 해야 한다는 의견도 다수 확인했다”고 덧붙였다.
MS는 5개월 전부터 행동강령을 준비, 최근 앤트로픽·오픈AI 등 빅테크 기업을 중심으로 불거진 AI 속도 조절 논의를 고려해 이날 지침을 발표했다.
사티아 나델라 MS CEO 역시 앞서 AI 정렬(alignment) 문제 해결을 위한 연구와 집중, 신중한 진행 속도를 환영한다는 입장을 밝혔다.
MS는 이번 행동강령에 대한 법학·윤리학·철학 등 전문가와 대중의 의견을 수렴해 연말께 최종안을 확정할 계획이다. 내년에 개발·배포되는 차세대 AI 모델 기본 규범으로 활용한다.
박종진 기자 truth@etnews.com
