정부가 인공지능(AI) 개발과 활용 과정에서 지켜야 할 국가 차원의 윤리 원칙을 확정했다. 인간의 존엄성·사회의 공공선·인류의 지속가능성을 3대 가치로, 개발자뿐 아니라 이용자와 정부, 사회 전체가 책임 있는 AI 활용에 참여해야 한다는 점을 강조했다.
과학기술정보통신부는 제12회 과학기술관계장관회의에서 안전하고 신뢰할 수 있는 AI 기본사회 구현을 위한 '대한민국 인공지능 윤리원칙'이 심의·의결을 거쳐 확정됐다고 24일 밝혔다.
윤리원칙은 AI기본법 제27조에 따라 마련됐다. 2020년 마련된 'AI 윤리기준'을 계승하면서 AI 기술 발전과 AI기본법 시행 등 달라진 제도 여건을 반영해 제정됐다. 법적 구속력을 갖는 규제가 아닌 자율규범으로, 공급자, 이용자, 정부·사회 등 주체별 역할을 제시해 실제 AI 개발·제공·이용 과정에서 참고할 수 있도록 했다.
과기정통부는 “AI가 산업 생산성을 높이고 새로운 서비스를 창출하며 사회적 과제 해결에도 활용되는 동시에 AI에게 어디까지 판단을 맡길 것인지에 대한 고민도 커지고 있다”면서 “AI의 역량이 고도화되면서 개발부터 이용까지 전 과정에 걸쳐 안전과 신뢰를 확보하는 일도 중요해지고 있다”고 배경을 설명했다.
윤리원칙은 인간의 존엄성, 사회의 공공선, 인류의 지속가능성 등 3대 가치와 인간중심성, 프라이버시 보호, 공정성·포용성, 책임성, 안전성, 신뢰성, 투명성 등 7대 원칙으로 구성된다.
인간중심성 원칙은 AI가 사람의 판단과 선택을 지원하고 창의성과 문제 해결 역량을 높이는 방향으로 개발·활용돼야 한다고 규정했다. AI의 역할 범위를 명확히 설정하고 필요한 경우 사람이 개입할 수 있도록 해야 하며, AI에 대한 과도한 의존을 경계해야 한다고 제시했다.
프라이버시 보호 원칙에서는 AI를 부당한 감시 등 사생활 침해에 활용하지 않도록 하고, 개인정보를 정해진 목적과 범위에서 처리하도록 했다. 공정성·포용성 원칙은 AI 개발·활용 과정에서 특정 개인이나 집단에 대한 편향을 방지하도록 했다.
책임성 원칙에서는 각 주체가 자신의 역할과 책임을 명확히 인식하고, 문제가 발생했을 경우 피해 구제를 위해 노력하도록 했다. 안전성 원칙은 생명·신체·정신적 건강에 대한 위해와 재산상 피해를 방지하고 안전조치를 마련하도록 했다.
신뢰성 원칙은 목적과 활용 맥락에 맞는 최소 성능 기준을 설정하고, 의도된 목적과 허용된 권한 범위 안에서 작동하도록 했다. 투명성 원칙에서는 AI가 활용됐다는 사실과 활용 수준, 한계 등을 알기 쉽게 제공하도록 했다.
정부는 AI를 만드는 기업과 연구자뿐 아니라 AI를 사용하는 이용자도 책임 있는 AI 활용의 주체로 규정하고 윤리와 역할을 함께 강조했다. 아울러 AI 역량과 자원을 많이 가진 국가와 기업이 영향력에 걸맞은 책임을 다하고, AI의 혜택이 특정 국가·지역·집단에 치우치지 않아야 한다는 국제사회를 향한 메시지도 담았다.
정부는 윤리원칙 실효성을 높이기 위해 사례 중심 해설서와 분야별 자율점검표, 대상별 윤리교육 교재를 마련·보급할 계획이다.
배경훈 부총리 겸 과기정통부 장관은 “AI 혁신을 가속화하는 것과 안전하고 신뢰할 수 있는 AI 환경을 조성하는 것은 서로 대립하는 과제가 아니다”라며 “AI 윤리원칙이 AI에 대한 사회적 신뢰를 높이고, 바람직한 개발·활용과 그 혜택의 확산을 돕는 실천의 기준으로 자리 잡도록 하겠다”고 밝혔다.
정현정 기자 iam@etnews.com
