금융권의 인공지능(AI) 활용이 활성하되면서 금융당국이 관련 가이드라인을 시행한다. 금융 서비스 전과정에서 윤리원칙을 지킬 수 있도록 3중 내부통제 장치를 마련이 골자다.
8일 도규상 금융위원회 부위원장은 제1차 디지털 금융협의회 데이터분과회의를 열고 '금융분야 AI 가이드라인'을 발표했다.
도 부위원장은 “앞으로는 AI 등 기술혁신이 금융의 질적 변화를 주도할 전망”이라며 “AI 가이드라인을 통해 발생 가능한 위험을 명확히 인지하고 금융서비스 목적에 맞게 위험을 통제하기 위한 전사적으로 노력해야 한다”고 말했다.
이어 “안전하고 효율적인 데이터 관리를 위해 AI 학습데이터의 품질을 엄격히 관리하고 개인정보보호 체계도 한층 강화해야 한다”고 덧붙였다.
가이드라인 적용 대상은 AI를 금융거래 및 금융서비스 등에 적용한 전 금융업권이다.
실무지침의 경우 AI 활성화 정도 등을 감안해 은행, 보험, 금융투자업권 등 대형 금융업권 위주로 마련한다.
금융연관분야라 하더라도 AI 활용에 따르는 금융서비스 등에 미치는 위험이 크다고 판단되는 경우(예:CB사, 전자금융업 등) 확대 적용할 예정이다.
활용분야는 AI를 접목한 전 금융서비스를 대상으로 한다. 단 금융소비자에 미치는 영향이 없는 백오피스 관련 분야(예:RPA 등)의 경우 제외한다.
가이드라인에 따르면 AI 서비스의 책임있는 운영을 위해 AI 윤리 원칙 마련, AI 조직 구성, 위험관리정책 수립의 3중 내부 통제장치를 마련하도록 했다.
회사별 가치, 원칙과 기준을 세워 AI윤리원칙을 마련한 후, 서비스 전 단계에 거친 AI전담조직을 만들도록 했다.
특히 AI 서비스 자체 평가 및 관리정책을 마련하고 개인권리에 중대한 위험을 초래할 수 있는 서비스에는 강화된 위험관리도 적용했다. 예컨대 AI 의사결정이 신용평가, 대출심사 등 개인의 금융거래계약의 체결 및 유지에 중대한 영향을 가져오는 경우 내부통제와 승인절차를 마련하고 별도 책임자를 지정하도록 했다.
AI학습 데이터에 대한 조사·검증을 강화하고 개인신용정보 오·남용 방지하도록 했다. 사생활정보 등 민감정보를 활용하고자 하는 경우, 비식별 조치 등 안전한 정보 활용을 위한 충분한 조치를 거치게 했다.
또 불합리한 소비자 차별 등이 없도록 시스템 위험관리 및 공정성 제고, 소비자에 AI서비스에 대한 충분한 설명 및 권리행사를 보장도 명시했다.
AI 가이드라인은 연내 시행될 예정이다. 실무 영역에서도 금융업권의 기능과 서비스 성격을 고려해 가이드라인을 구체화한 세부 지침을 마련할 방침이다.
김지혜기자 jihye@etnews.com
