생성형 인공지능(AI)을 활용하는 일이 늘어나며 AI 규칙과 지침으로 작용하는 'AI 윤리'의 중요성이 커지고 있다. AI 윤리는 AI가 공정하고 포용적으로 작동하는 것을 목표로 한다. 잠재적 위험과 부정적인 결과를 줄이기 위한 가이드라인이 된다.
AI를 활용하면 대량 데이터의 학습과 알고리즘을 활용해 결과를 쉽게 얻을 수 있다. 다만 제대로 된 학습 없이 부실한 사전 연구 설계나 편향된 데이터 적용 등으로 인해 일부 왜곡된 결과를 활용하거나 예상치 못한 결과가 생기기도 한다.
예를 들어 AI는 전과자의 얼굴이 반영된 이미지를 활용해 재범율을 예측한 결과, 흑인이 백인에 비해 재범률이 훨씬 높을 것으로 추론했다. 유색 인종의 학습량이 절대적으로 부족하다 보니 AI가 학습하는 데이터에도 편향이 발생하는 것이다.
또 AI가 대리인 역할을 수행하면서 고객의 전화번호, 통화나 메시지 내용 등 개인정보에 대한 접근 및 제어가 가능해져, 정보가 유출될 경우 심각한 개인 정보 침해 가능성이 있다.
광고마케팅 업계에서도 저작권 문제, 성별에 따른 왜곡된 결과 생성, 데이터 노출 등을 주요 윤리적 문제로 보고 있다. AI출현으로 인한 시대상 변화에 대응하기 위해 1984년 이후 40년만에 업계 자체적으로 광고윤리강령을 개정했다. 개정된 강령에는 '광고는 데이터 및 AI 알고리즘 등 디지털 기술을 사용하는 데 있어 소비자의 권익을 보호해야 한다'는 점을 명확히 하고 있다.
이러한 이슈들을 해결하고 바람직한 AI 연구 및 활용 방향을 제시하기 위해, 2020년 과학기술정보통신부에서도 AI 윤리기준의 3대 기본원칙, 10대 핵심요건을 정의해 선언했다.
3대 기본 원칙 첫 번째는 인간 존엄성이다. 인류의 정신적, 신체적 건강에 해가 되지 않는 범위에서 개발 및 활용돼야 한다는 뜻이다.
두 번째는 공공선의 원칙이다. 사회는 가능한 많은 사람의 안녕과 행복이라는 가치를 추구해야 하며, 사회적 약자나 취약 계층에게 불이익이 없도록 활용돼야 한다.
세 번째는 기술의 합목적성이다. AI는 인류의 삶에 필요한 도구라는 목적과 의도에 부합되게 개발 및 활용되어야 하며 그 과정도 윤리적이어야 한다는 점이다.
이러한 원칙 하에서 AI 윤리 이슈들을 잘 해결하기 위해서는 데이터 수집 과정의 투명성이 중요하다. 또, 윤리적인 데이터 사용 규정을 수립해야 한다. 더불어 AI가 어떤 데이터를 기반으로 결정을 내리는지에 대한 설명 가능성을 높여야 한다.
또 AI 엔진을 설계할 때부터 윤리적 기준을 고려해야 한다. 이를 위해 AI 개발자들이 윤리적 원칙을 기반으로 시스템을 설계하고 테스트하는 절차를 마련해야 한다.
마지막으로 정부와 기업은 AI 윤리를 강화하기 위한 정책과 규제를 수립해야 한다. AI의 책임 소재를 명확히 해야 하며, 프라이버시 침해를 방지하기 위한 법적 장치를 확실히 해야 한다.
AI 윤리는 기술적 이슈가 아닌, 사회 전반에 걸쳐 매우 중요한 도덕적 과제다. 앞으로 AI 기술이 더욱 발전함에 따라, 이를 윤리적으로 다루는 방법도 더욱 중요해질 것이므로 기업들은 이에 선제적으로 고민하고 활용할 수 있는 체계 마련이 시급히 준비해야 할 것이다.
김경진 HSAD 신사업추진 담당
