범죄나 사고를 예측하고 방지하는 인공지능(AI)이 활약하는 미래가 코앞까지 다가왔다. 재범 가능성이 높은 범죄나 사고가 발생하는 시간과 장소에는 특정한 패턴이 존재한다. 범죄 예방 AI는 악의를 가진 사람이 보이는 미세한 움직임, 습관, 동작이나 표정을 감시 카메라 영상을 실시간으로 감지하여 범죄자나 테러리스트 등이 이상행동을 일으키기 전에 위험 인물을 골라낸다.

세계 각국에서 범죄 예방 AI는 이미 성과를 내고 있다. 미국 시카고 경찰이 범죄 예방 프로그램 '헌치랩(Hunchlab)'을 사용해 사우스사이드 지역 흉악 범죄 발생률을 크게 낮췄다.

Photo Image

◇범죄 가능성을 예측하다

미국 시카고 경찰이 범죄 예방을 위해 사용한 헌치랩은 벤처 기업 'Azavea' 사에서 개발한 범죄 예측 시스템이다. 헌치랩은 시간이나 계절과 같은 주기 정보, 날씨나 지역경제, 과거 범죄 데이터를 종합 분석, 범죄 속에서 발견되는 일정한 규칙을 도출해낸다.

경찰 본부 관리실에는 컴퓨터 알고리즘을 통해 디지털 화면 위로 다음에 범죄가 발생할 가능성이 높은 지역을 표시하는 시스템이 설치돼있다. 화면 위에 떠 오른 지역에 경찰 인원을 집중 배치하고 주변을 순찰, 범죄를 예방한다.

◇가짜를 걸러내는 인공지능

범죄 예방 AI는 현실 세계뿐만 아니라 사이버 세계에서도 맹활약하고 있다. 합성 사진과 의도적으로 조작된 통계 수치를 무기 삼아 대중에게 뿌려지는 가짜뉴스는 정치·경제적으로 심각한 문제를 일으킬 수 있다. 단순한 가십과 루머로 끝나는 때도 있지만 악의를 가지고 대중을 호도하는 가짜뉴스는 사회에 큰 영향을 미치기 때문이다.

가짜뉴스는 소셜네트워크서비스(SNS)를 통해 급속도로 퍼져나간다. 페이스북, 트위터와 같은 SNS는 원래부터 사람과 사람 사이 원활한 커뮤니케이션을 돕기 위해 개발된 서비스인 만큼 가짜뉴스가 퍼져나가기 위한 최적 환경이다.

페이스북 운영진은 가짜뉴스가 타임 라인을 가득 메우는 상황을 피하고자 범죄 예방 AI를 활용하기로 했다. 그들은 빅데이터 학습을 마친 AI로 사진은 물론 영상에 편집이 가해졌는지 점검하는 시스템을 개발했다. 이 시스템은 세계에 퍼져 있는 27개 파트너 도움을 받아 사진 속 이미지 원본에 해당하는 사진을 찾고 그 둘을 비교하여 악의적 편집이 이뤄졌는지 확인한다.

Photo Image
페이스북은 넘쳐나는 가짜 정보에 대처하기 위해 가짜 이미지와 동영상을 식별하는 인공지능을 만들었다. (출처: shutterstock)

예를 들어 원래 사진 속 특정 인물 좌우를 반전시킨 이미지가 발견된다면 이 사진은 높은 확률로 합성된 사진일 것이다. 이 방식은 엄청나게 많은 사진을 일일이 확인해야 하므로 인간은 도저히 할 수 없는 작업이었지만 AI 발전은 이 모든 것을 가능하게 만들었다.

◇보이스피싱 목소리 걸러내는 시스템 상용화

한국도 예외는 아니다. 보이스피싱 범죄 예방을 위해 삼성전자와 국립과학수사연구원, 금융감독원이 손을 잡았다. 금감원은 2016년부터 보이스피싱 사기범 실제 목소리 7000여건을 국과수에 제공해왔다. 국과수는 AI를 활용해 사람마다 다른 음성정보 특징을 비교하여 사기범 목소리 데이터베이스를 총 1422개 축적했다.

금감원은 사기꾼 목소리 1422개를 홈페이지에 공개했지만 일반인이 일일이 직접 확인해 활용하는 번거로움이 있어 활용도가 크게 떨어진다는 지적을 받았다. 문제를 해결하기 위해 삼성전자가 힘을 보탰다. 삼성은 1422개 목소리 중 일치하거나 일치하지 않더라도 보이스 피싱에서 전형적으로 사용하는 언어 패턴이 이어지면 문자나 진동을 통해 경고하는 AI 앱 개발에 착수했다. 앱 개발이 순조롭게 마무리된다면 보이스피싱 예방에 큰 도움이 될 것으로 예상한다.

Photo Image
페이스북은 넘쳐나는 가짜 정보에 대처하기 위해 가짜 이미지와 동영상을 식별하는 인공지능을 만들었다. (출처: shutterstock)

범죄예방 AI는 그 강력한 효과만큼이나 프라이버시 침해와 같은 심각한 인권, 윤리 문제를 일으킬 수 있다. 앞서 언급했듯 범죄예방 AI는 범죄 패턴 학습을 위한 많은 데이터가 필요하다. 이를 위해 지금보다 더 많은 무인 카메라가 거리에 설치될 것이며 SNS 정보는 공공재 취급을 받게 될 것이다. 평범한 개인 프라이버시가 범죄 예방이라는 핑계로 안전장치 없이 발가벗겨지는 일이 벌어져서는 안 된다.

AI를 이용한 범죄 예측, 방지는 미래에 더 안전한 사회를 실현하기 위해 꼭 필요한 시스템이자 동시에 그 운용 방식에 따라 우리 사회 인간성을 해칠 수 있는 '양날의 검'이다. 실용화를 향해서 신중하고 깊이 있는 사회적 논의가 필요하다.

글:이형석 과학칼럼니스트