영국 경찰, AI로 용의자 구속여부 판단한다

[아시아경제 김동표 기자]인공지능(AI)가 범죄 용의자의 구속 여부를 결정한다.

10일(현지시간) IT전문매체 더버지는 "더럼(Durham)시의 영국 경찰이 AI시스템을 도입한다. 용의자의 구속이 필요한지 아닌지를 결정해주는AI이다"고 영국 BBC방송을 인용해 보도했다.

영국 더럼시 경찰은 AI를 활용해 범죄 용의자의 구속여부를 결정하는 시스템을 도입한다고 밝혔다.

이는 '하트(Hart)'라고 불리는 시스템으로, 일종의 위험평가도구(Harm Assessment Risk Tool )다. 개인의 향후 범죄가능성을 '낮음', '중간', '높음'으로 분류한다. 현지 경찰은 몇 달 안으로 이 시스템을 실전배치해 그 성능을 테스트할 예정이다.

하트는 구속여부 외에도 다양한 결정을 내릴 수 있다. 용의자의 적정한 구금 기간은 얼마인지, 장기구금이 필요한 인물인지, 적정한 보석금은 얼마인지 등을 설정할 수도 있다.

BBC에 따르면, 하트는 던햄 경찰이 2008년부터 2013년 사이에 수집한 범죄 기록 등의 데이터를 기반으로 현재 범죄의 심각성 및 용의자 위험성을 분석한다. 2013년 초기테스트에서, 하트는 저위험 용의자에 관한 예측 정확도는 98%였고, 고위험 용의자의 경우는 88%였다.

하트는, 전세계적으로 법집행기구와 법원, 수형제도 등 많은 분야에서 활용되는 알고리즘·예측 소프트웨어 도구 중 하나다. 경찰 부서의 업무효율성을 높일 수 있는 시스템이지만, 데이터 오류로 인해 인권침해 등 돌이킬 수 없는 결과를 초래할 수 있다는 우려도 있다.

지난해 프로퍼블릭카가 발간 조사보고서에 따르면, 하트와 같은 위험평가도구에는 심각한 결함이 있는 것으로 밝혀졌다.

흑인 피고인을 미래 범죄자로 표시할 가능성이 높고, 백인 피고인은 저위험·단독 범죄자 등으로 평가하는 경향이 있다. 즉 AI가 인종주의적인 판단을 할 여지가 있다는 것이다. 페이스북과 구글 등 다른 IT업체들의 알고리즘도 이와 유사한 문제에 부닥친 바 있다.

이런 우려를 의식해 더럼 경찰도 "테스트 기간동안 하트의 결정은 오직 '조언자'의 역할에 그칠 것이다"고 밝혔다. 이어 "다른 수천가지의 사례들도 함께 살펴보면서 최종 결론에 도달하게 될 것이다"고 말했다. 또 하트가 최종 결론에 이르게 되기까지의 판단 과정을 추적하는 감사 시스템도 구축된다.