[시시비비] 살인예측시스템과 '삼청교육대'의 기억

英 알고리즘 기반 범죄 예측 논란
정보 남용 및 소수·빈곤층 차별 우려
과거 국가폭력의 그림자 떠오르기도

영화 이야기인가, 가짜뉴스인가. 처음엔 눈을 의심했다. 범죄자를 예측하는 시스템이라니, 필립 K. 딕의 SF 소설 '마이너리티 리포트'가 현실이 된 것만 같다. 최근 영국 정부가 알고리즘을 활용해 살인을 저지를 가능성이 높은 사람을 식별하는 '살인 예측 시스템'을 개발 중이라는 소식이 전해졌다. 이 사실은 정부 감시를 주목적으로 하는 시민단체 '스테이트워치(Statewatch)'의 정보공개 청구를 통해 드러났다.

영국 매체 가디언에 따르면, 이 프로젝트는 리시 수낵 전 총리 재임 시절(2022~2024년) 기획됐다. 경찰 자료와 보호관찰 데이터를 바탕으로 잠재적 범죄자를 파악하려는 시도다. 현재 영국 형사 사법 제도에서 사용되는 '범죄자 리스크 평가 시스템 'OASys(Offender Assessment System)'의 업그레이드판이다. 프로젝트 초기에는 '살인 예측 프로젝트(Homicide Prediction Project)'로 불렸으나, 현재는 '위험 평가 개선을 위한 데이터 공유(sharing data to improve risk assessment)'로 명칭이 바뀌었다.

툴 개발을 위해 최대 50만 명분의 데이터가 사용된다. 이름, 생년월일, 성별, 인종 등 기본 정보는 물론, 정신 건강, 자해 이력, 가정폭력 등 민감한 개인정보까지 분석 대상이다. '스테이트워치'는 피해자, 목격자, 행방불명자 등 범죄 전력이 없는 사람들의 데이터까지 포함된다고 주장하지만, 정부는 최소 한 번의 유죄 판결을 받은 사람들의 데이터만 사용한다고 반박한다.

'스테이트워치'는 이 프로젝트가 소수 민족과 빈곤층에 대한 형사 사법상 구조적 차별을 강화할 수 있다고 비판한다. 그야말로 "디스토피아적"이라는 것이다. 그러나 영국 법무부는 "이 프로젝트는 연구 목적으로만 진행되며, 적절한 시기에 보고서를 발표할 예정"이라며 문제를 축소하려 한다.

알고리즘 기반 범죄 예측 시스템은 범죄 예방이라는 긍정적 목표를 내세우지만, 윤리적 문제와 기술적 한계가 명확하다. 우선 예측 정확성에 대한 의문이 제기된다. 알고리즘은 과거 데이터를 기반으로 패턴을 분석하지만, 이는 어디까지나 확률적 결과일 뿐이다. 잘못된 예측은 무고한 사람들에게 피해를 줄 수 있다. 또한 훈련 데이터에 편향성이 포함될 경우, 특정 집단이 불공정하게 높은 위험군으로 분류될 가능성도 크다. '무죄 추정의 원칙'과 기본적 인권에도 금이 간다.

한편으론 기시감도 든다. 1980년대 전두환 독재 정권 시절 '삼청교육대'를 기억하는가. 사회 정화를 명분으로 '범죄 가능성이 있는' 시민들을 체포해 강제노역과 군사훈련에 동원했던 국가폭력의 대표적 사례다. 삼청교육대는 깡패 소탕이라는 명분 아래 운영됐지만, 실제로는 법적 절차 없이 일반 시민들까지 포함해 약 6만 명을 체포했다. 그중 상당수가 무고한 사람들이었다.

살인 예측 시스템과 삼청교육대는 치안 강화를 명분으로 내세운다는 점에서 유사하다. 잠재적 위험인물을 식별하고 통제하기 위한 판단의 주체가 '지배권력에 충성하는 인간'에서 '알고리즘'으로 바뀌었을 뿐이다. 기술의 발전은 우리에게 새로운 가능성을 열어주지만, 동시에 과거의 폭력적 통제 방식이 더 정교하게 재현될 위험성도 내포하고 있다. 정부의 통제가 영국보다 더 심한 국가들에서 앞으로 이런 시도가 없을 것이라 단언할 수 있을까. 국민들의 끊임없는 감시와 논의가 필요한 때다.

박충훈 콘텐츠편집2팀장 parkjovi@asiae.co.kr