"피고인은 폭력적이고 재범 위험 커" AI의 실제 판결

美 판사, AI가 내린 결론 참고해
형사 피고인에 징역 6년형 선고
AI변호사 이어 AI판사 활약 신호탄

[아시아경제 김동표 기자]"피고인은 폭력적이고 재범 가능성이 큰 위험인물로…."

인공지능(AI)가 인간의 형량을 결정하는 시대가 왔다. AI는 법무영역에서 변호사로 이미 활동해왔지만 보조역할에 그쳤다. 그러다가 이제는 재판에도 적극 활용되기 시작한 것이다.

13일 정보통신기술진흥센터(IITP)에 따르면, 미국의 스타트업 '노스포인트사'가 만든 '컴퍼스(Compas)'는 알고리즘을 통해 "피고인은 폭력적이고 재범 가능성이 큰 위험인물"이라는 결론을 냈다. 담당 판사는 이를 인정해 징역 6년형을 선고했다.

AI의 알고리즘 자료를 근거로 형사 재판 피고인에 대해 중형을 선고한 지방법원의 판결이 '타당하다'고 인정된 것이다.

미국 법원이 '재판의 효율성과 일관성' 등을 위해 AI 기기를 재판에 암묵적으로 활용해왔지만, 실제 이를 합법화한 판결이 나온 것은 처음이다.

앤 월시 브래들리 주 대법원 대법관은 "알고리즘 한계와 그 비밀을 고려해야 하지만, SW가 양형 법원에 활용 가능한 정보를 제공하는 데 도움을 주는 것은 사실"이라고 평가했다.

비슷한 알고리즘을 가진 AI가 보석금을 설정하고 판결문을 다듬고, 심지어 유무죄 결정에까지 관여하는 등 미국 여러 주 사법 시스템에서 중요한 역할을 하고 있다.

그러나 AI 알고리즘이 잘못된 결론을 내릴 가능성에 대한 우려도 높다. 다만 양형 관련 AI 기기 제조회사는 '사업 기밀'을 이유로 알고리즘이 어떻게 만들어지는지 공개하지 않고 있다.

선고 일관성을 보장하기 위해 AI를 사용하는 것은 충분히 타당하지만, 특정 사기업 이익을 보호하기 위해 알고리즘 비밀을 계속 유지해야 하는지에 대해서는 의문이 제기되는 상황이다.

뉴욕타임즈는 "사기업 대신 정부가 자체 알고리즘을 개발하고 피고인의 변호인이 이를 평가할 수 있도록 하는 것도 하나의 방법"이라고 제안했다.

한편 영국에서는 AI가 범죄 용의자의 구속 여부를 결정하는 시스템이 도입된다. '하트(Hart)'라고 불리는 시스템으로, 일종의 위험평가도구(Harm Assessment Risk Tool )다. 개인의 향후 범죄가능성을 '낮음', '중간', '높음'으로 분류한다.

더럼(Durham)시 경찰은 몇 달 안으로 이 시스템을 실전 배치해 그 성능을 테스트할 예정이다. 하트는 구속여부 외에도 다양한 결정을 내릴 수 있다. 용의자의 적정한 구금 기간은 얼마인지, 장기구금이 필요한 인물인지, 적정한 보석금은 얼마인지 등을 설정할 수도 있다.

김동표 기자 letmein@asiae.co.kr