일반적인 컴퓨터 프로그램, 재범을 인간만큼 가난하다고 예측

전문 요리사 또는 심장 전문의와 마찬가지로 기계 학습 알고리즘은받는 교육만큼이나 우수합니다. 알고리즘이 점점 더 통치권을 장악하고 인간에 대한 결정을 내림에 따라, 우리는 많은 사람들이 인종 및 성별에 기반한 편향을 모방하고 새로운 문제를 창출하기 때문에 최고의 교육을받지 못했다는 사실을 발견했습니다.

이러한 이유로 캘리포니아, 뉴욕 및 위스컨신을 비롯한 여러 주에서 알고리즘을 사용하여 투옥 된 사람들이 다시 범죄를 저지를 것이라고 예측하는 것이 특히 중요합니다. 더 나쁜 것은, 심지어 작동하지 않는 것 같습니다.

수요일 발행 된 한 저널에 과학 진보 다트머스 대학 (Dartmouth College)의 한 컴퓨터 과학자는 재범을 예측하기 위해 널리 사용되는 컴퓨터 프로그램이 완전히 훈련받지 않은 민간인보다 정확하지 않다는 사실을 발견했다. 이 프로그램은 다른 제재를위한 교정 범죄자 관리 프로파일 링이라고 불리우며, 석방 후 또 다른 범죄를 저지를 가능성이 얼마나 큰지를 결정하기 위해 137 가지 요소를 분석합니다. COMPAS는 물질 사용, 사회적 고립 및 범죄 학자들이 이론화 한 다른 요소와 같은 요소를 재범으로 이끌어 사람들을 중, 저 위험으로 분류 할 수 있다고 생각합니다.

그리고 위험 평가는 훌륭하게 들립니다. 법원이 누가 더 큰 위험을 초래하는지 판단 할 수있는 더 많은 데이터가없는 이유는 무엇입니까? 그러나 다트머스 컴퓨터 과학자 Julia Dressel과 Hany Farid는 훈련받지 않은 개인이 COMPAS와 거의 동일한 정확성으로 재범 위험을 정확하게 판단하여 알고리즘의 예상 전력이 실제로는 존재하지 않는다고 제안했습니다.

COMPAS에 의해 사용 된 정보의 일부 (137 개가 아닌 7 개의 요인, 인종 제외)를 포함하는 한 재판에서 인터넷상의 인적 자원 봉사자 그룹은 범죄 위험 평가에 대한 훈련을하지 않았지만 사례 보고서를 평가했습니다. 그들은 정확하게 COMPAS의 65 %의 정확도와 비교하여 67 %의 정확성으로 재범 가능성을 정확하게 추정했습니다.

잠깐 시간을 내서 그 사람이 가라 앉도록하십시오. 웹에있는 비 숙련자는 사람이 감옥에 다시 돌아갈 지 아닌지 예측하는 데 약간 나아졌습니다. 사람이 감옥에 다시 돌아갈지를 예측할 수 있도록 설계된 도구보다. 그리고 그것은 더 나 빠지게됩니다. 피고의 인종을 추가하면 자원 봉사자의 위양성 및 위음성 비율은 COMPAS의 몇 % 포인트 안에 불과합니다. COMPAS는 재범을 예측하는 데 그다지 좋을뿐만 아니라 인간과 마찬가지로 인종 차별에 취약합니다. 컴퓨터의 차가운 논리에 너무나 많은 것.

연구자들은 COMPAS의 예측 속도와 나이와 이전 유죄 판결의 수와 일치하는 선형 모델을 만들었습니다. 이 예측은 또한 불공평 할 것이지만 COMPAS가 결함이있는 것만을 보여줍니다.

이 연구가 새롭지 만, 그것이 열렬한지지를 얻지는 않습니다. 2016 년 조사에서, 프로 페리 카 기자들은 COMPAS가 신뢰할 수 없다는 것뿐만 아니라 실제로 흑인들을 아프리카 계 미국인에 대해 체계적으로 편향되어보다 심각한 범죄를 범한 백인보다 더 위험하다고 평가했다. 다행히도,이 새로운 연구는 형사 사법 시스템에서의 위험 평가 프로세스를 향상시키는 데 도움이 될 것입니다.

COMPAS가 최고로 쓸모없고 최악의 상황에 깊이 편향되어 있다는 사실은 컴퓨터 기반의 위험 평가가 사법 체계가 다루어야 할 불의를 심화시킬 수 있음을 암시합니다.위험 평가 점수는 사람의 채권을 수립하고 가석방 허가를 받았는지 여부, 일부 주에서는 사람의 형을 결정하는 경우까지 포함하여 형사 사법 절차의 모든 단계에서 적용될 수 있으므로이 연구는 COMPAS 및 기타 프로그램의 사용을 재검토하십시오.