샌프란시스코에서 시험 전 보석 확보를위한 알고리즘 테스트

형사 사법 시스템은 알고리즘 변화의 한가운데 있습니다. 애리조나 주, 켄터키 주, 뉴저지 주 및 샌프란시스코와 시카고와 같은 도시를 포함하여 30 개 관할 구역이 전국 범죄 기록 데이터를 기반으로 보석금을 책정하는 알고리즘을 테스트하고 있습니다. 모든 심사 위원이 반드시 디지털 권장 사항을 마음에 받아 들일 준비가되어있는 것은 아닙니다.

이 알고리즘은 Houston 기반의 Laura와 John Arnold Foundation에 의해 작성되었으며 Public Safety Assessment 또는 PSA라고합니다. 이 알고리즘의 목표는 150 만 건의 재판에서 나온 데이터를 사용하여 보석금을 없애는 것입니다. 그러나 과거에는 알고리즘이 사람들을 똑같이 편향 시켰습니다.

재단 웹 사이트별로 9 가지 요소가 알고리즘에 포함됩니다.

• 현재의 범죄가 폭력적인가
• 체포 당시 보류중인 요금이 있는지 여부

• 그 사람이 이전 경범죄 유죄 판결을 받았는지 여부
• 그 사람이 이전에 중범 죄를 범했는지 여부
• 그 사람이 폭력 범죄에 대한 사전 유죄 판결을 받았는지 여부
• 체포 당시의 나이
• 지난 2 년 동안 예심 청문회에 출두하지 않은 사람
• 그 사람이 2 년 전 예심 청문회에 출두하지 않았던 지 여부
• 그 사람이 이전에 감옥에 선고되었는지 여부.

이 알고리즘은 인종, 성별, 소득, 교육, 고용 또는 이웃을 고려하지 않습니다. 이것은 기초에 따라 PSA를 중립으로 만듭니다.

여전히 샌프란시스코의 심사 위원은 권장 사항을 일관되게 따르지 않고 있습니다. 샌프란시스코 크로니클 보고서.

샌프란시스코는 도시가 부유 한 것보다 가난한 사람들을 상처 입히는 보석금을 요구 한 국가 민권 단체에 의해 고소당한 후 알고리즘을 사용하도록 움직였다. 사소한 범죄를 저질렀던 부유 한 사람들이 감옥에서 탈출하고 있으며, 과도한 보석금을 낼 수없는 가난한 사람들은 재판이 예정 될 때까지 홀딩 셀에 남아있었습니다.

공익 광고 (PSA)는 즉각적인 범죄가 아닌 데이터를 조사하여 경기장을 평준화하기로되어있었습니다. 이 알고리즘은 과거 데이터를 사용하여 다른 범죄를 저 지르거나 보석금을 부과하면 재판을 피할 가능성이 얼마나 큰지 판단합니다. 소수 민족 보고서 스타일. 우도가 높으면 보석금은 더 높게 설정되고 그 반대도 마찬가지입니다.

노스 포인트 (Northpointe)가 만든 비슷한 알고리즘을 사용하여 죄수의 석방 날짜를 안내했습니다. 프로 페리 카 Northpointe의 알고리즘에 의해 주어진 "위험 평가"점수는 흑인이 출소 한 후에 백인보다 다른 범죄를 저지를 가능성이 더 높다는 것을 과도하게 예측했다는 사실을 발견 한 5 월 조사 결과를 발표했다. Northpointe의 예측 중 20 % 만 정확했습니다.

반면에 고급 매핑 기술과 큰 데이터는 법 집행 기관이 범죄 핫스팟을 확인하고 경찰에 도움을주고 있습니다.

재단의 알고리즘은 인구 통계 지표를 제거함으로써 비슷한 편향을 피하는 것을 목표로합니다. 그러나 실제로 작동하는지 여부는 판사가 선례와 직감을 통해 알고리즘에 실제로 의존하기 시작할 때까지는 보이지 않습니다.