연구 : 가난한 수용자의 재범 예측 뒤에 "흑인에 대한 편견"의 알고리즘

알고리즘은 사람들을 만드는 것처럼 편향되어 있습니다. 에 의한 수사 프로 페리 카 투옥 된 사람의 다른 범죄를 저지를 가능성을 예측하려고 시도하는 알고리즘의 제작자 Northpointe는 흑인이 외진 후 범죄를 저지를 확률이 백인보다 훨씬 높다고 예측합니다.

이 알고리즘은 수감자에게 "위험 평가"점수를 생성합니다. 교도소 석방 날짜를 안내하기 위해 전국에서 사용됩니다. 플로리다주의 Broward County에서 7,000 명 이상에 대한 데이터를 분석 한 결과, 인종 차별적 알고리즘의 현실은 분명합니다. 흑인 피고인은 백인 피고인보다 다른 범죄를 저지를 확률이 거의 두 배나 높았습니다.

분석은 성 및 범죄 배경과 같은 변수에 대해 통제되었습니다. 그럼에도 불구하고 흑인들은 미래에 폭력 범죄를 저지를 가능성이 77 %, 미래의 범죄를 저지를 것으로 예상되는 사람들이 45 %라고 예측되었습니다. 또한 미래의 폭력 범죄를 누가 저지를 것인지에 대한 Northpointe의 예측 중 20 퍼센트 만 정확하다는 것이 문제입니다.

Northpointe는 범죄를 저지르는 사람들의 잠재력을 판단하기 위해 137 개의 질문을 사용합니다. ProPublica가보고 한 바와 같이, 질문은 인종에 관해 철저히 묻지 않습니다. 그러나 일부 질문은 관련 될 수 있습니다.

예를 들어, "부모 중 한 명이 감옥에 갇혀 있었습니까?"그리고 "학교에있는 동안 얼마나 자주 싸웠습니까?" "배고픈 사람에게는 권리가 있습니다. 다른 요소에는 교육 수준과 사람의 직업 여부가 포함됩니다.

ProPublica는 Northpointe의 데이터를 설명 포스트에서 어떻게 액세스하고 분석했는지에 대한 정확한 방법을 상세히 설명했으며 Northpointe는 ProPublica에게 회사가 "분석 결과 또는 그에 기반한 주장이 동의하지 않는다는 내용의 편지를 보냈습니다 분석이 정확하거나 모형의 적용 결과를 정확하게 반영한다고 말했습니다.

ProPublica의 결과는 놀라 울 정도로 놀랍지는 않지만 관련이 있습니다. 위험 평가는 가석방을 파악하고 채권 금액을 결정하는 데 사용됩니다. 심지어 그들은 9 개 주에서 형을 선고 받았습니다.

기술은 모든 문제에 대한 최종 해결책이 아니며 특히 기술을 제작하는 사람들과 마찬가지로 결함이 있다고 생각하면됩니다.