휴먼 라이츠 워치 : 중국, 소수 그룹을 대상으로 빅 데이터 활용

휴먼 라이츠 워치 (Human Rights Watch) 보고서에 따르면 중국 정부는 신강 지방의 소수 민족을 겨냥한 예언 적 정책 알고리즘을 사용하고 있다고 밝혔다.

중국 북서부의 지방에는 최근 몇 년 동안 중국 정부에 의해 차별 된 터키 이슬람 민족 인 1100 만명의 위구르 인들이있다.

현재 당국은 정치적 불신으로 의심되는 사람들을 체계적으로 타겟팅하기 위해 큰 데이터를 사용하고있는 것으로 알려졌다. 푸틴 대통령은 중국에서 잠재적 인 테러 활동을 근절하기위한 "Strike Hard"캠페인의 일환이다. 실제로 이것은 위구르족에 대한 과도한 치안 유지로 이어졌다.

IJOP - 통합 공동 운영 플랫폼 (IJOP - Integrated Joint Operations Platform)으로 알려진 예측 폴리싱 시스템에는 다양한 감시 툴의 데이터가 제공됩니다. 여기에는 CCTV 카메라, 보안 검색 대에서 얻은 번호판 및 시민 번호 카드 번호, 건강, 은행 및 법적 기록을 포함한 개인 정보가 포함됩니다.

정부 관료는 자동화 된 감시 외에도 인구 조사 데이터를 수집하기 위해 재택 방문을 실시합니다. 중국 사업가는 휴먼 라이츠 워치 (Human Rights Watch)와의 인터뷰에서 IJOP의 기록을 작성한 양식을 발표했다. 설문 조사에는 사업가가 위구르어 였는지, 그가 얼마나 자주기도하는지, 그리고 종교 서비스를 위해 어디로 갈지에 대한 질문이 담겨있다.

이러한 모든 데이터 입력은 사람들을 잠재적 인 위협으로 표시하기 위해 IJOP에서 사용합니다. 누군가 신고 된 경우 경찰은 추가 조사를 실시하고 의심스러운 것으로 간주되면 구금 할 것입니다.

휴먼 라이츠 워치의 중국 연구원 마야 왕 (Maya Wang)은 "중국 정부의 대용량 데이터 및 예측 정책 사용은 사생활 침해뿐만 아니라 관료로 하여금 자의적으로 사람들을 억류 할 수 있음을 보여줄 수있다"고 말했다.

이 보고서에 따르면, 일부 사람들은 정치 교육 센터로 이송되어 재판없이 무한정 억류 된 것으로 나타났습니다.

휴먼 라이츠 워치는 2016 년 4 월경 신강 당국이 수만명의 위구르족과 다른 소수 민족을 정치 교육 센터에 보냈다고 전했다. IJOP은 차별적 체포에 객관적이고 알고리즘 분석의 베니어를 적용함으로써 이러한 혐의에 대한 신뢰를 빌려주고 있습니다.

설상가상으로 IJOP의 내부 동작은 기밀로 덮여 있습니다.

"신강의 사람들은 대부분이 '블랙 박스'프로그램이나 그것이 어떻게 작동하는지조차 알지 못하기 때문에 점점 더 침해적인 일상 생활의 감시에 저항하거나 도전 할 수 없습니다.

가장 복잡한 기계 학습 시스템을 괴롭히는 것과 같은 문제입니다. 알고리즘을 사용하는 의사 결정 절차는 알고리즘 작성자 에게조차 불투명합니다.

중국의 IJOP 사용은 기술이 향상됨에 따라 예측 형 치안이 확산 될 가능성이 있으므로주의해야합니다. Jon Christian이 지적한 것처럼 개요, 예측 폴리싱 시스템은 이미 미국의 일부 지역에서 사용되고 있습니다. Los Angeles Police Deparment는 범죄가 발생할 가능성이있는 장소와시기를 예상하는 소프트웨어를 사용하므로 경찰관이이를 피할 수 있습니다.

형사 사법 제도의 다른 측면에서 법원은 판사가 정보에 입각 한 결정을 내리는 데 도움이되는 가석방 위험 평가 점수를 제공하는 알고리즘을 사용하기도합니다. 불행히도 이러한 편향없는 알고리즘은 실제로 인종에 따라 차별을 둡니다.

중국의 예측 형 치안 정책은 기계 학습이 공공 부문에 계속 진입하면서 책임있는 알고리즘 구현의 중요성을 강조합니다. 기술에 정통한 정부가 새로운 만트라를 채택 할 때가 왔습니다. 때로는 인공 지능이 해결할 문제보다 많은 문제를 야기하기도합니다.