根据人权观察周一公布的一份报告，中国政府正在使用预测性警务算法来针对新疆省的少数民族。
中国西北部的省份是1100万维吾尔人的家园，这是一个土耳其穆斯林族群，近年来受到中国政府的歧视。
据报道，当局正在利用大数据系统地针对任何涉嫌政治不忠的人。此举是“严打”运动的一部分，旨在遏制中国潜在的恐怖活动。人权观察表示，在实践中，这导致对维吾尔人的监管不成比例。
预测性警务系统，称为IJOP - 综合联合作战平台 - 从各种不同的监视工具中提供数据。这些包括闭路电视摄像机，车牌和从安全检查站获得的公民身份证号码，以及大量个人信息，包括健康，银行和法律记录。
除自动监测外，政府官员还进行家访，以收集人口数据。一名中国商人分享了一份表格，他填写了IJOP与人权观察的记录 - 除其他外，调查问卷询问该商人是否是维吾尔人，他多久祷告一次，以及他去哪里寻求宗教服务。
IJOP使用所有这些数据输入将人们标记为潜在威胁。当某人被举报时，如果被认为可疑，警方会进一步调查并将其拘留。
人权观察高级中国研究员Maya Wang说：“这是我们第一次能够证明中国政府对大数据和预测性警察的使用不仅公然侵犯了隐私权，而且还使官员可以任意拘留人员。”
根据该报告，一些被标记的人被运往政治教育中心，在那里他们被无限期拘留而未经审判。
“自2016年4月左右，人权观察估计，新疆当局已将数万名维吾尔族和其他少数民族派往'政治教育中心'，”报告说。 IJOP通过对歧视性逮捕采用客观，算法分析的贴面来提高这些拘留的可信度。
更糟糕的是，IJOP的内部运作被秘密所笼罩。
“新疆人民无法抗拒或挑战日益严重的日常生活审查，因为大多数人甚至不知道这个'黑匣子'计划或它是如何运作的，”王说。
困扰最复杂的机器学习系统也是同样的问题：即使是算法的创建者，他们采用的决策程序也是不透明的。
中国对IJOP的使用值得关注，因为随着技术的进步，预测性治安可能会激增。正如Jon Christian指出的那样 大纲 预测性警务系统已经在美国的一些地方使用。洛杉矶警察局使用软件预测犯罪可能发生的地点和时间，以便警察可以将其驱逐出境。
在刑事司法系统的另一方面，法庭有时会使用算法，为潜在的假释者提供“风险评估”分数，以帮助法官做出更明智的决策。不幸的是，这些所谓的无偏见算法实际上基于种族进行区分。
随着机器学习继续进入公共部门，中国进军预测性警务突显了负责任算法实施的重要性。也许现在是时候让技术娴熟的政府采用新的口头禅了：有时人工智能会产生比解决更多的问题。