AI Now：预测性警务系统是种族主义者，因为腐败的警察会产生肮脏的数据

 
AI Now Institute的执行主任Andrea NillSánchez今天在欧洲议会LIBE委员会公开听证会上作证，内容为“刑法中的人工智能及其在警察和司法当局在刑事事务中的使用”。她的信息很简单：“预测性警务系统永远不会安全……要对建立在其上的刑事司法系统进行改革。”
桑切斯认为，预测性警务系统是建立在数十年警察不当行为的“脏数据”基础之上的，目前尚无可用技术解决此问题的方法。
她的证词是根据去年AI Now Institute进行的一项详细研究得出的，该研究详细说明了预测性警务系统是如何固有地产生偏见的。她告诉委员会：
在最近的一项研究中，AI Now Institute的同事检查了13个美国警察辖区，这些辖区从事非法，腐败或有偏见的行为，随后建立或获得了预测性警务系统。特别是，我的同事发现，在其中9个辖区中，系统的预测反映出数据中嵌入的偏差的风险很高。
在听证会上，桑切斯描述了预测性警务系统不过是一种使腐败自动化的方法：
放任不管，预测性警务的扩散有可能复制和扩大与困扰全球执法机构的歧视遗产相关的腐败，非法和不道德行为的模式。
去年，《人工智能现在》警告美国监管机构，预测性警务是个问题，对于国际受众来说，这一信息并没有太大改变。今天的桑切斯：
最终，预测性警务系统及其处理的数据是不公正世界的产物。尽管美国的刑事司法系统是针对黑人和布朗人的奴隶制和数百年来种族主义的遗迹，但歧视性的警务在全球范围内都是普遍存在的，包括在欧洲。
这些系统如此危险的原因?简而言之，长期以来的腐败警察作风造就了一系列不可靠的数据。例如，AI Now在研究芝加哥警察局(CPD)(该机构每两天平均解决一次不当行为诉讼)时，发现了警方腐败与有偏见的AI预测之间的管道。正如桑切斯解释的那样：
我们的研究人员得出的结论是，CPD的歧视性做法产生了城市预测性警务系统直接摄取的“肮脏数据”，从而造成该技术正在加强和放大根深蒂固的偏见和危害的高风险。通过依靠这种有偏见的警务，预测性警务有效地将被错误地制止并逮捕的无辜人民列入了战略主体名单，从而反映并(当采取行动时)使CPD的有害作法得以延续。
到目前为止，AI Now的警告已被很大程度上忽略。美国的一些司法管辖区已停止了预测性警务，英国和欧洲也开始m咕“暂停”某些地区的使用。然而，全球执法机构对预测性警务和面部识别的使用仍在继续增长。