文件名称：偏置输入，偏置输出-研究论文
文件大小：1.13MB
文件格式：PDF
更新时间：2024-06-29 05:53:44
criminal justice algorithms
警察、检察官、法官和其他刑事司法人员越来越多地使用算法风险评估来估计一个人未来犯罪的可能性。 正如许多学者所指出的那样，这些算法往往会产生不同的种族影响。 作为回应，批评者主张三种抵制策略：（1）排除与种族密切相关的输入因素，（2）调整算法设计以平衡跨种族的预测，以及（3）完全拒绝算法方法。 本文的核心主张是，这些策略充其量是肤浅的，最坏的情况是适得其反，因为风险评估中种族不平等的根源既不在于输入数据，也不在于特定算法，也不在于算法方法。 深层问题是预测本身的性质。 所有预测都着眼于过去，以对未来事件进行猜测。 在种族分层的世界中，任何预测方法都会将过去的不平等投射到未来。 长期以来普遍存在于刑事司法中的主观预测以及现在取代它的算法工具都是如此。 算法风险评估所做的是揭示所有预测中固有的不平等，迫使我们面临比新技术挑战更大的问题。 算法为一个老问题提供了新的思路。文章认为，最终，纠正预测中的种族差异将需要刑事司法系统对风险的构想和应对方式进行更根本的改变。 文章认为，刑法和政策首先应该更清楚地描述重要的风险，其次，承认某些类型的风险可能超出我们在没有种族扭曲的情况下衡量的能力——在这种情况下，它们不能成为国家强制的正当理由。 另一方面，在我们能够可靠地评估风险的范围内，犯罪系统参与者应尽可能通过支持而不是克制来应对风险。 与直觉相反，算法风险评估可能是针对支持风险的系统中的宝贵工具。