文件名称：用算法衡量种族歧视-研究论文
文件大小：909KB
文件格式：PDF
更新时间：2024-06-29 22:28:55
论文研究
人们越来越担心算法决策的兴起可能导致对受法律保护的群体的歧视，但衡量这种算法歧视往往受到基本选择挑战的阻碍。 我们开发了新的准实验工具来克服这一挑战，并衡量审前保释决定中的算法歧视。 我们首先表明选择挑战减少到测量四个时刻的挑战：白人和黑人个体的平均潜在资格以及资格和算法治疗建议之间的种族特定协方差。 然后，我们展示了如何通过外推随机分配的决策者的准实验变化来估计这四个时刻。 来自纽约市的估计表明，即使被告种族和民族未包含在训练数据中，复杂的机器学习算法也会歧视黑人被告。 该算法建议在审判前释放白人被告的比率比具有相同的审前不当行为可能性的黑人被告高 8 个百分点（11%），这种无根据的差异解释了算法建议中观察到的种族差异的 77%。 我们使用受广泛使用的审前风险评估工具启发的模型，发现基于回归的建议具有相似的算法歧视水平。