文件名称：算法风险评估的制度寿命-研究论文
文件大小：456KB
文件格式：PDF
更新时间：2024-06-29 12:00:12
Machine Learning Technology
随着全国各州越来越多地将风险评估算法作为刑事司法改革的工具，学者和公民社会行动者越来越多地警告说，这种技术转变会带来并发症。 迄今为止的研究倾向于关注算法工具内的公平性、问责制和透明度。 尽管关注这些工具是否公平或有偏见在规范上是必不可少的，但本文认为这种调查不能成为整个对话。 孤立地看待工具中的公平或偏见等问题，忽略了对开发和部署工具的机构和政治体系的重要全局考虑。 本文以加利福尼亚州 2017 年货币保释改革法案 (SB 10) 为例，分析了风险评估法规如何创建框架，在该框架内政策制定者和技术参与者在设计和实施特定工具时受到约束和授权。 具体而言，它侧重于一方面对公平性、准确性和无偏见的自上而下的全球理解，另一方面是一种针对当地考虑因素量身定制的工具之间的紧张关系。 它探讨了 SB 10 框架的三个潜在的技术和相关政策后果：代理、辛普森悖论和阈值。 它呼吁更加关注风险评估法规的设计及其全球和地方权威的分配。