可审查的自动化决策-研究论文

【文件属性】：
文件名称：可审查的自动化决策-研究论文
文件大小：212KB
文件格式：PDF
更新时间：2021-06-10 00:52:04
automated decision-making; accountable systems; 在本文中，我们引入了“审查能力”的概念，作为改进涉及机器学习系统的自动化决策的问责制的替代方法。 在此过程中，我们将自动化决策理解为一种社会技术过程，涉及人类（组织）和技术组件，从做出决策之前开始，并延伸到决策本身之外。 尽管对自动化决策的解释在某些情况下可能有用，但它们更狭隘地关注模型，因此不提供有关整个流程的信息，而这对于问责制、监管监督和法律合规性评估的许多方面而言都是必要的。 借鉴先前关于将行政法和司法审查机制应用于公共部门自动化决策的工作，我们认为将自动化决策过程分解为其技术和组织组件使我们能够考虑如何适当地保留记录在该过程的每个阶段实施的记录机制将允许对整个过程进行审查。 尽管需要进行大量研究来探索如何实施，但我们认为，与更狭隘地关注解释的方法相比，审查能力框架可能为自动化决策提供更有用和更全面的问责制形式。