文件名称：算法影响评估和问责制：影响的共建-研究论文
文件大小：600KB
文件格式：PDF
更新时间：2024-06-29 09:05:13
algorithmic impact assessment
算法影响评估 (AIA) 是构建和部署自动化决策支持系统的实体的一种新兴问责形式。 这些是在其他领域的影响评估之后建模的。 我们对影响评估历史的研究表明，“影响”是一种评估结构，它使机构能够识别和减轻因政策决定或系统而遭受的危害。 每个领域对什么构成影响和危害、如何将潜在危害呈现为特定事业的影响、谁负责进行该评估以及谁有权对影响评估采取行动以要求改变那个承诺。 通过检查与其他领域相关的 AIA 提案，我们发现将算法影响构建为组织上可理解的指标存在明显的风险，尽管这些指标与人们所经历的伤害相距甚远，并且无法建立有效的关系。问责制。 为了应对算法问责制的这一挑战，并且随着影响评估成为评估危害的常见过程，FAccT 社区应该 A) 将影响理解为为评估目的构建的对象，B) 尝试构建尽可能接近实际危害的影响，以及C) 认识到问责治理需要各种类型的专业知识和受影响社区的投入。 我们总结了为共同构建影响和建立强大的问责关系收集跨专业共识的经验教训。