文件名称：负责任的算法-研究论文
文件大小：1.23MB
文件格式：PDF
更新时间：2024-06-08 23:46:50
algorithms governance accountability internet cyber
人们过去做出的许多重要决定现在都是由计算机做出的。 算法计算票数，批准贷款和信用卡申请，针对公民或社区进行警察审查，选择纳税人进行IRS审计以及授予或拒绝移民签证。 管理此类决策过程的问责机制和法律标准与技术并驾齐驱。 当前可供决策者，立法者和法院使用的工具是为了监督人的决策者而开发的，通常在应用于计算机时会失败：例如，您如何判断某个软件的意图？ 需要采用其他方法来使自动化决策系统（可能具有不正确，不合理或不公平的结果）负责并受到监管。 本文揭示了一种新技术工具包，用于验证自动化决策是否符合法律公平性的关键标准。 我们挑战法律文献中的主导地位，即透明度将解决这些问题。 源代码的公开通常既不需要（由于计算机科学的替代技术），也没有必要（由于代码的复杂性）来证明过程的公平性。 此外，透明度可能是不希望有的，例如当它允许税务欺诈或*玩弄确定审计或安全检查的系统时。 中心问题是如何在使这些程序更加负责任的情况下确保公民以及整个社会的利益。 本文认为，技术正在创造新的机会（比总透明度更微妙，更灵活）来设计决策算法，使它们更好地与法律和政策目标保持一致。 这样做不仅可以改善当前算法的治理，而且在某些情况下还可以改善总体上决策的治理。 人类决策者的隐性（或显性）偏见可能很难找到并消除，但我们可以窥探算法的“大脑”：可以在使用之前声明计算过程和目的规格，然后进行验证。 本文介绍的技术工具得到了广泛的应用。 它们可用于设计私营部门和公共部门的决策过程，并可进行定制以验证决策者，监管者或公众所期望的不同特征。 通过对决策规则的影响进行更仔细的考虑，他们还引发了政策讨论并更仔细地研究了法律标准。 因此，这些工具在整个法律和社会中都具有深远的意义。 本文的第一部分提供了对基础计算机科学概念的可访问且简洁的介绍，这些概念可用于验证和证明对自动决策的法律公平性的关键标准的遵守情况，而无需揭示决策或决策达成的过程的关键属性。 。 然后，第二部分描述了这些技术如何确保使用程序规则性的关键治理属性做出决策，这意味着决策是根据在每种情况下都一致应用的一组已宣布规则制定的。 我们将演示如何使用这种方法来重新设计和解决国务院多元化签证彩票的问题。 在第三部分中，我们将进一步探讨其他计算技术如何确保自动决策保留对实质性法律和政策选择的忠诚度。 我们展示了如何使用这些工具来确保避免某些不公正的歧视，以及自动决策过程的行为方式与管理决策的社会或法律标准相符。 我们还展示了算法决策如何使现有的不同待遇和不同影响的学说复杂化，并且我们讨论了一些有关检测和消除算法中歧视的最新计算机科学工作，尤其是在大数据和机器学习的情况下。 最后，在第四部分中，我们提出了一个议程，以期进一步促进计算机科学，法律与政策之间的协同合作，以推进用于问责制的自动决策流程的设计。