文件名称：输入谬误-研究论文
文件大小：1.53MB
文件格式：PDF
更新时间：2024-06-29 08:52:45
Fair Lending FHA
算法信用定价可能会歧视受保护群体。 传统上，公平借贷法通过审查投入来解决此类威胁。 但是输入审查已成为算法世界中的谬论。我使用丰富的抵押贷款数据集模拟算法信用定价，并证明输入审查未能解决歧视问题，并有可能造成色盲的算法神话。 大数据中普遍存在的相关性与机器学习的灵活性和复杂性相结合，意味着人们不能排除对受保护特征（例如种族）的考虑，即使正式排除它们也是如此。 此外，使用包含受保护特征的输入实际上可以减少不同的结果。 然而，算法时代歧视法的主要方法继续犯下输入谬误。 这些方法表明我们排除了受保护的特征及其代理，并将算法限制为预先批准的输入。 通过我的模拟练习，我用新的分析反驳了这些方法。 我证明了它们以自己的方式失败，不可行，并且忽略了准确预测的好处。 这些失败对边缘化群体和个人尤其有害，因为它们有可能使他们历史上被排除在信贷之外，从而从中心途径走向更大的繁荣和平等。我认为公平贷款法必须转向以结果为中心的分析。 当不再可能仔细检查输入时，结果分析提供了评估定价方法是否导致不允许的差异的唯一方法。 这不仅适用于始终关注结果的不同影响的法律原则，而且适用于历来避免审查不同结果的不同待遇原则。 现在，不同的治疗也不能再依赖于输入审查，必须从结果的角度来考虑。 我提出了一个新框架，消费者金融保护局等监管机构可以采用该框架来衡量差异和打击歧视。 该提案为公平借贷中的反歧视法绘制了一条经验路线，并为其他算法环境（例如刑事司法和就业）带来了希望。