文件名称：简单造成不平等：对公平、刻板印象和可解释性的影响-研究论文
文件大小：663KB
文件格式：PDF
更新时间：2024-06-30 00:22:24
论文研究
算法越来越多地用于帮助或在某些情况下取代人类决策，特别是对于依赖于预测的决策。 因此，除了预测质量之外，还有两个额外的特征引起了人们的兴趣：（i）为了促进人类与这些算法的交互和理解，我们希望预测函数在某种方式上简单或可解释； (ii) 因为它们会影响相应的决定，我们也希望它们产生公平的分配。 我们开发了一个正式的模型来探索简单性和公平性需求之间的关系。 尽管这两个概念似乎是由性质不同的目标驱动的，但我们表明它们之间存在根本的不一致。 具体来说，我们形式化了一个生成简单预测函数的通用框架，在这个框架中，我们建立了两个基本结果。 首先，每个简单的预测函数都是严格可改进的：存在一个更复杂的预测函数，它不仅更有效，而且更公平。 换句话说，使用简单的预测函数既降低了弱势群体的效用，又降低了相对于其他选项的整体福利。 其次，我们表明，简单的预测函数必然会激发使用有关个人在弱势群体中的成员身份的信息——在简化之前不存在的激励，并且对这些人不利。 因此，简单将劣势转化为对弱势群体的偏见。 我们的结果不仅与算法有关，而且与生成简单模型的任何过程有关，因此它们与刻板印象心理学和早期关于统计歧视的经济学文献有关。