文件名称：衡量算法公平性-研究论文
文件大小：625KB
文件格式：PDF
更新时间：2024-06-29 06:04:45
discrimination algorithms
算法决策越来越普遍，也越来越有争议。 批评者担心算法工具不透明、不负责任或不公平。 评估这些工具的公平性尤其令人担忧，因为它要求我们就公平是什么以及它意味着什么达成一致。 不幸的是，我们没有。 技术文献现在充斥着多种衡量标准，每个衡量标准都声称要评估某个维度的公平性。 两种措施脱颖而出。 有人认为，算法公平性要求算法产生的分数对于受法律保护的群体（例如黑人和白人）的成员应该同样准确。 另一种说法是，算法公平性要求算法为每个相关组产生相同百分比的误报或漏报。 不幸的是，通常无法在这两个维度上实现平等。 这一事实导致了一个紧迫的问题。 我们应该优先考虑哪种类型的衡量标准以及为什么？本文对如何最好地衡量算法公平性的辩论做出了三项贡献：一种是概念性的，一种是规范性的，一种是法律性的。 相同的预测准确度可确保得分对每个相关组的意义相同。 因此，它与一个人应该相信一个得分个体有关。 由于公平问题通常与行动而非信念相关，因此这种衡量标准不适合作为衡量公平的标准。 这是本文的概念性贡献。 其次，本文认为假阳性与假阴性比率的均等是一个规范上重要的衡量标准。 虽然在这个维度上缺乏平等并不构成不公平，但这一衡量标准提供了怀疑不公平存在的重要理由。 这是本条的规范性贡献。 有趣的是，提高算法的整体准确性将减少这种不公平。 不幸的是，反歧视法禁止在所有情况下使用种族和其他受保护分类的普遍假设正在阻止设计算法的人使它们尽可能公平和准确。 这篇文章的第三个贡献是表明法律构成的障碍比许多人想象的要小。