文件名称：社会技术系统中的公平和抽象-研究论文
文件大小：471KB
文件格式：PDF
更新时间：2024-06-29 05:08:13
Fairness-Aware Machine Learning
fair-ML 社区的一个关键目标是开发基于机器学习的系统，一旦将其引入社会环境，就可以实现社会和法律成果，例如公平、正义和正当程序。 计算机科学中的基本概念——例如抽象和模块化设计——用于定义公平和歧视的概念，产生公平意识的学习算法，并在决策管道的不同阶段进行干预以产生“公平”的结果。 然而，在本文中，我们认为，当这些概念进入围绕决策系统的社会环境时，这些概念会使技术干预变得无效、不准确，有时甚至是危险的误导。 我们用五个“陷阱”概述了这种不匹配，即使与传统数据科学相比，公平 ML 工作也试图提高上下文感知能力。 我们利用科技研究中对社会技术系统的研究来解释为什么会出现这种陷阱以及如何避免它们。 最后，我们建议技术设计师可以通过重新关注过程而不是解决方案的设计来减轻陷阱，并通过绘制抽象边界以包括社会参与者而不是纯粹的技术参与者。