文件名称：信任但验证：算法和法律指南-研究论文
文件大小：1.04MB
文件格式：PDF
更新时间：2024-06-29 06:13:13
algorithms governance
呼吁将算法透明度作为管理新的数据驱动决策技术的力量的一种方式，误解了相关流程和基础技术的性质。 部分问题在于算法这个术语很宽泛。 即使在数学和计算机科学中，它也包含不同的概念。 法律和政策方面的情况恶化。 法律是由线性的、几乎是牛顿的因果观驱动的，其中输入和定义的过程导致明确的输出。 在那个世界里，呼吁透明度有可能奏效。 实际情况大不相同。 真正的计算机系统使用无法公开的大量数据集。 用于决策的规则通常是从这些数据中推断出来的，并且不容易解释或理解。 在深层次和数学上可证明的层面上，某些事情，包括算法的确切行为，有时无法进行测试或分析。 从技术角度来看，当前将算法暴露在阳光下的尝试将无法提供批评者想要的结果，并且可能会在不可能清晰的情况下产生清晰的错觉。 在高层次上，最近对算法透明度的呼吁遵循了本文试图纠正的模式。 政策制定者和技术专家经常互相谈论技术的现实和政策的要求。 政策制定者可能会发现好的问题，但会提供误解技术的解决方案。 这种误解可能导致对技术人员几乎没有意义的监管呼吁。 技术人员通常将系统视为中性工具，只有在系统与现实世界交互时才对其使用进行管理。 双方都认为对方只是“不明白”，重要的问题几乎没有得到任何一方的关注。 通过阐述对算法使用的核心关注，提供关于算法本质的入门，以及关于计算机科学家处理其领域内在限制的方式的指南，本文表明存在连贯的管理方法算法和法律。