文件名称：为什么预测算法对公共部门机构如此危险-研究论文
文件大小：356KB
文件格式：PDF
更新时间：2024-06-08 19:25:59
Algorithms Predictive Analytics Data Analytics
本文针对*服务中预测分析的使用，综合了多学科的观点。 它摆脱了大肆宣传“ AI”或“数字”的叙述，以及“道德”概念的广泛使用，而侧重于强调公共管理中使用预测算法的可能风险。 当前在公共机构中有关于AI使用的指南，但是几乎没有证据表明这些指南已被遵循或被写入新的强制性法规中。 算法的使用不仅是它们是否公平和安全使用的问题，还在于它们是否遵守法律以及它们是否真正起作用。 特别是在公共服务中，在实施预测分析算法之前要考虑很多事情，因为在这种情况下使用不当会给公民（无论是个人还是集体）以及公共部门工作人员带来有害后果。 讨论了算法实现过程的所有阶段，从问题的规范和模型设计到其使用和结果的上下文。 证据来自儿童福利服务使用案例研究，美国司法系统和2020年英国公共考试等级。该论文认为，需要更全面地理解此类技术方法的风险和弊端，并在操作中进行测试设置，然后再实施。 该论文得出的结论是，尽管算法在某些情况下可能有用并有助于解决问题，但与预测现实生活有关的算法似乎仍需走很长的路要走，以确保安全和值得信赖。 由于“道德”位于时间，地点和社会规范中，因此作者建议，在公共行政范围内，有关*，法定行政职能和数据保护的法律（均在法治原则之内）应提供评估算法使用的基础，管理不当是主要问题，而不是违反“道德准则”。