文件名称：战略背景下的人工智能-研究论文
文件大小：144KB
文件格式：PDF
更新时间：2024-06-29 23:20:24
artificial intelligence technology
对人工智能的社会影响和风险及其对风险评估和治理的影响的研究往往分为两个集群，在时间范围和预期影响规模上分开。 自人工智能的早期发展以来，人们一直在强烈猜测可能出现比人类更强大的通用智能，例如高级通用智能 (AGI)、超级智能或人工智能奇点。 最近，随着具有重大影响的实际应用程序激增，注意力已转移到当前和立即预期的风险上，例如公平和偏见、隐私、自主和操纵、正当程序和其他问题。 然而，在这两者之间存在一个具有中期影响的区域——人工智能可能通过极大地重新配置能力、信息和行为来改变人类和社会，同时仍然（大部分）处于人类控制之下——受到的关注要少得多。 这些中期影响可能是最重要的，就潜在社会破坏的可能性和程度以及通过预期React影响这些的能力而言。 但与有可观察记录的直接影响相反； 以及终结点或奇点问题，这些问题可以基于规定的技术特征进行演绎推理，这些特征被假定在影响影响的任何社会或政治条件中占主导地位； 这一中程对评估和响应规划提出了严峻挑战，可用的有希望的工具或方法很少。 我们提出并开始开发一种评估这些中期影响的方法，重点关注其决策影响人工智能系统开发和应用的参与者； 他们的兴趣、能力和信息； 以及影响他们决策的战略互动。