文件名称：哺乳动物价值体系-研究论文
文件大小：225KB
文件格式：PDF
更新时间：2024-06-29 23:39:48
AI Safety Affective
描绘人类价值观是一个与科学、人文、政治哲学、艺术和许多其他人类努力深度交织的话题。 近年来，一些思想家认为，计算机科学、认知科学和相关学科的加速发展预示着智能机器的出现，满足并最终超越人类的认知能力，从而将人类价值的理解与未来纠缠在一起。技术发展。 当代研究成果表明，越来越复杂的人工智能系统变得普遍并负责管理现代世界的许多方面，从预先规划用户的旅行计划和物流，到全自动驾驶汽车，再到协助日常生活的家用机器人。 这些趋势的推断在假设的“智能爆炸”的背景下得到了最有力的描述，其中智能软件代理的能力将由于生物有机体无法使用的反馈回路的存在而Swift增加。 超级智能代理的可能性，或简单地广泛部署复杂的、自主的人工智能系统，突出了一个重要的理论问题：需要将代理的认知和理性能力与基本目标结构或价值体系分开，它限制和指导代理人的行动。 “价值对齐问题”是为与人类价值观兼容的自主代理指定目标结构。 在这篇简短的文章中，我们建议来自情感神经科学和相关学科的思想旨在表征哺乳动物类中的神经和行为普遍性，提供与描述人类价值观相关的重要概念基础。 我们认为，“哺乳动物价值系统”的概念指向了人工智能安全和人工智能伦理基础研究的潜在途径。