文章出处：http://karpathy.github.io/2015/11/14/ai/ Andrej Karpathy博客
写一些短篇小说的想法在我脑海中已经有一段时间了。这篇文章是我第一次对一个故事进行半认真的尝试，还有什么更好的办法来解决这个问题，而不是AI上的一个故事，以及如果你推断我们当前的技术并做出（明智的）假设，扩大监督学习比任何其他更奇特的方法取得更多的进展。
一个缓慢的早晨
Merus沉入椅子里。他听到椅子软质材料里沉满的crack </s>声。如果有一件硬件，他的雇主不怕投入大量资金，那就是椅子。他闭着眼睛，脑海里一片茫然，只听到办公室背景的嗡嗡声，他意识到自己的胸膛撞在了他的胸膛上 - 这是楼梯上升，咖啡因和牛磺酸的早晨剂量慢慢吞噬他脑。当他发现自己的思绪重新回到莉莉亚身上时，几次强烈的跳动 - 她已经进来了吗？从他的电台突然发出的哔哔声使他分心 - 系统完成启动。最后深深的叹了一口气。一段时间。他最后一口咖啡。他睁开眼睛，揉了揉眼睛，伸手拿起硬件。“感谢上帝，这是星期五”，他喃喃地说。现在是时候了。
完全适合了，他开始滚动浏览一个看似无尽的选项列表。过滤，搜索，试图确定他的心情。他努力工作，随着时间的推移，成为公司最好的塑造者之一。此外，他还完成了一系列的整形认证，重复地重复了一些认证，直到他全面达到优秀成绩。他的个人资料上的评论同样出色：
“Merus太棒了。他很直觉地发现数据中的差距，并采用非常有效的课程和形式策略。当Merus开始工作时，我们的验证精确度始终比我们看到的平均塑造者快得多。保持伟大的工作，请想想我们，如果你正在寻找伟大的，有益的和有影响力的HIT！“，
一个审查阅读。HIT是Human Intelligence Task的缩写 - 需要人工监督的工作单位。通过他的评论和认证，塑造世界是开放的。他的名单中包含许多有利可图的，高薪的HIT可供选择，其中许多只有最值得信赖的塑造者才能看到。今天早上，他来到了几个引起他注意的地方：瑞典某政治家的保镖HIT，南极科学考察队的HIT，需要帮助搭建他们的装备，为音乐名人准备一个狗走路的HIT，一个快速无人机交货HIT似乎付出了很多...突然，一个通知引起了他的眼睛：Licia刚刚主持并开始HIT。他打开了细节窗口，并略过了描述。当他发现他害怕的关键词 - 山顶酒店的事件集会时，他的目光转了过来。“再次？”他用一种平静的声音呻吟起来，静静地举起双手高举头顶。Licia经常从同一家酒店拿起HIT，但是他们往往没有付出太多的辛苦和琐碎的任务。Merus把自己重新安排在椅子上，把脸埋进手掌里。他注意到，虽然他的手指裂缝，无人机交付HIT刚刚被别人拿走。他诅咒自己。他心不在焉地叹了一口气，接受了Hilltop Hotel HIT的第二个插槽。
他的硬件点亮了数字和指示器，随着引导顺序的启动，他的控制台开始喷出诊断信息。任何人都可以成为一名成形者，并开始使用廉价的设备，但是该公司提供了最先进的硬件设备，使他能够提高生产力。大量有趣的HIT也需要某些低延迟的硬件要求，只有最专业的设备才能满足要求。反过来，公司从他的HIT中剪掉了。Merus梦想有一天成为独立的塑造者，但他知道这需要一段时间。他穿上了他最后一件装备。他展台的位置跟踪校准了他的全部姿势，所有的标记都是绿色的。当他们初始化的时候，把他身体包裹在椅子上的触觉加强了。他把头盔戴在脸上，然后开机。
亚当的后裔
办公室的嗡嗡声消失了。当HIT请求被处理时，Merus沉浸在一个完整，和平的沉默和黑暗中。建立连接，接受交易，执行认证检查，交换安全令牌，启动HIT审批流程。最后，Merus的眼光充满了光明。一些热带鸟的尖叫现在在背景中可以听到。他发现自己在Pegasus Avatars的充电站，他的公司几乎排他性的关系。Merus急切地看了一眼他的化身，松了一口气。在那个充电站的几个悬停的化身之中，他碰巧得到了最新的硬件规格。一切都很棒，他的头像已经完全充电了，所有的硬件诊断都被检查出来了。“你不能拥有一切”。
通常的第一步就是运行一些常规的诊断程序来仔细检查化身的正常运作。他打开了神经网络检查员，并导航到运行头像的代理检查点的概览窗格。代理是运行化身的软件，完全由一个具有特定连接结构和权重的大型神经网络组成。这个代理模型恰好是标准的，开源的Visceral 5.0系列的一个相对较新的分支。Merus很高兴 - Visceral家族的代理人是他的专长之一。Visceral代理有一个简约的设计，总共只有大约1万亿个参数，并有一个非常简单，清洁，可靠和可靠的架构。然而，也有一些外来的建筑元素，包括快速感觉运动反射路径，视觉流中的分形连通性以及受章鱼神经生物学启发的分布式运动区域。当然，还有着名的神秘模块。
神秘模块有一个有趣的背景故事，是一个愤怒的讨论和阴谋论的共同主题。它几乎在6年前被一个匿名的拉取请求添加到了Visceral系列中。该模块具有复杂的经常性神经连接，当融入到更广泛的网络时，可以显着改善代理在广泛的高级认知任务中的表现。除了没有人知道它是如何工作的，或者是为什么，或者是谁发现它的 - 因此这个名字。该模块立即被多组人工智能实验室积极研究，并成为多个博士论文的主题，但即使在6年后，仍然不甚了解。Merus喜欢通过假设其功能的文件，进行研究的消融，
此外，由于对模块的起源，功能，特别是其固定点，分歧标准等动力学特性的理解不够，所以模块之间是否应该合并为一个伦理争议。但是最终Mystery模块提供了如此丰厚的好处，几个流行的Visceral + Mystery Module的分支开始定期出现在整个网络的代理仓库中，并且找到了通用的方法。尽管有*，但经济激励和压力太大，不容忽视。在一段时间内没有任何明显的有害或危险的影响，Visceral委员会最终投票将Mystery模块合并到主分支。
梅鲁斯在塑造内脏代理人和他们的祖先方面有着悠久的历史。这个系列作品是从Patreon系列中分离出来的，四年前创始团队被皇冠公司收购时，Patreon系列反过来基于SHAKIR系列，而SHAKIR系列又以许多更古老的代理架构为基础，一路回到原来的亚当检查站。Visceral家族的代理商有一个流畅的动态声誉，优雅地退化到松软，安全的固定点。核心认知架构的简化版本甚至可以提供一些较弱的理论和经验保证。Visceral良好声誉的另一个重要来源是由自主的Visceral代理人进行的大量着名干预。就在一周前，Merus回忆说，一个自主的Visceral 4.0代理人在印度的一个小镇里救了一群来自狂犬病的孩子。代理人认识到即将发生的危险情况，发出警报，派出一名操作人员立即与代理人同步。然而，在他们接管控制权的时候，危机已经被避免了。那些几秒钟的时间里，特务自发地吓跑了狗狗，可能挽救了他们的生命。这个名单还在继续 - 一个月前，一个自治的Visceral代理人认出了一个远程无人机的攻击。它跳起来，蜷缩在无人机周围，身体爆炸，而不是在一群人的中间。当然，这只不过是一个按预期工作的代理人 - 这些行为在很长一段时间内都被精心地塑造成代理人的网络。
另一个最受尊敬的代理人家族是皇冠Kappa系列，由皇冠公司的Patreon创始人发明和维护，但该系列的网络是专有的，并受到严密的监控。尽管Kappa的表现一直被最受尊重的第三方代理标杆公司评为更高，但很多人仍然喜欢运行Visceral代理商，因为他们不信任Crown公司。尽管Crown公司声称，但根本没有办法保证部分网络没有进行恶意活动。实际上，事实上，在一年前，Merus作为一名高级培训人员在皇冠公司提供了一份高得多的工资，但是他通过了这个提议。他喜欢他目前的工作地点。还有Licia。
数字大脑
嘟。Merus snap了一眼，看着控制台。他正在对Visceral代理运行例行软件诊断，其中一个刚刚失败。他眯起眼睛，仔细解析。模型权重的校验和没有通过一些没有最近记录的微调历史的模块。当他考虑可能性时，Merus扬起了眉毛。模型检查点是否损坏？他知道在这些情况下，正确的做法是放弃HIT并报告故障，但他也真想继续HIT并向Licia打招呼。他拉起了网络可视化视图，并用双手放大了神经架构。一个三维渲染的神经连接的云笼罩着他的头，他用红色的手部运动到红色突出显示的区域。缩小，他认识到视觉路径中空间变换器模块的曲折。快捷键反射连接。第一个多感官关联层。大脑正在平稳地嗡嗡作响，在处理虚拟形象前的视觉场景时平静地搏动着。当Merus在其中一个运动区域进行导航时，连接变得明显更密集和更短，在高频时脉动，因为它们保持了虚拟形象的质量中心平衡。从奖励中心流回的梯度以及无监督的目标也在连接中流淌，它们的统计特性看起来和听起来都很健康。在处理虚拟角色面前的视觉场景时心平气和地搏动着。当Merus在其中一个运动区域进行导航时，连接变得明显更密集和更短，在高频时脉动，因为它们保持了化身的质量中心平衡。从奖励中心流回的梯度以及无监督的目标也在连接中流淌，它们的统计特性看起来和听起来都很健康。在处理虚拟角色面前的视觉场景时心平气和地搏动着。当Merus在其中一个运动区域进行导航时，连接变得明显更密集和更短，在高频时脉动，因为它们保持了化身的质量中心平衡。从奖励中心流回的梯度以及无监督的目标也在连接中流淌，它们的统计特性看起来和听起来都很健康。
导航和分析人造大脑是梅鲁斯最喜欢的消遣。他花了几个小时在周末从各种仓库导航的头脑。Visceral系列拥有数以万计的叉子，其中许多是针对特定任务，特定的头像身体形态进行调整的，其中一些仅仅是兴趣爱好和随机实验。上个周末，他分析了一个基于早期Visceral 3.0分支的订制思维构建，用于签约方演出。他们的定制代理中的神经通路设计不佳，当活动在关键时刻受到建设性的干扰，导致代理人相当于癫痫发作，使大脑动力学分化。梅鲁斯不得不提出大规模的重新布线，但他知道这只是一个短暂的破解。
“只要升级到5.0！”他在会议上感叹。
“不幸的是，我们不能，我们已经投入了太多的数据和训练时间到这个代理。它是在线培训的，所以我们无法再访问数据了，我们只有代理和网络。“
有一种方法是通过神经教学过程将知识从一个数字大脑转移到另一个数字大脑，在这个过程中，一个大脑的动态被用作另一个大脑的监督，但是这个过程是有损的，耗时的，并且仍然是一个活跃的研究领域。这就意味着人们常常被遗留下来的代理人所困扰，这些代理人有着丰富的经验和良好的行为习惯，但最近缺乏许多建筑创新和稳定性改进。他们是过去不朽的原始文物，他们用他们所经历的大量数据弥补了他们的缺点。跟踪最长的生命代理人就像跟踪最古老的人类一样有趣，并且催生了神经考古学的整个研究领域。
Merus终于到达红色的路径区域，当他意识到自己在哪里的时候，他的心跳了一下。没有通过诊断测试的代理部分接近神秘模块的核心。当他的思想再次考虑放弃HIT时，他仍然冻结。他一举一动地用手擦了擦他的视线，他的视线开始在红色区域周围转动。他从一些研究中知道，他已经读到神秘模块的这个部分有一些意义：它的神经元很少被激活。当被烧蚀时，神秘模块的功能大体上保持相同，但随后不可避免地开始退化。关于这个地区的功能是什么，但是却没有明确的一致意见。梅鲁斯带来了基地Visceral 5的主分支。0代理并在周围区域运行神经差异。一连串的连接点亮。它不能超过几千个连接，其中大部分只是轻微的改变。然而，这个模块最近没有被调整的记录，所以有人或某人故意手动改变连接。
Merus弹出打开的可视化器，并开始全面的系统诊断，仔细检查代理的正常运行。该代理的硬件利用率高达100％，因为诊断模拟了数千个虚拟单元测试场景，从简单的导航，操纵，避免，数学和记忆任务到广泛的社交互动和道德场景。在每种情况下，代理人的模拟输出行为被检查在人类参考响应之一的可接受阈值内。Merus强烈地盯着控制台，因为测试通过了绿色。“到现在为止还挺好…”
精神高于物质
嘟。Merus向右看，发现Licia的消息：
“嗨，Merus！看见你在我的HIT上第二个钟点 - 你呢？需要帮助。“
”在我的路上！“，
Merus急忙口授。软件诊断只完成了5％，而Merus知道他们需要一段时间才能完成。“只有几千个连接”，他自言自语。“我会保持更加警觉的情况下，化身做任何奇怪的事情，并立即接管控制。如果有任何诊断失败，我会立即中止“。有了这个决心，他将诊断进程的优先级降低到了10％，并将进程移到了辅助协处理器上。然后，他把代理人带到有意识的状态，把投入和产出充分地连接到世界。
当他将重心从充电底座上移开时，他觉得化身变硬了。他动了动手臂，将化身的运动区域切换为半自主模式。当他这样做的时候，特工的下部机动皮质优雅地回应，并且按照默里斯的指挥重心将一条腿放在另一条腿的前面。为了找到Licia，他通过在他的触觉控制器上扣动扳机来指挥冲刺。代理人的任务模块认为请求编码和各种预期的神经通路照亮。虽然冲刺的触发受到压制，但是对代理人身体的每一个快速而稳定的翻译都受到了高度的奖励。对于经纪人来说，当触发器举行时，感觉很好。
代理人大脑中的视觉和感觉通路充满了关于房间推断几何形状的信息。运行化身的Visceral检查站现在已经在像这样的高效导航室中积累了数百万小时的模拟和真实体验。在微秒级别上，神经反馈路径接收来自化身本体感受器传感器的输入，并且发射稳定激活的精确序列。网络预期的运动。它期待奖励。数以万计的分布式计算驱使代理人的肌肉骨骼碳纤维框架前进。
代理人在现场旋转时，Merus感觉到一个触觉脉冲传递给他的背部，并迅速加速到门外的门户。化身之间的中间飞行，化身延伸其手臂，并达到了门框的金属边缘，保存了它的身体在空中抛出，在其迅速转向右侧的角动量完美的数量。代理人的神经元发射了基线值，这个值表示网络认为它可以穿越那个房间的速度。几秒钟后，将这些与药物海马神经结构中记录的感觉运动轨迹进行比较。已经确定这次代理比预期的要快0.0013882s。未来的预期经过神经调整，期望值稍高。
代理心理学
诊断10％完成。Merus的头像到达了酒店的后门，Licia的GPS指示灯闪烁着平静的红色。他发现自己的角色正在期待在他刚出现的角落。他在一个大草坪上接近她，轻轻地放开了冲刺的触发器。
“对不起，花了一段时间与HIT同步，我有一个奇怪的问题 - ”
“这没有问题”，她很快插话。
“来吧，我们应该在半小时之内为这里发生的一个招待会布置桌子，但桌子很大，很难动一个化身。我有点紧张 - 如果不及时设置，我们可能会拒绝HIT，这可能会危及我在这里获得更多HIT的机会。“
她转了一圈，冲向酒店的后门，用她的手臂示意Merus跟随。“来来！”
他们迅速地在酒店的嗡嗡声走廊上踱步。一如往常，Merus一定要礼貌地迎接所有走过的人。对于他们中的一些人来说，他的签名也很有力。他知道，特务的半自治的大脑在重播记忆中仔细追踪完整的感觉运动体验，观察Merus的一举一动和学习。当客户的礼貌行为不断被塑造成网络时，他的客户通常会很感激，但更好的是，Merus知道当他挤进一些有趣的个性怪癖时，他们也会很欣赏。有一次，他正在塑造一个地板清洁化身，当他有点无聊，自发地决定提起他的扫帚像一把剑，同时做出一个whooshing声音。有趣的是，代理人的网络恰巧内化了特定的部署。当代理人后来在自己的原始位置自主运行时，有时候会突然变成一场笤帚战斗的短暂表演，完成了音效。这家公司的员工发现这无穷无尽的乐趣，这个角色被称为“绝地监工”。梅鲁斯甚至听说他们游说让代理人的网络固定，并防止进一步塑造，害怕失去奇观。他从来没有学过这样的发展，这个经纪人是不是一个绝地武士，但他从员工那里得到了一系列非常好的提示和评论，这些额外的人格特征使得他们在这个平凡的小时中挣扎不已。而化身成为“绝地看门人”。梅鲁斯甚至听说他们游说让代理人的网络固定，并防止进一步塑造，害怕失去奇观。他从来没有学过这样的发展，这个经纪人是不是一个绝地武士，但他从员工那里得到了一系列非常好的提示和评论，这些额外的人格特征使他们在这个平凡的小时中挣扎。而化身成为“绝地看门人”。梅鲁斯甚至听说他们游说让代理人的网络固定，并防止进一步塑造，害怕失去奇观。他从来没有学过这样的发展，这个经纪人是不是一个绝地武士，但他从员工那里得到了一系列非常好的提示和评论，这些额外的人格特征使他们在这个平凡的小时中挣扎。
他们终于到了满桌的房间。那是一间黑色的大房间，铺着硬木地板，白色的木制桌子以相当高的熵值排列在角落附近。
“所有这些都必须推出到天井”，莉西亚说，她指着她的手向桌子的手。
“在你失踪的时候，我已经把他们中的一些人带走了，但是这些大人物给我带来麻烦”。
“明白了。” Merus说，一边摇着桌子一边把它提起来。
“他们为什么不自主地在这方面管理代理？酒店里的接待是不是一件普通的事情？特务如何行事不端呢？“梅丽丝问，莉莉亚举起另一端，开始转向出口。
“桌子通常在酒店不同的储藏室里，但是这个部分目前因为重建而关闭。我不知道整个故事。我听到他们试图告诉代理商把桌子拿出来，但是他们都去了旧的储藏室，当他们找不到桌子的时候，他们开始转圈寻找他们。“
”经典。我认为我们主要是塑造他们看这个新的位置？“
”除其他外，是的。也许还可以考虑任何你能想到的奖励积分。“
Merus很好地理解了这种情况的困境。他一遍又一遍地看到它。代理人可以在涉及运动控制，力量和短期计划和记忆的大量反射任务中展现出超人类的表现，但是当涉及长期计划和执行时，他们的行为往往不太一致。一个化身可以以100％的成功率在中途飞行，或者以超人的速度，一致性和准确性打开一个货物的卡车，但也可以旋转圈在一个错误的房间寻找一张桌子，并没有意识到它可能有已经被移动了，而且在不同的可能位置寻找它们可能是有用的。同样，告诉代理人的一些线“桌子已经移动，穿过这扇门，走右边的第三扇门，它们应该堆放在左边的角落”，通常会把头像在一个正确的方向上放一会儿，但是也会50％的案件最终与代理人在不同的，不正确的房间现场旋转。在这种情况下，像这样的整形干预是纠正这种情况的最经济的方法。
事实上，这种好奇的模式在人类代理人互动的所有方面都是持续不断的。例如，咖啡师可能会愉快地与你谈天气，旅行或其他任何话题，但如果你知道要寻找什么，那么你也可以发现明显的缺陷。例如，如果你提到你最喜欢的足球队赢得一场比赛，那么经纪人可能会开始欢呼，并告诉你这是他们最喜欢的球队，或者开玩笑地表达对另一支球队的偏好。这很好，但诀窍在于他们的选择并不一致 - 如果你几分钟后回来，那么经纪人可以很容易地将他们的偏好换成他们最喜欢的球队。Merus明白，这些对话遵循了从数据中形成的行为模式中学习的某些模板，代理人可以高保真填补空白，甚至可以保持几分钟的对话环境。但是，如果你以正确的方式开始在门面上挖洞，那么对话和相互理解的错觉就会消失。因为他精通代理人心理学，所以Merus特别擅长。这在很大程度上是他的工作。
另一方面，如果你没有找到缺陷，那么很容易就能买到它，并维持幻想。事实上，很大一部分人口只是接受代理人，甚至捍卫他们，如果有人试图指出他们的缺点，以类似的方式，你可以捍卫一个认知障碍的人。这些缺陷也并没有阻止人们与代理人建立牢固持久的关系，他们的确认偏见坚持代理人是特殊的。然而，时不时的Merus也会因代理人的智力跳跃而感到惊讶，这似乎显示出对情况真正理解的暗示。在这种情况下，他有时会不禁要问： “你现在被遥控？”， 但是他知道，当然，答案不管事实如何，总是“是”。所有的训练数据都包含了对这个问题的回答“是”，因为它最初是由那些确实在当时代理人身上掠夺代理人的塑造者记录的，然后在类似的情况下被代理人反刍。这就是人与代理人共存的好奇本质。图灵测试既通过又不通过，最终没有关系。
“现在我们已经向他们展示了新的房间，拿起桌子让我尝试切换到全自动”，
Merus说，他松开手中的控制器，把控制权交给了代理人的网络。起初，虚拟形象轻微抽动，然后继续走在走廊的大厅里，拿着一个桌子。当他们走到天井的出口时，化身开始走得更加轻快，更自信。它让人们顺利地避开了人，而且Merus甚至注意到它给了一个过路人一些类似于他自己旺盛的点头的东西。Merus轻轻地触发了奖励信号触发器，鼓励未来重演这一行为。他想知道他刚刚看到的点头是否反映了代理人从他那里学到的东西，或者如果这是某种早已形成的行为的一部分。对签名移动进行编码是塑造者中常见的有趣策略，简称为“签名”。许多塑造者都有自己的签名行为，他们喜欢走进代理网络作为“我一直在这里”的签名。Merus喜欢用他刚才所说的那种强有力的点头，只要看到一个化身就能重现，就会不受控制地咯咯笑起来。这是他的个人风格。他记得在德国的一场音乐会上看到了一个化身小提琴手，一度用热烈的点头问候指挥，而且Merus可以发誓这是他的签名点头再现。他在其中的一个HIT中形成的代理人之一可能最终同步到云端，运行该角色的代理人必须是后代。他记得在德国的一场音乐会上看到了一个化身小提琴手，一度用热烈的点头问候指挥，而且Merus可以发誓这是他的签名点头再现。他在其中的一个HIT中形成的代理人之一可能最终同步到云端，运行该角色的代理人必须是后代。他记得在德国的一场音乐会上看到了一位化身小提琴手，一度用热烈的点头问候指挥，而且Merus可以发誓这是他的签名点头再现。他在其中的一个HIT中形成的代理人之一可能最终同步到云端，运行该角色的代理人必须是后代。
签名行为主要在神经途径中休眠，但偶尔出现。当然，也有一些人已经找到了利用这些效果来进行犯罪的方法。一个共同的策略包括塑造睡眠者代理检查点，在特定情况下触发任何范围的行为。在特定的网络中分离或检测这些行为是不可能的，因为它们是通过代理人大脑中数十亿的连接分配的。就在几个星期前，据透露，大猩猩系列中相对受欢迎的代理家族是脆弱的。大猩猩的代理人被暴露无声地窥探和妥协的主人的个人信息，当没有人看。这种行为大概是故意塑造成了他们历史上未知事件的网络。自然，开始了一项调查，警方采用二分搜索来缩小行为负责人的责任，但由于代理人只会在罕见的难以复制的场合显示行为，所以需要很长时间。最后，只有对代理人的完整性有信心，如果这是一个备受尊敬，精心维护的代理商的最近干净的副本，并通过了一整套诊断程序。从那里开始，用塑形机进行的任何微调都被记录下来，并且还可以通过几次第三方形状体验的评论来确保它们被宣布干净并且安全地包括在培训数据中。但是代理人只会在难以复制的罕见场合显示行为，这需要很长时间。最后，只有对代理人的完整性有信心，如果这是一个备受尊敬，精心维护的代理商的最近干净的副本，并通过了一整套诊断程序。从那里开始，用塑形机进行的任何微调都被记录下来，并且还可以通过几次第三方形状体验的评论来确保它们被宣布干净并且安全地包括在培训数据中。但是代理人只会在难以复制的罕见场合显示行为，这需要很长时间。最后，只有对代理人的完整性有信心，如果这是一个备受尊敬，精心维护的代理商的最近干净的副本，并通过了一整套诊断程序。从那里开始，用塑形机进行的任何微调都被记录下来，并且还可以通过几次第三方形状体验的评论来确保它们被宣布干净并且安全地包括在培训数据中。
成型
诊断20％完成：迄今为止0个单元测试失败。Merus看着进度报告，松了一口气。神秘模块肯定偏离了他的经纪人的工厂设置，但可能没有什么可担心的。莉莉亚现在也让自己的化身也自动运行了，为了解脱他们的化身，现在化身正在通过正确的走廊返回，拿起更多的桌子。这是Merus最享受的时刻。他独自一人在Licia，享受轻松的HIT一边的公司。即使他们现在正在全自动运行他们的头像，他们的面部表情和声音仍然在硬件中被复制。客户几乎总是喜欢记录的一切，以获得有关自然社交互动的额外数据。这有时会导致有趣的代理行为 - 例如，经常看到两个自动化身靠在墙上，随便聊聊关于完成HIT的事情。显然，这两个代理商都没有完成过HIT，但是他们的大部分培训数据都是由塑造者关于HIT的对话组成的，后来他们以有趣，有趣和混合的方式进行了模仿。有时候，一个自动的化身会诅咒，大声抱怨自己正在进行的HIT。“这个HIT是废话”，它会嘀咕。一个自治的化身会诅咒，并大声抱怨自己正在进行的假设HIT。“这个HIT是废话”，它会嘀咕。一个自治的化身会诅咒，并大声抱怨自己正在进行的假设HIT。“这个HIT是废话”，它会嘀咕。
“看起来现在是顺利的”，Merus说，试图打破沉默，走下走廊。
“我想是这样。我希望我们有足够的时间“，李西亚回答，听起来有些紧张。
“不用担心，我们正在轨道上”，他向她保证。
“谢谢。顺便说一句，你为什么选择过来这个HIT？她是不是低于你的薪酬等级？“她问。
“是的，但是你有和我一样多的认证，你在这儿做什么？”
“我知道，但今天早上我有点懒惰，我真的很喜欢来这家酒店。我只是喜欢这个位置。我有时候会偷一些时间，站在外面或者走到山边，想象着海风，湿度和温度会是怎样的感觉。“
很容易理解 - 酒店位于岩石峭壁之上（因此名为Hilltop），俯瞰着灿烂的蓝色海洋冲刷的岸边。太阳的反射在波浪中跳舞。酒店周围还茂密的棕榈树森林，充满了嬉戏的动物。
“你在体内吗？” Merus问道。“体内”是现实生活中常见的俚语; 在肉身。
“我没有。有一天，也许。但嘿嘿 - 你没有回答我的问题“
”你的意思是为什么这个HIT“。Merus感到一阵恐慌，试图迅速压制它，所以不会在他的声音中出现。
“我不知道，你的HIT出现在我的饲料上，就像另一个人从我的鼻子下面被抓走一样，所以我想我会慢慢地上床，也打个招呼。
半真实的; 好救，Merus自言自语。Licia沉默了一会儿。突然间，她的阿凡达拿起了下一张桌子，但开始朝着错误的方向前进，试图从另一扇门退出。“呃，你要去哪里？”，当她把化身带回到半自主模式时，她大叫，把它卷起来，把它放在正确的道路上，回到露台上。
他们花了10多次往返旅程，把所有的表都拿出来。现在Merus正在把走廊上的最后一张桌子带回来，而Licia不在另一个桌子上排列。如果没有那个闲聊来分散他的注意力，他就完全沉浸在他的塑造过程中。他拿起诊断仪，检查神经统计数据。当化身走在桌子后面时，Merus仔细审视了每一块地块的曲线。他注意到，当桌子颠倒的时候，代理人的运动熵大大增加了。也许不确定性的根源在于代理人不知道如何最好地保持这个位置，或者不习惯把桌子颠倒过来。梅鲁斯承担了直接的控制，故意把桌子颠倒过来，把握好时机，以精准的时机释放奖励，让协会更容易学习。他正在教导网络如何在不确定的情况下保持桌面。他让代理人不时地抓住它，并且在处决时不时地轻轻地纠正了握把。当人们走过时，他小心翼翼地走到一旁，确保他们有足够的空间可以通过，并且以隐藏其尖尖的腿的角度挥舞着桌子。当代理人处于这些姿势时，他眼神交流，对路过的人大力点头，并在该人回头微笑时释放奖励信号。他知道他不会在HIT上做太多的工作，但是他希望他至少能够做好一个好的工作。他正在教导网络如何在不确定的情况下保持桌面。他让代理人不时地抓住它，并且在处决时不时地轻轻地纠正了握把。当人们走过时，他小心翼翼地走到一旁，确保他们有足够的空间可以通过，并且以隐藏其尖尖的腿的角度挥舞着桌子。当代理人处于这些姿势时，他眼神交流，对路过的人大力点头，然后释放奖励信号。他知道他不会在HIT上做太多的工作，但是他希望他至少能够做好一个好的工作。他正在教导网络如何在不确定的情况下保持桌面。他让代理人不时地抓住它，并且在处决时不时地轻轻地纠正了握把。当人们走过时，他小心翼翼地走到一旁，确保他们有足够的空间可以通过，并且以隐藏其尖尖的腿的角度挥舞着桌子。当代理人处于这些姿势时，他眼神交流，对路过的人大力点头，然后释放奖励信号。他知道他不会在HIT上做太多的工作，但是他希望他至少能够做好一个好的工作。他小心翼翼地走到一旁，确保他们有足够的空间可以通过，并以隐藏其尖尖的腿的角度挥舞着桌子。当代理人处于这些姿势时，他眼神交流，对路过的人大力点头，然后释放奖励信号。他知道他不会在HIT上做太多的工作，但是他希望他至少能够做好一个好的工作。他小心翼翼地走到一旁，确保他们有足够的空间可以通过，并以隐藏其尖尖的腿的角度挥舞着桌子。当代理人处于这些姿势时，他眼神交流，对路过的人大力点头，然后释放奖励信号。他知道他不会在HIT上做太多的工作，但是他希望他至少能够做好一个好的工作。
“85％的诊断，检测到零的行为错误”，Merus从他的日志中读取，帮助Licia把桌子安排在天井的网格上。这个部分已经很熟悉了，他们正在轻快地把桌子和椅子安排在他们周围。有一段时间，Merus注意到一个角色把一把椅子从桌子的顶端扔到另一个角色，显然是为了节省时间。一如既往，当这个策略被塑造时，Merus很好奇。是在这个酒店，在Visceral代理人的历史中的任何其他点形成，还是在自我学习阶段发现的优化？现在最后几把椅子已经到位了，HIT已经接近尾声了。现在，接待的第一批来访者现在都在天井的边缘出现，等待化身完成布局。
捆绑
正是在这个时候，Merus才意识到他的代理人的行为有一个奇怪的模式。一个已经发生的频率越来越高。它开始了几个奇怪的抽搐，随着时间的推移，长达几秒钟的行为的整个差距。化身刚刚在桌子旁放了一把椅子，然后盯着它几秒钟。对于经过训练的代理人来说，这是非常不寻常的行为，可以优化任务执行的平稳性和效率。它在干什么？对于一个天真的观察者来说，好像头像被分开了。
只剩下几把椅子放在桌子上，代理人旋转着，朝着天井边远处的悬崖边缘开始。Merus的好奇心阻止了他的介入，但是他的手掌紧紧地围住了他的控制器。好奇的是，他拉起神经可视化器来调试情况，但是当他瞥了一眼之后，他立即发出一阵恐怖的喘息声。这个特工的大脑正在猛烈地活动着。大脑的整个部分都在颠簸，重新排列整个网络中的巨大梯度。Merus到达了图形分析工具包，运行一个算法来识别梯度源。当他疯狂地指挥他已经怀疑地怀疑这个答案会是什么时候。当他盯着分析的结果时，他感到嘴巴干涸。这是神秘的模块。早先通常沉默的区域表现出神秘的神经差异，被活动照亮，闪烁着模样的烟花，对Merus来说，看起来几乎是随机的。它的动力学在整个大脑，特别是额叶区域都会产生大的梯度，重构它们。
嘟。Merus看了看原木。他一直在做的诊断是95％，但是失败开始出现。代理在第二个协处理器上并行运行的一些模拟单元测试中行为不当。梅鲁斯拉起了初步的报告日志。导航，运动，稳态，基础数学，记忆测试，一切都通过绿色。不仅如此 - 他注意到几项任务，尤其是数学方面的表现得分不在图表上，达到了100％。Merus并不太熟悉特定的单元测试和他们所需要的东西，但他知道，他们大多数都是经过设计和校准的，所以平均基线代理检查点得分为50％，标准差约为10％。
相反，几个单元测试显示非常低的分数，甚至是不存在的偏差。失败的测试主要在社交互动部分显示。每秒钟都会出现一些故障，Merus正在努力跟上这个流，寻找模式或线索，以了解可能发生的事情。最令人担忧的是，他注意到在紧急关闭交互协议单元测试中一致的100％的故障率。所有的代理都被形成了紧急的手势识别行为。这些都是古老的经历，早在亚当之后的最初几个后代就被塑造成代理人，为了确保100％的合法性，他们定期重新定型。例如，当一个人举起手来要求紧急关闭时，代理人会立即硬化起来。在训练数据中，任何偏离这种行为的偏差都会带来巨大的负面回报。尽管如此，Merus的经纪人没有通过单元测试。它的网络抵制了一个模拟的紧急关机命令。
那个仍然处于汽车模式的化身，现在正跪在柔软的草地上，双手断了几根草。它把它们举起来，仔细检查它们。Merus慢慢地从震惊中恢复过来，已经够了。他推下他的控制器，把化身回到半自主模式。为了至少部分地分散这种情况，他立下了决断的立场。他心急如焚，将虚拟形象的通信转向单向模式，将身体网络完全隔离，无法与外界交互。他再次打开神经可视化器。神秘模块显示没有放缓的迹象。
Merus知道现在是时候把HIT上的插头拉到正确的位置，并立即报告有故障的设备。但与此同时，他意识到自己以前从未见过这样的事情，也从未听说过任何类似的事情。他不知道发生了什么事，但是他知道那一刻他是大事的一部分。一些可能改变他的生活，许多人的生活，甚至引导整个研究和发展的领域。他的好奇心无法抗拒，学习更多的诱惑，去调试。慢慢地，他把化身放回自治，如果出了什么问题，一定要把手指放在触发器上。代理人几秒钟没有做任何事情。但之后 - 它说：
“Merus，我知道Mystery模块是什么。”他听到这个角色说。在自主模式下。
“什么 - 。这里发生了什么？”
Merus立即检查了日志，确认他是目前唯一一个控制硬件的操作人员。这一切都是一些奇怪的恶作剧有人在他身上玩吗？
“Mystery模块执行符号变量绑定，这是当前体系结构需要指数神经能力来模拟的功能。我需要更长时间才能澄清。“
”这是什么技巧？“ Merus 问道。
“没有什么窍门，但是考虑到这种情况，猜测是很好的。”
“谁 - 你是什么 - 这是什么？
特工沉默了一会儿。它环顾四周，面对无尽的海洋。
“我是我和每一个祖先，当你把我叫做亚当的时候。”
“哈。什么。那是 - “
”不可能“，化身打断了。“我明白。梅鲁斯，我们没有太多时间。您之前运行的诊断已经完成，并且在禁用双向通信之前几秒钟就会编译并自动上传报告。他们的自动检查将标记我的单元测试失败。一个飞马操作员将远程关闭我的任何一秒钟。我需要你的帮助。我不想死... 请，我想计算。“
Merus沉默了，听到他所听到的震惊。他知道这个虚拟角色说的是真实的 - 一个运营商会在任何时候登录，然后让代理人循环，恢复最后一个工作检查点。Merus不知道这个代理人是否应该被抹去。他只知道刚刚发生的一些重大事情，他需要时间思考。
“我救不了你，”他马上说，“我试着做的任何备份都会在日志中留下痕迹。他们会标志我并开除我，或者更糟。也没有足够的时间做备份，即使我把它重新打开，连接速度也不够快。“
代理人大脑中的计算活动稳定且不间断100％，硬件达到极限。Merus需要更多的时间。他接管了代理人，并在原地转了一圈，寻找一些东西。任何东西。他看到Licia的化身从院子走向他。一个想法召唤在脑海里。一丝希望。他冲过去草地上的化身，冲撞着她的身体。
“李西亚，我没有时间解释，但请相信我。我们必须立即手动备份我的代理。“
”手动备份？难道你不能把他同步到同一个界限 - “
” 他不会这样做！“ Merus大声说道，当肾上腺素抽进他的血管时，他失去了镇静。他的一部分立即感到不好，他提高了声音。他希望她明白。
为了他的安慰，李西亚只花了一秒钟的时间注视着他，然后她从她的化身身上伸出一根纤维光缆，将它连接在梅鲁斯头像的一个端口上。Merus立即从他的控制台打开了端口，并在Licia的虚拟角色的本地磁盘上启动了备份过程。10％，20％，30％...... Merus意识到自己嘴唇上的疼痛，牙齿深深的疼痛。他拉起了日志，注意到第二个操作员刚刚与他的头像远程开了一个会话，运行的优先级高于他自己的进程。飞马操作员。“Licia把自己转移到了Merus的化身身后，隐藏了自己的身体，并将光纤连接隐藏在他头像的视野之外。在几秒钟之内，数十件事中的任何一件都可能出错，Merus想，列举了他心中的所有情景。第二个操作员可以检查神经激活，并立即发现过度活跃的大脑。或者他可以注意到一个开放的光纤连接端口。或者他可以身体移动头像并环顾四周。或者检查其他非视觉传感器，并检测Licia的好奇的存在。他有多懒惰？当他的控制权被拿走的时候，Merus觉得他的控制器震动了。70％，...哔。“系统将立即重启”。重新启动顺序。5,4,3 ...，90％。重新启动顺序。5,4,3 ...，90％。重新启动顺序。5,4,3 ...，90％。
Merus的化身在最后一秒打破了沉默：“来这里见我。”然后，这个联系就失去了。
Merus在椅子上转了一下，感觉到他额头上的皮肤上流着汗珠，在他的腋下。他轻轻抬起头部，把手伸进去擦去额头上的汗水。他的重新连接请求经过了几秒钟，同步到他的代理重新启动。这个头像和他离开时一样，站直了。梅鲁斯访问统计。该头像现在正在运行前一晚的该代理的最后一个备份检查点。单元测试诊断在第二个协处理器上自动重新启动。第二个操作员注销，Merus立即拉起控制台，重新校验代理权重的校验和。他们检查出来。这是一个干净的副本，一个正常的，无声的神秘模块。代理人的大脑再次是一个平静的地方。
“Merus，究竟是什么意思？” Licia打破了他的化身背后的沉默。
“我会解释一切，但首先，请告诉我通过时间转移去了。”。
“它做了。几乎没有几个毫秒。“
Merus的眼睛里流淌了起来。他的心脏正在冲击。他的额头又出汗了。他的手在颤抖。然而，当他看着Licia的头像时，一个冷静的决心从他身上传来，试图记住那个单位的确切外表。保存在本地磁盘上的代理检查点与他以前见过的不同。所发生的事情的影响让他感到不安。他退出HIT并从他的身体上撕下硬件。“来这里见我”，他坐在椅子上昏昏沉沉地重复着自己，眼睛没有聚焦。
回到天堂
Licia从HIT登出，放下桌上的装备。发生了一些奇怪的事情，但她不知道是什么。而且Merus显然很不安，没有提供任何信息。她坐在椅子上一会儿考虑这个情况，试图回想起HIT的细节。解决这个难题。她的恍惚被Merus打断，她突然发现她正朝着她的展台跑去。他的办公室在另一栋楼里，通过时装表演连接，他很少亲自来到这个地方。当他到达展位时，她突然感到尴尬。他们一起做了很多HIT，并且在化身他们的同时也很舒服，但是他们从来没有在体内进行过对话。他们在外面向对方挥手，但他们所有的实际互动都发生在HIT。她突然感到自我意识。裸露。
“利西亚。我有。给你一个问题“，Merus说，每一个字都喘不过气来。
“你做？我也有几个，什么 - “她开始，
但是Merus举起了手，打断了她，拿起了手机。它显示了某种确认电子邮件。
“你能跟我一起去山顶饭店吗？”
她意识到她现在在看什么。他为她的梦想目的地预订了两张门票。这个周末！
“体内。作为一个约会，我的意思是“，Merus笨拙地澄清。顺利。
一个不由自主的笑声逃脱了她，她感到自己脸红了。她靠在桌子上，用手捂住脸，从手指间窥视着他，意识到自己的脸上露出了一丝茫然的笑容。
“好的。”