机器人不会越来越聪明吗？

我们无法改变人性，但仍然希望更好的技术可以解决技术带来的问题。持这种观点的人认为，只要我们能让自动化变得更智能，或者让机器人变得足够智能，更像人类伙伴一样行动，那么这些问题肯定会消失。当然，这需要制造一个真正的类人机器人，一个能像人一样学习的机器人能读懂我们所有的手势、面部表情和其他暗示，它们能像我们与他人沟通时一样轻松自然地与我们沟通。

坏消息是，即使造出了最像人类、最智能的机器人搭档，问题仍然存在。想想驾驶舱里的飞行员。机器人不可能比真人更像人类了。人类飞行员是精英团队：他们有成千上万小时的飞行经验。然而，73%的航空事故发生在新飞行员和副机长一起工作的第一天，44%的事故发生在第一天的第一次飞行中32。原因在于人类无法自动形成默契的合作，即使是训练有素的飞行员，也需要一些与新伙伴一起工作的经验和练习。当他们一起工作时，他们会建立彼此的心理模型，并学会有效地沟通。我们不能指望普通消费者广泛接受操作下一代机器人的培训，也不能指望他们知道如何与机器人互动。我们需要新的方法来设计这些系统，以便让新手能够快速建立自己操作和行为的心理模型。

但如果我们造出具有超人能力的机器人呢？也许超级智能机器人可以比类人机器人更清楚地分析场景，并有权决定谁应该在什么时候做什么。难道这种方法不能使人机团队比人类团队更有能力吗？公平地说，机器人最近已经能够以这种方式与人类合作。事实上，麻省理工学院的实验室进行了一系列研究，比较“机器人老板”与人类老板的潜在优势33。两个人和一个机器人一起收集材料，用乐高积木组装一个结构。乐高组装任务被设计成需要人类和机器人之间的协作，团队的效率取决于谁拿回了哪些部件、以什么顺序拿回了部件，以及谁去设计所搭建的结构。机器人得到了关于人类成员执行任务时各方面表现如何的信息，然后它使用先进的规划技术来优化工作分配并指导人类伙伴。这个案例将与另外两种情况相比较，一种是由一个人完全指导工作，另一种是一个人和一个机器人在三人团队的任务分配上共享权力。

结果令人惊讶。首先，至少在这些研究中，人们似乎更喜欢让机器人做所有的决定34！这可能是因为机器人显然更擅长这项任务，总体上会做出更好的工作安排；相反，降低机器人在工作决策上的权威会降低团队的效率，同时降低人类与机器人一起工作的愿望。这种对提高机器人智能和决策权威的偏好在其他环境中也得到了证实35。

然而，这些好处带来的代价高昂，可以说是不可接受的。我们发现，当机器人做出更多决定时，人类团队成员就会失去对伙伴行动的感知。人们对人类和机器伙伴正在做什么以及接下来要做什么感知程度较低。从漫长的航空事故历史中，我们知道，当机器人发生故障时，缺乏情境感知能力会削弱人的接管能力。

此外，我们知道，当人类与智能机器人一起工作时，人类实际上需要更多地了解这个系统，而不是更少地了解传统的自动化。原因是机器人是一个独立的，至少是半智能的实体，与用户有着不同的目标和计划。仅仅知道系统处于何种模式是不够的：要想有效地与智能体合作，人类还需要知道机器人试图做什么以及为什么要做这些36。即使有最先进的机器人技术，我们仍然看到机器人自主性的提高增加了由于情境感知能力降低而导致的风险和成本。

最后，我们可以想象，如果自动化随着时间的推移而改变其行为，从而根据具体情况或多或少地帮助用户，那么这些困难会变得更糟。物联网使公司可以随时升级你的设备，这使得解决产品中的缺陷和改进它们变得更容易。但当设备的行为被改变或新功能出现时，它也会给用户带来困惑。是的，我们通常可以上网查询或阅读更新通知来了解这些变化，但我们实际上并没有这么做。这个问题已经成为商业无人机运营商论坛上的热门话题，用户担心更新会增加坠毁的风险。特斯拉汽车的自动更新也给司机带来了困惑，甚至造成危险的情况37。公司在每次升级时都努力提高安全性，但简单地引入新版本可能会导致新的意想不到的人机交互故障。

我们在新的机器学习技术中也看到了类似的问题，这种技术使机器人能够改变它们对环境或用户的反应。如果机器人随着时间的推移而改变自己的行为，这可能会被证明没有什么帮助，因为用户不得不费神去理解这些变化38。