引言

想象一个充满机器人的世界。除了这些机器人是昂贵的新奇产品以外，这个世界与我们今天的世界没有什么不同。机器人不局限于少数的工作，也不需要你告诉它们该做什么。相反，这些机器人有点像伙伴——它们与你合作，就像篮球场上的伙伴彼此合作一样。一个人进行掩护，另一个人就可以轻松移动；一个人将球高高地抛过篮筐，另一个人跳起扣篮。我们称之为人机协作，在未来几十年里，这很可能会彻底改变我们与科技的关系。

人们似乎在担心机器人是否有一天会取代我们——它们是否会比它们的人类创造者更聪明、更快、更好？但现实是，机器人和人类可能会一直擅长不同的事情。而且，正如我们打算在这里表明的那样，一些难以解决的社会问题有可能通过我们设想的这种合作得到更好的解决。机器人应用非常广泛，通过人类和人工智能合作的方式，我们可以大幅减少交通事故造成的死亡，并开始解决困扰世界上几乎每个城市的拥堵问题。机器人作为个人的增强系统可以改善日常生活，帮助年老或者体弱的人实现独立生活。机器人护理员可以使急诊室更安全、更高效，缩短等待时间，提高护理水平。机器人还将给我们的日常生活带来无数虽小但有意义的其他改善，作为职场妈妈，我们的工作任务越来越多，因此我们很期待这些变化。

你可能会认为这样的机器人已经存在了。毕竟，你的Roomba可以自己打扫客厅。虽然Roomba绘制楼层平面图的能力似乎令人印象深刻，但它与其他任何家用电器并没有太大不同，我们目前遇到的大多数机器人都是如此。我们用简单的基于规则的行为限制它们的角色，并通过点击屏幕和其他简单的命令与它们互动。它们对我们了解甚少，而我们对它们的要求也相对较少。工厂里的机器人在笼子里工作。我们在通勤时打开自动巡航控制，但一遇到不熟悉的道路就把它关掉。早上醒来，我们会问Siri天气如何，或者让Alexa把牛奶加到购物清单上，但最终，我们要自己穿衣服，自己买牛奶。当Roomba卡在一簇地毯上或漏掉一些地方时，我们不会太苛刻地批判它——这是一台简单的机器，并且不够聪明。今天大多数机器人的功能都很有限，只能在可控的环境中工作，基本上需要不间断的人类监督。考虑到这些限制，它们的性能已经很不错了。

但是，人机协作是一种更具革命性的理念。新型智能机器人刚刚开始进入我们的城市和工作场所，它们的定义很大程度上取决于它们超越这些限制的方式。在社区里递送包裹的机器人，或者在商店里购物的机器人——我们称之为工作机器人——再也不能仅仅被认为是工具，它们构成了新的社会实体。让我们清楚一点：这些机器人是否有意识或像人类一样智能，这并不是真正的问题所在。事实上，许多工作机器人与有知觉的机器人相去甚远。关于未来的机器人，我们需要了解的是它们将不同于今天的机器人，在整个过程中，它们的角色都将受到社会互动规则的调节。它们会在某一方面变得更人性化：它们是否让我们的生活变得更好或更糟，取决于它们是否知道如何去做。

而且将来还会创造很多这样的机器人。如果我们正在描绘的场景感觉像一个遥远的梦，那是因为我们正在睡觉。当今世界上运行着170万个工业机器人1，这相当于波士顿、匹兹堡和旧金山人口的总和。在美国，家用机器人大约有3000万2，这还不包括Alexa、Siri、智能家居设备、人行道送货机器人、商店机器人、公寓保安机器人和医院服务机器人，它们现在经常出现在我们拜访朋友、办事和购物的时候。很快，你的前院和我们的社区可能会挤满无人机。美国国家航空航天局（National Aeronautics and Space Administration，NASA）、企业家和行业领袖正在加速努力，将我们的天空开放给城市空中机器人——无人机可以运送小包裹，乘客可以在公路交通的上空快速穿越城市。

这是星期二的早晨。你走出房子，走向你停在街上的车。与此同时，一个快递机器人正沿着人行道快速前行，试图在一天的发货截止日期前及时投递包裹。它发现你是附近的一个障碍，于是为了保证安全而停下来，但还是慢了一步——你的脚被它绊了一下，踉跄着向前一倒。这已经不是开始一天的美好方式了。开车去上班时，你停下来等行人过马路，就在你开过去的时候，你看到一个可能带着主人的笔记本电脑和三明治的小助手机器人跟在行人后面。它离地面很低，就像一只小狗——你几乎没有看到它。你猛踩刹车，勉强避开了满载笔记本电脑和三明治的机器人，但你后面的车轻轻地追尾了。在谢天谢地地确认两个保险杠都没有什么损坏后，你重新上路。但当你意识到自己现在正跟在一辆在一个新社区进行测试的自动驾驶汽车后面时，你感到非常沮丧。当你在其后以低于限速的速度“踱步”时，你会感觉时间变慢了，而且不管前方出现的物体是否真的在路上，你都要在3米内停下来。到达办公楼的时候，你已经准备好抓狂了，结果却发现一个送货机器人挡在了电梯门口，无法去按下电梯按钮。现在才早上9点，四个不同的机器人已经让你的生活变得更加困难，仅仅因为它们不是被设计来理解或关心你的。你不禁想知道这些机器人到底在帮助谁。

怎么制造一个能理解陌生人的机器人呢？实现这一目标的方法不是随意制造“更智能”或“更强大”的机器人，而是重新思考我们对技术的期望是什么。以搜救犬为例，它们不需要太多的指令，可以由人类训导员来引导——用微妙的手势来指示注意力集中的区域，它们通常会自己行动。搜救犬训导员依赖它们，它们也有自己的一套与人互动的社会规范。它们穿的背心提醒人们不要触摸或与它们互动。在具有风险的空间里，它们会被拴上皮带，这样它们的行为可能会受到更严格的控制。它们仍然是狗，但由于它们的角色——以及它们的训导员的角色——都是经过精心设计的，搜救队比狗或人独立完成的任务要多得多。

我们设想的人机协作方式是这样的：人和机器人在彼此周围转来转去，有时单独工作，有时在一起合作。只要一挥手，我们就能把一项繁重的任务交给机器人，有需要的人可能会请多个机器人助手来完成他们自己无法完成的事情。但这是双向的，正如机器人需要理解社会规范一样，它们也将要求我们重新考虑技术在日常生活中的地位。我们必须做出某些改变，无论是作为个人还是作为一个社会，必须将机器人融入我们的世界。这种合作关系需要人类和机器人有新的语言和规范。我们将不得不重新考虑所有基础设施，并且不得不考虑这样一个事实的影响：这些机器人将成为商品，一些人可以得到，而另一些人不能。由于这一切是由少数几家科技公司启动的，我们需要明确行业的道德责任，这是需要深思熟虑的集体行动。这就是本书的目的：找出是什么让机器人具有社会价值和个人价值，然后考虑在这样的社会中，如何才能确保我们制造的机器人具有这些特征。机器人将迫使我们重新思考技术在实践层面的作用，如思考机器人在社区中如何处理它们的旁观者这种问题，特别是技术将如何影响不同的社会群体。科技行业目前正在引领这一变革，但自主机器人的到来会影响我们所有人。要全面拥抱这样的未来，需要全社会的努力。

在过去的几年里，朱莉的丈夫——一名医生——经常把他在医院里遇到的新机器人的照片发给她。有一天，一个新的机器人出现了，一层楼一层楼地给病人送药。一位医生走进电梯，发现其中有一个这样的机器人，上面写着：“不要带领机器人进电梯。”医院工作人员不应该与机器人近距离接触或以任何方式与它互动，因为它仍在学习如何在人类环境中安全有效地发挥作用。有时，机器人可能不知道自己在医院里，并会在寻找线索时突然停止或重新启动。当然，这种不可预测的行为在电梯这样的狭小空间里会引起人们的关注。机器人基本上还是一个学生，就像新手司机一样，需要谨慎对待。

当我们看到汽车上的“新手司机”标志时，我们本能地知道如何改变驾驶行为。良好的驾驶行为不仅仅在于手册中包含的规则，还涉及许多非正式规则，驾驶员只能从经验中真正学习。驾驶员知道并遵守这些规则可使驾驶行为（大部分情况下）是可预测的。新手司机还没有这些心理模型，他们的经验不足，也许还有他们的疏忽，使他们有些不可预测，这可能造成不安全的环境。“新手司机”标志意味着该车周围的每位有经验的驾驶员都应该提前预料到意外的发生。

想象一下，如果你每天开车的时候周围都是新手司机，你会感到多么疲惫和压力巨大。现在想象我们生活中的每一天可能都要伴随这样的疲惫和压力甚至危险，你不得不处理与数以百计的机器人共存的问题。它们会出现在道路上、办公楼的走廊里、停车场、餐厅或医院，或者当我们走在街上时，它们可能在头顶嗡嗡地叫着，特别是当我们都遵守空间航行和安全规则，但它们却不理解时，情况会变得更加糟糕。事实是，在不久的将来，机器人还不会像“人”一样，但它们也不会是严格意义上的“工具”——只在我们命令它们的时候移动。它们将是全新的东西，但那会是什么呢？我们相信，未来的社会将越来越多地依靠一种新型的技术关系，即人机协作关系来运行。好处是巨大的，想想看，汽车事故每年在全球造成近125万人死亡3，也就是说，每天有超过3000人死于道路交通事故，仅在美国每天就有大约100人死亡4。交通事故是全球第九大死因。然而，2018年只有500人死于商业航空事故，前一年只有144人死亡5。这在一定程度上是因为航空业已经接受了人机协作的理念。在过去的几十年里，航空业重新定义了飞行员和飞机之间的关系，因此，两者都能弥补对方的缺陷，天空也更安全了（图1）。自动化让我们有机会在道路上达到类似的看似无法实现的安全效果。想象一下世界上每年死于交通事故的人不到100人，随着人与机器人的合作，这样的未来是可能的。

图1　飞机技术四个层次的技术创新的事故率：第一代（早期商用飞机）、第二代（集成度更高的自动飞行）、第三代（玻璃驾驶舱和飞行管理系统（FMS））和第四代（电传飞行）。来源：A Statistical Analysis of Commercial Aviation Accidents,1958–2016(Blagnac Cedex,France:Airbus,2017),https://flightsafety.org/wp-content/uploads/2017/07/Airbus-Commercial-Aviation-Accidents-1958-2016-14Jun17-1.pdf

要达到使航空如此安全和可靠的安全标准并非易事。但是，当我们开始考虑将机器人引入生活，并相信它们不会造成真正的伤害时，某些惨痛的教训却给我们提供了一些警示。毫无疑问，尽管有些独立的机器人做的仅仅是一些可能让人讨厌或给他人带来不便的工作，但有些机器人将有可能伤害他人甚至使人丧命。任何被应用到现代生活的混乱领域的自治系统，如果不仔细考虑它对人类的影响，就可能是危险的。在这本书中，我们将看到，在建立一个新的社会实体时，我们将不得不做出的各种决定。也许我们能提供的最重要的教训是：人类设计了机器人，但人类是不完美的。每次将自动化系统引入驾驶舱——自动驾驶、玻璃驾驶舱和电传飞行——致命事故就会暂时增加。只有在解决了最初的问题之后，我们才能获得效益。无论工程团队如何努力地设计一个新系统，或者评估者和监管者如何严格地测试它，它也永远不可能完美。

经过几十年的努力、实验和改进，工程师已经优化了复杂的人机协作关系，使商业航空运输系统为我们带来福祉。但是，就像为人父母一样，人类与机器的合作也需要付出努力，这不是我们一开始就能期待完美的事情。想想今天飞行员的学习过程，他们仍然需要通过各种培训来熟悉自动化的逻辑和行为，并学习如何依赖自动化。但他们也需要掌握在自动驾驶失灵时如何手动驾驶飞机。飞行员和飞行管理系统之间的伙伴关系是通过这种训练磨炼出来的。自动化系统无法预先设定好与飞行员完美配合的程序，就像一个人无法预先设定好与另一个人过上幸福生活的程序一样。开发自动化系统需要时间、专业知识和投资。但我们能合理投资多少这样的工作机器人呢？将会有许多机器人执行比我们今天想象的更多的任务，它们将尽其所能地出现在我们的日常生活中。在不具备丰富的培训或专有技术的情况下，我们必须尽最大努力与它们合作。航空方面的经验为机器人和人类如何合作提供了深刻的见解，我们将详细讨论其中的许多经验。关键在于人机协作将迫使我们将技术融入社会的新方法概念化。

尤其在安全问题上，确定什么是有效的人机协作关系比最初听起来要复杂得多。想象一下，当我们在城市街道上行走时，成群结队的机器人在人行道上疾驰而过的危险。这个问题不仅仅是规模问题，也不仅仅是日常生活中机器人数量的增加，挑战的核心是自动化技术的重要性的转变——从辅助技术到安全关键系统。

图2说明了我们的想法。在这里，我们试图获取不同应用程序的失败成本和操作所需的培训数量。例如商业飞行这种工业应用是高度复杂的，也就是说没有机器人是不可能安全控制这些系统的。此外，这些系统的操作人员都经过了充分培训，这些培训不仅涉及应用程序的基础（如物理、空气动力学和机电系统），而且包括机器人的使用。这些培训为操作人员提供了必要的知识，使他们在面对困难时也有能力管理系统。工业应用在图中用正方形表示。

相比之下，消费品在历史上不构成任何严重的安全风险，而且通常设计为即开即用，无须培训（可能除了阅读说明书）。例如Siri、Roombas和Alexa，这些在图2中用菱形表示。

图2　以培训小时数和故障成本衡量的操作人员专业知识的比较，适用于三类应用：工业应用（正方形）、商业产品（菱形）和一类新的安全关键商业产品（三角形）。来源：Laura Major and Caroline Harriott,“Autonomous Agents in the Wild:Human Interaction Challenges,”in Robotics Research:The 18th International Symposium ISRR,ed.Nancy M.Amato,Greg Hager,Shawna Thomas,and Miguel Torres-Torriti,Springer Proceedings in Advanced Robotics,vol.10(Cham,Switzerland:Springer,2020)

协作型工作机器人代表一类新型的消费产品，介于传统消费产品和工业应用之间。它们将机器人技术引入安全至关重要的活动和区域，例如，街道上的自动驾驶汽车、人行道上的运送无人机、监视库存或清理商店的机器人，以及医院的药物运送助手。这样的机器人能否在现实世界中生存，最终决定性的问题是我们能否弄清楚如何与它们互动。我们已经在与消费技术互动了，但现在的互动方式不足以说明未来这些机器人能够做的所有新的、存在潜在危险的事情。当然，它们不可能完全按照驾驶舱或航天器自动化的流程来设计——我们不能让所有人都成为机器人专家，就像飞行员在飞行训练中所做的那样，而且无论如何，日常生活比飞行模式更难预测。正确处理新的混合设计流程将是开启一个令人兴奋和多产的未来的关键。在未来，人类和机器将真正合作来提高生活水平，我们将相互借鉴对方的能力。尽管机器人可能造成巨大的破坏，但犯错绝对不是我们想要的。

第二个主要挑战是，这种新型安全关键消费产品的设计需要仔细考虑社会规范，正如飞机的合理设计需要考虑航空运输系统的基础设施和限制一样。飞机有特殊的设备来与空中交通管制和其他飞机通信。在起飞前，飞行路线必须获得批准，飞行员在飞行中修改路线之前必须申请并获得批准。导航解决方案基于监管机构定义的可接受选项，不同的规则适用于不同性能的飞机。有些飞机必须待在低海拔，只在晴朗的日子飞行；还有一些飞机可以在能见度极低的情况下飞行，进入更平稳、更快的轨道，从而减少飞行时间和延误。类似地，工作机器人需要在社会规范下工作，并遵守指导其在各种社会情况下安全使用的规则和条例。我们必须接受这一变化，并考虑如何将机器人作为合作伙伴来设计，要为这些新实体创建必要的基础设施和支持，而不是重新学习我们在最初几十年的航空运输中得到的惨痛教训。换句话说，我们必须开始把机器人理解为社会技术系统。

这本书的中心目标是探索未来工作机器人前所未有的设计挑战如何迫使我们面对技术在社会中的角色这一中心问题：我们可以从机器身上得到什么，它们又可以从我们身上得到什么？这个中心问题将由几个想法构成：如何利用人类和机器人的相对优势？自治系统是否会过于独立而不利于自身的发展？如何为公共场所中由其他系统支配的旁观者制定计划？我们将为人类和机器如何更好地预测彼此的行为提供设计框架和解决方案。作为这种方法的关键，我们引入了自动化功能可见性的概念，即为用户或旁观者提供线索，了解他们如何影响或调整机器人行为的设计特征。除了自然语言能力之外，自动化功能将为机器人和人类在任何情况下进行交流提供一种基本的语言。作为一个社会问题，工作机器人的引入将需要一定程度的透明度和协作，而目前科技行业大多缺乏这种透明度和协作。我们将讨论评估和测试智能机器的新方法，以确保利润动机不会危及公共安全。我们还将讨论将这些挑战仅仅视为技术问题的局限性，以及如何为工作机器人设计社会规范。

虽然我们可以从更广阔的视角——航空航天、工业系统和人类系统工程——学到很多东西，但我们也解决了在其他行业中没有先例的人类与机器人协作的挑战。工作机器人是一种安全至关重要的消费产品，其工作环境的可控性和可预测性都低于其他领域的应用，它们将与那些只接受过很少的培训或根本没有接受过培训的人进行交流，然后才会大批投入应用。

在这个新的环境中，我们使用和利用技术的旧范例很快就会消失。今天，我们觉得操作简单的机器人很容易，因为我们显然是在控制它们。但我们周围的世界正在迅速变化，机器人正在迅速进化：它们不再是我们指挥和查询的工具，而是我们将与之合作的智能伙伴。我们知道这一点，是因为我们在学术界和工业界的工作就是推动人工智能和机器人技术的进步，使这一愿景成为现实。本书作者之一朱莉是麻省理工学院人工智能和机器人研究实验室的负责人，重点研究技术的未来以及对人类思维进行逆向工程以使机器人成为更好的队友的潜力，她在制造业、交通运输和医疗保健领域开创了新型的人机协作模式。本书另一位作者劳拉一直在领导工业界的团队，为我们的天空和道路设计并开发新的自动驾驶系统。她还彻底改变了用于战场的数字助理，并将自动驾驶汽车变为现实。对于这项新事业，私人和公共部门对新型智能机器人技术的投资达到了空前的水平，同时大众对智能城市、智能学校和智能工作环境的愿景也浮出水面。

伴随着这些对未来的展望，许多人对这些新技术在经济、劳动力和社会方面的潜在影响感到非常不安。我们在路上看到保险公司的广告牌，敦促我们为退休做准备，因为机器人就要来了。很多人担心自动化会取代我们的工作，或者担心奇点：由于人工智能的进步，我们将在未来进入一个技术指数增长的时代。

想确保新的智能机器人能完成提高人类福祉的任务肯定需要集体的努力。但这本书的中心论点是：机器人不需要拥有超级智能，不需要统治世界，也不需要有能力替代所有人类劳动力，甚至对人类繁荣构成威胁。如果它们不知道在公共场合如何表现，那么有限的功能就已经足够了。一个知道如何乘坐地铁的机器人可能是革命性的，一个不知道怎样坐地铁的机器人，但又无论如何都要赶上地铁，那么它的破坏性不仅仅是让几个人上班迟到。

对技术的功能性使用和对机器人的整体接受之间存在很大的差别：在人行道上使用一个送货机器人可能是件新鲜事，而在城市里使用数百个这样的机器人则可能是件危险的事情。我们正处在这个阶段转变的悬崖边上，必须开始将对话从恐惧转向解决问题。这些解决方案存在于社会和技术的交叉点上。这就像社会共同抚养一个孩子，使他成为社会的一员，并充分发挥他的潜力，而训练机器人也一样。