第二章　人工智能的系统未来

2017年，各类人工智能会议层出不穷。这股洪流吸引了商界人士和政府官员齐聚一堂，同时激发了学术界的热情。我们意识到人工智能有改变经济的潜力，希望吸引世界上最优秀的经济学研究人员来思考人工智能。我们在多伦多组织了一次人工智能会议，为经济学家制定了研究议程。1

令我们吃惊的是，这次会议吸引了一大批与会者。斯坦福大学的保罗·米尔格罗姆后来因在经济学和计算机科学领域的创新而获得诺贝尔经济学奖，他回忆起1990年收到的一份类似邀请，主题是互联网经济学，当时他拒绝了，现在感到后悔不已。他说：“我清楚地记得，1990年，美国国家科学基金会问我是否有兴趣研究互联网经济学，当时我正忙于研究委托-代理理论、公司经济学和超模研究，所以我拒绝了。但这次我没有任何借口。我一定会到场的。”2

一些与会者对人工智能的影响持乐观态度。另一位诺贝尔经济学奖得主丹尼尔·卡尼曼说：“我认为，没有什么事情是我们能做，而计算机无法通过编程完成的。”3曾在奥巴马总统经济顾问委员会任职的贝齐·史蒂文森总结了这种乐观情绪，她指出：“经济学家认为人工智能代表着实现可观经济收益的机会。”4

其他人则持比较怀疑的态度。诺贝尔经济学奖得主约瑟夫·斯蒂格利茨就是其中一位担心人工智能会加剧不平等的人；经济学家、《纽约时报》前专栏作家泰勒·考恩认为人工智能的生产力会导致资源的稀缺；曾在以色列政坛工作的曼努埃尔·特拉伊滕贝格指出，如果一场变革发生，那么一项技术的长期利益就无关紧要了，这预示着人们对机器自动化的抵触情绪会不断增加，以及大众认为机器自动化会对就业产生影响。

一个特别有趣的担忧是，人工智能似乎对经济没产生什么影响。正如经济学家埃里克·布莱恩约弗森、丹尼尔·洛克和查德·西弗森所说的：

我们生活在一个矛盾的时代。使用人工智能的系统在越来越多的领域中与人类的水平相匹敌，甚至超越我们，并借助其他技术的快速进步推动了股票价格飙升。然而，在过去十年中，数据显示生产力下降了一半，且大多数美国人的实际收入自20世纪90年代末以来一直停滞不前。5

对那些研究技术史的人来说（正如我们在电力方面所看到的），这种矛盾并非前所未有。1987年，麻省理工学院的罗伯特·索洛有句名言：“各个地方都迎来了计算机时代，唯独生产力统计数据中没有。”计算机无处不在，但生产力却没有明显提高。这种模式很常见，于是经济学家开始关注“通用技术”出现时会发生什么情况，这些技术能够在诸多领域持续地提高生产力。6通用技术包括蒸汽机和电力，以及近些年的半导体和互联网。对我们的与会者来说，人工智能也可以被算作通用技术，而且是个不错的候选者。我们应该对此有何期望呢？从历史上看，这些技术最终改变了经济、企业的发展和工作方式，但在出现所有改变的几十年中，发生了什么呢？在这个“中间时代”又发生了什么呢？

人工智能创新系统

谷歌首席执行官桑达尔·皮查伊表示：“人工智能可能是人类有史以来最重要的事情。我认为它的影响比电力更深远。”7谷歌已经从人工智能中获益颇丰，但其他许多公司还没有。麻省理工学院《斯隆管理评论》和全球咨询公司BCG在2020年的一项研究中发现，仅有11%的组织表示从人工智能中获得了显著的经济效益。8这种结果并不是因为其他组织没有尝试，59%的组织表示有人工智能战略，57%的组织表示已经部署或试点了人工智能解决方案。

人工智能先驱吴恩达创立了谷歌大脑项目，并担任百度的首席科学家，他宣称：“人工智能是新的电力。它有潜力改变每个行业并创造巨大的经济价值。”9我们认同他的观点。人工智能具有改变世界的潜力，就像电力一样，但根据历史经验，这种变革将是一个漫长而曲折的过程。

电力的例子表明，对人工智能的未来保持乐观态度和对迄今为止的结果感到失望，并非固有的矛盾。布莱恩约弗森、洛克和西弗森强调了这个时代的悖论。我们应该乐观地期盼未来，同时也应该承受对当下处境的失望。事实上，在经济经历与变革性技术相关的结构调整时，我们有很好的理论性原因支持这两种情绪同时存在。

在电力的第一波浪潮中，灯泡取代了蜡烛，电动机取代了蒸汽机。这些都是点解决方案，无须进行结构调整。经济没有发生转型。

人工智能正面临相同的情况。它被用作预测分析的新工具。像Verafin等少数公司正在从增强版预测中受益，这是已经获得经济效益的那11%的公司。10它们早就进行预测，而人工智能让它们的预测更好、更快、更便宜。对于人工智能来说，最容易实现的目标是点解决方案，而这些目标正在逐渐达成。

就像只有在人们理解和利用分布式发电的巨大好处后，电力的真正潜能才被释放出来一样，人工智能也只有在其提供预测的好处被充分利用时，才能真正发挥其潜能。这明确指出了预测在改善决策过程中所起的作用。我们将证明，在许多情况下，预测将改变决策的方式，以至于整个组织的决策系统和流程都需要进行调整。只有到那时，人工智能才能真正被大规模地采用。

我们正处于“中间时代”——在人工智能的显在潜能得到证明后，但在其变革性影响出现前的时代。Verafin就像那些已经成功部署人工智能的11%的大型企业，因为它们的预测能够与现有系统相契合，系统操作和工作流程已经为利用这些预测做好了准备，而无须进行重大调整。

对于剩余89%的公司来说，它们的系统尚未做好准备。前景虽然是明朗的，但实现这一前景的路径还未明确。我们需要找到一种能够利用机器预测来更好地完成任务的方法，即利用预测来做出更好的决策。

人工智能将影响人类能做的所有事情，因为它们能够做出更好的决策。这不仅包括收集数据、构建模型和生成预测等技术挑战，还包括组织挑战，即在正确的时间让正确的人做出正确的决策。而且，它涉及战略挑战，即在获得更多的信息后，确定该如何以不同的方式去完成。

设置舞台

“中间时代”的特点是人们对点解决方案充满热情，并取得了成功，但人工智能似乎仍然是一项小众技术。不过，当前在应用解决方案方面人们有了一些发展和尝试。由于其特性，这些解决方案通常非常具体，它们改善了现有产品，如手机或汽车安全功能。

美国人口普查局询问了30多万家企业关于其使用人工智能的情况。已经采用人工智能的大型企业普遍强调利用人工智能来推动自动化和改进现有流程。换句话说，它们的人工智能是点解决方案和应用解决方案，因此系统并没有发生变化。这些人工智能对企业生产力的影响不大。11观察现有工作流程，找出人工智能可以替代人类的地方，能带来重大益处，不过这是渐进式的，并不能带来巨大的机遇。

在“中间时代”，企业家和企业管理者努力使应用具有经济可行性。正如内森·罗森伯格所言，对于所有技术来说，“无数创业的失败可以归因于这样一个事实，即创业者没有考虑到他所关注的部分与系统其他部分之间相互依存的条件”。12

只有在创新者将注意力转向创造新的系统解决方案时，真正的变革才会发生。这些系统解决方案将人工智能引入经济范畴，并且它们会刺激应用解决方案的发展。这种潜能的扩展和后续创新将使人工智能系统具有经济效益。

鉴于这些解决方案的重要性，我们有必要全面解释一下其内涵。下面让我们定义一下三个方案的概念：

· 点解决方案改进既有程序，可以独立采用，无须改变其所嵌入的系统。

· 应用解决方案可开启新程序，可以独立采用，无须改变其所嵌入的系统。

· 系统解决方案通过改变相关程序，改进既有程序或者开启新程序。

这些定义中的重点在于“独立”这一术语，它出现在点解决方案和应用解决方案的定义中，但在系统解决方案的定义中并没有出现。想象一下，我们有一个既有的或新的程序，通过采用新技术可以使其价值更高。如果增加的价值大于开发和采用该解决方案的成本，那么该解决方案在经济上就是可行的。而且，无论其他方面是否发生改变，它在经济上都是可行的。然而，如果新技术带来的收益太低，只有通过改变其他方面才能改善，那么在没有这些改变的情况下，独立采用在经济上是不可能的，一旦采用新技术，就需要同时改变多个流程。

因此，我们看到一些工厂很容易将电力作为点解决方案，用电力替代蒸汽。而且，一些应用程序也可以与电力发动机集成，并在既有的生产系统中使用。但在许多情况下，工厂需要重新设计，只有提供整个集中式电力系统和电网，才能让解决方案具有经济可行性。换句话说，系统解决方案将电力从既有能源的替代品转变为使用新能源的机会。

在第三章中，我们将重新审视《AI极简经济学》中的一个主题，即现代人工智能的进步本质上是预测技术的改进。此外，预测只有为决策服务才具有价值。因此，为了阐释本书所表达的主题，我们修改了之前的定义：

· 人工智能点解决方案：如果一项预测能够改善既有决策，并且该决策可以独立完成，那么该预测作为点解决方案就是有价值的。

· 人工智能应用解决方案：如果一项预测能够促成新决策或改变决策的方式，并且该决策可以独立完成，那么该预测作为应用解决方案就是有价值的。

· 人工智能系统解决方案：如果一项预测能够改善既有决策或促成新决策，那么该预测作为系统解决方案就是有价值的，但前提是其他决策方式发生了改变。

对于其他技术，虽然我们可以做“事后诸葛亮”，准确判断什么是独立的、什么是相互依赖的，但对于人工智能，我们仍须弄清楚系统的各个方面。本书就能帮助我们厘清这些问题。

系统变革是颠覆性的

根据历史经验，人工智能采用规模的巨大增长将来自系统变革，而这种变革也会是颠覆性的。所谓颠覆性，是指它将改变许多人和企业在行业内的角色，同时伴随着这些变化，引发权力的转移。也就是说，如果系统变革发生得相对迅速，则很可能会产生经济上的赢家和输家。

我们可以通过农业中的预测来感受这种颠覆性。农业是一个因机械化而大幅减少就业人数的行业，但是农场管理权仍然掌握在农民手中。尽管农场规模庞大，但决策权仍在农民手中，许多农场仍然归农民所有。农民利用天气预报来做决策，但一般而言，农民在预测和决策方面的技能与他们自身土地的特点紧密相关。

然而，情况正在发生变化。农民容易受天气条件的影响，但关键是，他们所受影响会因农作物和当地的土地条件而不同。这种风险是大卫·弗里德伯格（他是第一个通过互联网提供天气预报的人）在试图向美国农民销售保险时意识到的。除了天气数据，美国政府还拥有2 900万块农田的红外卫星图像和土壤成分数据，这使弗里德伯格能够计算出与农田或农作物相关的天气风险。13

弗里德伯格创办了气候公司，并向农民销售保险，但他很快就发现农民对他所掌握的与田地有关的数据也非常感兴趣：

他向农民展示了田地在任何时刻所含的湿度——如果超过一定水平，耕作就会对田地造成损害。他每天向农民展示降雨和温度情况——你可能认为农民知道这些，但农民可能管理着二三十块不同的田地，且这些田地分布在几个县里。他向农民展示了农作物的精确生长阶段、最佳施肥时机、播种的最佳8天及理想的收获日期。14

预测对于农民的关键决策有着重要驱动力：施肥、播种和收获。这些决策的目标几乎在哪儿都一样，即最大限度地提高产量。农业生产总是与农民的直觉判断有关，而气候公司将农业变成了决策科学及一种概率问题。农民不再玩轮盘赌博，而是玩21点，大卫·弗里德伯格所做的就是帮助农民算牌。15

农民习惯看到技术变革以他们能够使用的新工具形式出现，但预测正在改变他们的决策方式。事实上，这些决策不仅发生了变化，而且发生了转移。转移到了哪里？——远离美国农村的旧金山。这家位于美国西海岸的城市公司告诉堪萨斯州的农民：不应该再种植玉米了。

目前气候公司并不负责所有的农业决策，农民仍会做出一些关键决策。然而，正如弗里德伯格所指出的：“随着时间的推移，这些决策将会减少至零。一切都将被观察到，一切都将被预测。”16农民正在逐步接受这一点。作家迈克尔·刘易斯回忆道：“从来没有人问过弗里德伯格这个问题：如果我的知识不再有用，那我还有用吗？”17换句话说，这预示着农场管理将走向颠覆和集中化。我们不知道这需要多长时间，也不知道有些决策是否无法自动化。我们知道的是，业界认为这些工具潜力巨大。孟山都公司在2013年以11亿美元收购了弗里德伯格创办的气候公司。

随着预测机器的不断改进，农民不仅接受预测并做出决策，而且会将决策权让渡给他人。这可能会优化农场管理，因为拥有正确的信息、技能、激励措施和协调能力的人会做出更好的决策。但与此同时，农民将会扮演什么角色呢？他们现在是土地的所有者，但在这种变革之前，他们还能拥有土地多久呢？

本书主要内容

这本书的目的是开启人工智能系统解决方案之路。我们所关注的重点是决策和预测在其中所起的作用。

在第一部分，我们讨论了三位企业家的寓言，并介绍了在“中间时代”开发和部署人工智能所面临的挑战，这些挑战可能与电力以及过去其他通用技术所遇到的问题类似。为了更好地理解这些挑战和机遇，在第三章中，我们重温了《AI极简经济学》的主题，并描述了人工智能的核心是如何与预测相关的。

在第二部分，为了证明对于预测来说，仅靠点解决方案是不足以产生高价值的，我们深入探讨了决策过程。我们探索了三个普遍的主题。第一，做决策是困难的。相较于简单地遵循规则，它涉及认知成本。决策的好处在于能够根据新信息改变行动。当没有预测时，这些好处就不明显了。第二，人工智能预测可能会打破遵循规则的做事方式，让人们去做出决策，而规则和保护组织免受不利后果影响的相应措施可能会掩盖不确定性。因此，很难确定在哪里应用人工智能，因为不确定性被隐藏了。与此同时，这里也是最能强烈地感受到颠覆性的地方。如果不确定性浮出水面，那么努力将其隐藏起来的企业将面临危险。第三，决策之间的关系。当决策相互作用时，从规则转向由预测驱动的决策，实际上给系统增加了一定程度的不可靠性，而要克服这一点往往需要整个系统的变革。问题在于规则通常以微妙且不明显的方式，将既有系统紧密地联系在一起。因此，相较于改变现有系统，从头构建一个新系统可能更容易。所以，从历史上看，在需要对整个系统进行重新设计以实现优化时，新进入者和初创企业的表现往往优于成熟企业。因此，系统变革是颠覆在位企业的一个途径。

在第三部分，我们讨论了创建新系统的过程，这不仅涉及改变一个决策来应对预测，而且要使所有相互作用的决策都能发生变化。我们描述了采用系统思维和观察决策之间微妙关系的价值，尤其是以前有很多决策是由规则控制的。我们展示了人工智能预测已经对创新过程产生系统变革的影响，这让我们得以了解其他领域可能需要的变革。

在第四部分，我们揭示了整个系统变革的一个重要结果：对权力的影响。颠覆是一个过程，它与经济权力的重新分配有关——也就是说，在新系统下，创造最大经济价值的人将发生变化。我们回顾了较为近期的历史，解释了改变行业的颠覆是如何与整个系统的变革联系在一起的。同时，我们着眼于伴随人工智能出现的与权力相关的一种恐惧：机器是否会掌握权力。我们认为，人工智能的核心是预测且服务于决策，权力并非来自机器——尽管它们可能看起来很强大——而是来自机器背后的人，这些人引导它们如何对预测做出反应，而这就是我们所说的判断。随后，我们探讨了更好的预测能给相互竞争的企业带来哪些优势，以及支撑预测的数据。换句话说，预测如何推动权力的累积。

在第五部分，我们深入探讨了预测如何改变权力拥有者的机制，即人工智能如何进行颠覆。我们解释了人工智能的采用是如何将预测和判断“脱钩”的，在没有预测机器时，决策者是把预测和判断放在一起做出决策的。这引发了一个问题，即当前的决策者是否真的最适合去做出判断。然后，我们转向了“脱钩”后可能主导判断的人。我们探讨了判断如何从分散化转变为规模化，从而导致权力的集中。同样地，当预测涉及从规则到决策再到新系统的变化时，新的主导人在决策中发挥作用，因此成为新的权力中心。

在第六部分，我们讨论了系统设计，特别是针对建立在新的人工智能发展基础上的可靠系统，并提供了一个工具，帮助理解企业或行业是一个决策（或潜在决策）系统。当你获得强大的预测机器时，需要采取白板思维的方法，将你的任务与一小部分最基础的决策相匹配。我们首先解释了家庭保险业是如何做到这一点的，然后研究了医疗保健是如何实现这一点的，因为它已经在系统层面上面临来自人工智能应用的挑战。

最后，本书以很多人关注的对人工智能偏见的事例结尾。我们认为，将对人工智能的偏见视为一个点解决方案，可能导致部分人群对采用预测机器的合理抵制。但是，从系统思维的角度来看待偏见更加恰当。一旦我们了解到系统是如何调整以适应人工智能预测的，就会更容易看到人工智能是有机会消除偏见，而不会造成偏见的。

总体而言，由人工智能驱动的行业转型需要时间。刚开始人们并不清楚怎么做，许多人可能会进行试验然后失败，因为他们误解了需求，或者他们无法保证单位经济效益。最终，有人将取得成功，开辟出一条盈利之路。其他人会尝试模仿，行业领导者将试图修筑壁垒以保护其优势，有时这种做法有效。不过无论如何，行业都将发生转变，而且一如既往地会有赢家和输家。