序二
AI时代的曙光
这是一本论述人工智能的书，在这里首先讨论一个书中可能不涉及，但很基本的问题：人工智能的定义。
目前广为人知的定义是图灵测试，但这只能被看作一种泛泛的描述，并不是严格和精确的定义。比如，参与测试的人是什么样的人？向机器提出的问题是什么？这些问题都不明确。
上溯历史，我们发现人工智能的概念与自动化有着密切的关系，可以说自动化是这个概念的起源。在过去相当长的一段时间里，在人们的心目中，自动化就是人工智能。其实，人类制造和使用自动化装置的时间比我们想象得要早，远在电气时代之前，蒸汽机上就有自动调节蒸汽流量的装置，在更早的16世纪，伊丽莎白女王的宫廷里首次使用的抽水马桶也是自动化装置，如果向前追溯，肯定还有更早的例子。自动化大批量出现是在电气时代，先是由模拟电路实现自动化，后来电子管被晶体管所代替，再后来出现了集成电路，由日益复杂的软件所驱动。今天，我们在生活中要与无数的自动化系统打交道，比如电子商务系统、网上银行系统和网上购票系统等。
毋庸置疑，自动化系统表现出了相当多的智能特征，像网上银行这类系统处理着相当复杂的业务，其效率和精准度已高于人类雇员。即使是抽水马桶这样最简单的系统，也表现出一定的智能行为，它能够感知水箱的水位，适时开启和关闭给水阀门，这事它做得与人类一样好。但从抽水马桶到网上银行，我们都不把它们看作是人工智能。笔者曾经编写过一个写现代诗的软件，现在还在网上流行；而目前网上其他比较完美的自动作诗软件，所写出的中国古典诗词很难与人类所作的诗词区分开来。另外，近年来已经有不止一个系统在不同的实验室环境下通过了图灵测试。但这一切，我们都不把它们看成心目中的人工智能，为什么？
笔者在20世纪80年代最早参与开发的工业监控系统是以Z80处理器为核心的，用汇编语言编程。这个系统能够监测上百个机组参数，并根据参数的变化做出适当的调节，其功能是人工无法实现的。但在我们的眼中它也完全不是人工智能。汇编语言的特点就是透明性，它要在硬件层次手把手地教机器做每一步操作，比如把数据从这个存储器送往那个存储器，中断的调用和返回等都一一写明，所以当我从外部看到系统的动作时，脑中立刻有一幅明晰的流程图，立刻能知道哪几条指令被执行了。所以在我看来，这个监控系统与抽水马桶没有本质的区别。现在那些更复杂的系统，如网上银行和电子商务，这些软件的编制者一定清楚所有的内部操作流程，他们知道系统的每一步操作在软件中是如何进行的，这同样也是抽水马桶更复杂的版本。至于那些电子诗人和通过图灵测试的系统也一样，程序员清楚地知道它们是如何根据逻辑树检索数据库，然后组合出诗和答案的，所以至少程序员知道这不是智能。
这就涉及高明的中文房间比喻，当我们意识到房间中那些忙碌查找卡片的人时，智能的感觉就荡然无存了。
现在我们认为拥有人工智能的那些系统，比如，进化算法和深度学习等，都有一个共同特点：它们都或多或少地表现出了黑箱的特点，虽然从理论上它们内部的运算步骤仍然可以追踪，但由于计算量的巨大，使这种追踪实际上很困难甚至不可能。于是，我们真的感觉它们有智能了。
到这里，我们仍然无法得出人工智能的准确定义，但能够看到它的一个重要特点：一个具有智能特性的人造系统，它产生、输出的内部的运算过程是人类智能所无法解析的。换句话说，只有我们不知道机器在想什么、怎么想时，才认为它有智能。
看到这一点，每个人的心中应该都生出一股隐隐的寒意。是否人工智能的本质中，就隐含着它们最终失控的可能性？
这正是目前人们对人工智能关注的热点，用马斯克的话来说，人工智能正变成比核弹更危险的东西。媒体舆论给人一个印象，似乎机器的征途已经开始，人工智能征服世界指日可待。本书最后一章也显现了这种担忧。库兹维尔甚至在《奇点临近》中给出了人工智能纪元到来的具体年份：2045年。那时，现在读这本书的人有2/3还活着。
但理智地考察目前人工智能领域的状况，我们就能发现智力远超人类的“强人工智能”仍然属于科幻的范畴。公众喜欢从科幻的角度看问题，比起平常的现实，科幻确实能让人兴奋，任何从现实出发所进行的理智的预测都被斥为保守和没有想象力。但笔者作为科幻作家却只能说，与大家通常的印象不同，科幻小说中的预言真正变为现实的是少数，大部分预言要变为现实仍然遥遥无期。人们的潜意识中都认为，只要在理论上有可能突破的技术障碍，在未来就一定能够被突破，但事实并非如此。在人工智能方面，“强人工智能”的实现面对着许多巨大的技术障碍，如非冯·诺依曼体系的新结构计算机、对人类思维机制的深刻认识等，现在都无法确知最终能否取得突破。另外一些看似有希望的技术，如量子计算等，距实用还相去甚远。
所以，在对人工智能进行科学幻想的同时，我们更需要关注即将面对的“近未来”，这也正是本书重点讨论的话题。
人工智能近年来发展的趋势是开始走出实验室，进入人类生活，用一位互联网大佬的话来说，它们变得能用了。这样我们就面对着一个即将到来的挑战：人工智能不会夺走我们的自由和生命，但会夺走我们的饭碗，这不需要人工智能的失控，它们可以在资本家的完全控制下做成这件事。
有学者认为不必为这件事担忧，他们回顾工业化的历史，在20世纪初，美国有50%的农业人口，但随着农业机械化，现在的农业人口降到4%，而城市化吸收了多余的农民。但眼前发生的事情是不同的，当人工智能大规模进入社会后，人类能做的工作它们大部分都可以做，城市不会再有更多的就业岗位留给人类。通行的美好说法是，人们在常规工作中被人工智能取代后，可以去从事创造性的工作。问题是创造性的工作不是人人都可以从事的，也不需要那么多的人，如果社会分配制度不改变，一个全部由科学家和艺术家构成的人类世界几乎是一场噩梦，这上百亿科学家和艺术家中的绝大部分注定一生碌碌无为，对社会和自己都毫无用处，且沦入“创造性”的穷困潦倒中。
但这种思维方式总有些不对的地方。人类自古以来为生存而劳作，实在是迫不得已，工作着是美丽的，但谁都知道，不需要工作的生活更美丽。现在终于能够制造出把自己从工作重负中解放出来的机器，这是人类文明最伟大的成就，无论如何不应该被看作一场灾难，相反，这可能是人类所面对的前所未有的伟大机遇，只是，我们需要改变。
如何完成由现代社会向人工智能社会的过渡？有两种可能。
一种可能十分黑暗：在现有的社会、经济和政治体制下，人工智能带来的问题几乎是无解的。在人工智能迅速取代人类的过程中，没有及时建立起与之相适应的社会体制，在席卷全球的失业浪潮之下，世界的政治和经济将陷入长久的混乱之中，一切都笼罩在人工智能及其使用者与“新卢德派”领导的大众的无休止的冲突中。
另一种可能是，社会成功地完成转型。这将是有史以来人类生活方式最大的一次改变。不劳动者不得食，这个理念是人类社会的基石。文明诞生以来经历过多次巨大变革，这一基石从未改变，但人工智能可能会移除这一基石，进而导致从所有制和分配制度，到基本的经济结构，再到政治体制，直到文化，都发生根本的变化。这是真正的人类解放，是向着古老的乌托邦理想迈进的一大步。2016年是《乌托邦》发表500周年，但托马斯·莫尔无论如何不会想到，他的理想会借助于智能机器实现。我很有兴趣地想，如果卡尔·马克思知道人工智能这回事，他关于资本主义和共产主义的理论会是什么样子？
想象人工智能时代的社会和生活是困难的，即使在科幻小说中，我们也只能把种种可能性排列出来，而哪种可能性最有可能成为现实，取决于我们的努力和选择。但不管怎么说，那是一个诱人的时代，我们正向它走去。
刘慈欣
2016.12.10