序：重要的关注

人工智能，现在已经是一个非常热门的概念了。从各种媒体的报道来看，无论是国家政策、科学研究，还是产业开发，都紧密地围绕着这个虽然早已有之但却在近年来越发成为热点的话题，颇有不扯上人工智能就会落后，就会被时代抛弃的感觉。甚至连通俗的网络文学中，都有许多人工智能的主题。连带地，也出现了许多与严格或不严格意义上的人工智能研发应用有关的争议，例如关于人脸识别与监控的广泛应用引发的争议。

其实，关于研究开发人工智能的争议早已存在。在最根本的层面上，这实际上是一个涉及发展观的问题，即人们在强调发展时，是为了什么而发展以及怎样才算是理想的发展的选择的问题。同时，这也是一个科学观的问题，即人们发展科学技术并将之付诸应用在根本上是为了什么，以及对科学技术的不确定性和可能带来的风险的认识的问题。正像本书中作者提到的，2014年底，英国广播公司报道，著名理论物理学家霍金（Stephen Hawking）曾表示：“人工智能的全面发展可能导致人类的灭绝。”就算没有这样极端，人们至少也无法否认像人工智能的应用会带来的失业等几乎已经初见端倪的后果。

就作序者本人的立场来看，应该说是比较极端地反对像现在这样一窝蜂地极力研发人工智能的。我想，持有类似观点的人也应该还有一些，更有许多人或许是由于对可能带来的问题未加深入思考，或持一种强科学主义的信念而拥护人工智能。正像本书作者所指出的，在我国学者的讨论中，从事人工智能研究的学者几乎普遍对人工智能的将来持乐观态度，认为目前的人工智能技术不足以威胁人类。而江晓原教授则对之反驳说：“我们都知道‘养虎遗患’的成语，如果那些养老虎的人跟我们说，老虎还很小，你先让我们养着再说，我们能同意这样的论证吗？”

但无论有什么样的争议，我们毕竟生活在现实的世界中。在这个现实的世界上，存在着国家利益、经济利益的竞争，存在着不可阻挡的要发展更新、更高、更强科技的在观念上和利益上的追求，就像过去许多哪怕人们已经明确认识到本是威胁人类的科学技术应用，如核武器和生化武器之类的发明，也仍然不可阻挡地被发明出来付诸应用。人工智能显然也是一样，在现实中，其发展似乎也无可阻挡。但也正因为如此，面对现实和未来的人工智能发展，对其存在的伦理研究，就有着更加迫切的需要！

就像曾一度在学界流传的一则笑话一样，说不同的院校因不同的传统，对想象中可能要发布的一个研究开发制造椅子的课题持有不同的态度，有的不管三七二十一直接就把椅子造了出来，有的关心这样课题能带来多少篇SCI论文的发展，有的转去回顾经典作家关于造椅子的相关论述，更有的要论证：为什么要造椅子？必要性在哪里？本书的研究虽然不是对发展人工智能的必要性的研究，但至少是面对人工智能的发展可能给人类社会带来的最根本的伦理变化的重要研究。

不过，虽然迫切地需要这样的研究，但研究起来又是非常困难的。伦理的研究在整个人文领域的研究中本来就是最为困难的，甚至关于人类的伦理问题，至今也仍然存在着众多的不同立场、观点和理论，更不用说对于人工智能这样新的对象的伦理研究了。这里面既涉及人文，也涉及科学和技术，需要研究者有更广阔的视野和理论准备。在本书中，作者收集、汇总、分析了国内外众多研究者的相关工作（仅此便已经是非常有价值的研究了），讨论了军用机器人、情侣机器人和助老机器人等几个当下被突出关注的案例，尤其是讨论了其中涉及的传统的与新出现的伦理问题，并在更一般性伦理学背景下，针对人工智能会涉及的伦理问题进行了讨论，其中像对作者比较倾向的自反性伦理治理观点的讨论，对友好人工智能概念的问题的讨论，都是很有特色的。而且，作者的一些结论性的观点，也颇有深意，如：“人工智能安全问题从源头上看是由人工智能技术造成的，这应该使科学家认识到，科学技术研究并不是无禁区的，我们需要理性地发展人工智能。”“科学家应该意识到，科学与伦理有着不同的选择与评价标准，在进行机器人设计时，应该将科学与伦理结合起来，而不只是在科学的范围内从事研究。”

当然，作者的一些观点本人也并不是完全都能同意，此书也还存在着一些不足（如在内容和结构上并未明确区分人工智能和机器人的不同，尽管这两者间存在着密切的关联），但这些并不影响此研究的重要意义。毕竟这还只是国内学者对此重要领域和问题进行的开创性的系统研究，而对于人工智能的伦理研究将需要有更多、更深入、更细化的后续工作。而书中提出和讨论的问题，对于后续的研究者显然具有启发性的意义，仅此，应该说，就已经是非常有价值的著作了。

是为序。

刘兵

2020年1月26日于北京清华园荷清苑