序二

人类从来没有像对人工智能这样对于一种新技术这么纠结。按照尤瓦尔·赫拉利在《未来简史》中所说：“人工智能和生物基因技术正在重塑世界，人类正面临全新的议题。生命本身就是不断处理数据的过程，生物本身就是算法；计算机和大数据，将比我们自己更了解自己”。人工智能既可能使人类从“智人”进化到“神人”，但也有可能使得99%的人将彻底沦为无用阶级。与以往的新技术都不同，人工智能改变的不是生产资料、生产要素或者生产方式，而是改变“人”自身。

人类社会已经进入数字经济时代，《中共中央国务院关于构建更加完善的要素市场化配置体制机制的意见》已经把数据作为一种新型生产要素写入文件中，与土地、劳动力、资本、技术等传统要素并列为要素之一。与之相应的，人工智能将是数字时代最重要的生产工具，是推动人类进入智能时代的决定性力量，其作用和贡献绝不亚于蒸汽机、发电机和互联网。正是因为这是一场新的技术革命，在过去的十年中，世界主要国家都把发展人工智能作为国家竞争力的核心战略之一，都希望掌握主导权。在市场方面，我们可以看到AI正在以前所未有的速度改变各个行业。在互联网领域，由于互联网天然的全球性，使得全球数十亿用户的数据能够采集，加上AI芯片算力和深度学习训练模型的快速迭代，AI变得越来越聪明，在多个场景中都在应用推广，比如投保人可以通过AI智能保险理赔服务，大幅缩短传统人工理赔的流程；农户也可以在卫星遥感加人工智能技术支持下，通过自己田间地头的农作物就获得银行贷款。正是由于AI技术对这些应用场景中的支撑，才让服务更普惠，体验更友好，普通老百姓因此有了更多的“获得感”。

与此同时，我们对AI失控的担心从未消失。首先，AI技术的发展速度非常快，就像“技术奇点”的比喻一样，AI技术就像一列高铁，你远远地看到它来了，开始感觉还很慢，它不断地接近你，然后在它经过你身边的那个瞬间，你还没来得及看清它，它就已经消失在你的视野外。更现实的担忧还包括，人类工作被AI替代的焦虑、大数据杀熟、信息茧房效应引发的个群体性视野偏狭和思想极化等，都代表了技术给个体发展、权益保护和社会稳定带来的现实风险，也因此持续引发社会关注。

本书介绍了许多国家、国际组织在人工智能伦理方面的积极思考，以及为达成治理原则的国际共识所付出的持续性努力，代表了人类宝贵的自省能力和意愿。从商业机构视角看，我们始终坚持并呼吁，企业作为人工智能技术的重要研发推动方和应用方，是人工智能技术发展风险的“第一道防线”，应充分认知AI技术可能带来的风险，在战略层面上保持并不断强化“技术审慎”的心智，在战术层面上落实技术伦理要求的实操要求。这不是某一个人或某个机构的单打独斗，需要大家一起凝聚共识，拿出负责任的态度和行动，在用技术造福人类的同时，把对人和社会的损害和风险降到最低。

人工智能国际象棋、围棋、图像识别等领域已经超过人类的表现，全面呈现出超越人类表现是必然的趋势。我们今天的探讨只是一个开始，人工智能对于人类社会、文化、伦理带来的挑战还刚刚展开，今天的研讨在若干年后，可能会被认为非常幼稚和可笑。即使如此，认识到问题并采取行动，才能实现人类从“智人”走向“神人”。

蚂蚁集团合规部 李臣

2021年3月