FOREWORD 序二

很高兴为陈雷教授的《MindSpore深度学习高阶技术》一书写序。如同蒸汽时代的蒸汽机、电气时代的发电机、信息时代的计算机和互联网，人工智能正成为推动人类进入智能时代的决定性力量。从1956年达特茅斯会议上人工智能的诞生开始，人工智能的发展经历了数次高潮和低谷。每次的发展高潮，都是由于当时的核心技术引起了人们极大的兴趣，吸引了大量资源的投入，但当人们发现巨大的资金和人才的投入不能达到预期成果时，人工智能的冬天也随之而来。

当前，我们正处于人工智能新的一次高潮中。2006年，三位科学家Geoffrey Hinton、Yann LeCun和Yoshua Bengio发表了关于深度神经网络方面的重要论文，人工智能开启了深度神经网络的新时代。截至目前，以深度学习为代表的人工智能技术已经在模式识别、计算机视觉、语音识别与生成、自然语言处理、机器翻译等方面取得了重大的突破和进展。也正因如此，在2018年，有计算机领域诺贝尔奖之称的图灵奖，颁给了这三位对深度学习作出重要贡献的科学家。

陈雷教授的这本书详细介绍了针对深度学习网络模型，如何开展数据处理、模型构建、训练及推理优化，包括自动数据增强、优化数据处理、自定义算子、自动微分、模型自动并行、二阶优化、图算融合、推理图优化等，帮助读者从实际场景需求出发逐步构建、优化自己的网络模型。书中不仅提供了详细的理论和方法指导，还结合MindSpore实践进行讲解说明，让读者能够知其然且知其所以然。

尽管深度学习取得了很大的进展，但是由于神经网络自身的非线性和复杂性，需要使用大量参数，网络模型参数数量动辄上百万甚至更多（GPT-3的参数达到1750亿）。虽然利用大量的数据进行深度学习，可以得到一个结果误差很小的神经网络，但要用它进行解释却十分困难，对一些可能造成严重后果的应用，就存在潜在的风险。而且有些精度很高的网络，改变它的几个参数后，就能使网络性能下降很多，深度学习的鲁棒性和泛化能力也有待进一步研究。

在本书中，我们惊喜地发现，陈雷教授和MindSpore开发团队在这些方面做了很多有意义的尝试，并取得了一定的成果。书中针对网络模型安全和隐私、模型可靠性、可解释AI及AI的公平性，都进行了系统性的论述，并结合一些实际场景中的样例进行了讲解说明，在一定程度上尝试解决上述问题。

另外，MindSpore具有Source to Source特性，它能让数据科学家在使用人工智能进行数据科学方面工作时，关注算法等逻辑本身，而无须为应用深度学习框架掌握高深复杂的编程技巧，这对于数据科学、物理、数学等研究领域的工作人员有非常大的帮助。

总之，本书不仅深入浅出介绍了基于MindSpore的深度学习高阶技术，让读者能够快速地熟悉和理解数据处理、模型构建、训练／推理性能优化等内容；而且在AI可解释性、模型可靠性、安全及公平性方面有独到的见解，在AI建模、科学计算上也有很好的实践。对于想要掌握并应用深度学习的学生、工程师和科研人员，本书都是一本不容错过的好书。

（郑纬民）

中国工程院院士

2021年9月