智能计算系统:从深度学习到大模型
上QQ阅读APP看本书,新人免费读10天
设备和账号都新为新人

1.3 驱动范例

如前言所述,本书的教学理念是应用驱动,全栈贯通。因此,我们通过一个具体的图像风格迁移深度学习任务,介绍在面向深度学习的智能计算系统中从算法到编程再到芯片是如何工作的。图1.4a是一张星空的图片,图1.4b是通过深度学习转换出来的梵高风格的星空图片。在智能计算系统中,图1.4a转换为图1.4b的处理过程包含以下几步。

图1.4 图像风格迁移

首先,建立能进行图像风格迁移的深度学习模型。这主要涉及神经网络和深度学习的算法等工作,包括如何抽取输入图像和模式图像特征,如何进行模型的训练等。具体神经网络和深度学习的算法基础会在第2、3章进行介绍。

其次,在智能计算系统上实现神经网络算法。第一步要用到深度学习编程框架,常见编程框架包括PyTorch和TensorFlow等。编程框架将深度学习算法中的基本操作封装成一系列算子或组件,帮助用户更简单地实现已有算法或设计新的算法。以PyTorch为例,矩阵乘计算过程的描述如图1.5所示。第4、5章将详细介绍深度学习编程框架的使用及工作机理。第二步,要有专门的深度学习处理器来高效地支撑深度学习编程框架,进而高效地支持深度学习算法及应用。第6章介绍深度学习处理器的基本原理。第7章具体介绍深度学习处理器的体系结构。在深度学习处理器上编程需要用智能编程语言(示例见图1.6),第8章介绍智能计算系统的抽象架构、智能编程语言的编程模型、语言基础、编程接口、功能调试、性能调优,以及如何基于智能编程语言BCL进行高性能算子的开发优化。第9章在前几章的基础上,以开源大语言模型BLOOM作为驱动范例,介绍当代面向大模型的智能计算系统。

图1.5 PyTorch示例

图1.6 智能编程语言示例

上述章节对应相应的实验,这些实验的具体内容在《智能计算系统实验教程》一书中有详细介绍。建议读者参考该教程实际动手实践各个实验,从而真正掌握从算法设计到编写程序再到硬件实现的完整智能计算系统知识体系。