TensorFlow与自然语言处理应用
上QQ阅读APP看书,第一时间看更新

2.3 神经网络介绍

神经网络这个词,其实是一个非常泛的概念,有两个类别:生物神经网络和人工神经网络。生物神经网络是研究生物学的,一般是指生物的大脑神经元、细胞、触点等组成的网络,用于产生生物的意识、帮助生物进行思考和行动。人工神经网络(Artificial Neural Networks,ANN)有时也称为神经网络(NN)或连接模型(Connection Model),它是一种模仿动物神经网络的行为特征,进行分布式并行信息处理的算法数学模型。这种网络依靠系统的复杂程度,通过调整内部大量节点之间相互连接的关系,从而达到处理信息的目的。人工神经网络是一种应用类似于大脑神经突触联接的结构进行信息处理的数学模型。在工程与学术界也常直接简称为“神经网络”或类神经网络。所以,我们有必要先简要介绍一下生物神经网络中的神经元模型。

神经元

对于神经元的研究由来已久,1904年生物学家就已经知晓了神经元的组成结构。一个神经元通常具有多个树突,主要用来接受传入信息;而轴突只有一条,轴突尾端有许多轴突末梢可以给其他多个神经元传递信息。轴突末梢跟其他神经元的树突产生连接,从而传递信号。这个连接的位置在生物学上叫作“突触”。神经元的基本功能是通过接受、整合、传导和输出信息实现信息交换。这样一来,神经元按照用途可以分为三种:输入神经、传出神经和连体神经。人脑中的神经元形状如图2-3所示。

图2-3 人脑中的神经元形状图