2.1　神经网络基础

神经网络依靠复杂的系统结构，通过调整内部大量节点之间的连接关系，达到处理信息的目的。神经网络的一个重要特性是能够从样本数据中学习，并把学习结果分步存储在神经元中。在数学领域，神经网络能够学习任何类型的映射函数，并且已被证明是一种通用逼近算法，可以使用在任何闭区间内，构建一个连续函数。神经网络的学习过程，是指在其所处环境的激励下，相继给网络输入一些样本，并按照一定的学习算法调整网络各层的权值矩阵，待网络各层权值都收敛到一定程度，学习过程结束。

虽然有很多种不同的神经网络，但是每一种都可以由下面的特征来定义。

• 激活函数（activation function）：将神经元的净输入信号转换成单一的输出信号，以便进一步在网络中传播。
• 网络拓扑（network topology）或结构：描述了模型中神经元的数量、层数和它们的连接方式。
• 训练算法（training algorithm）：指定如何设置连接权重，以便减少或者增加神经元在输入信号中的比重。