上QQ阅读APP看书，第一时间看更新
3.4.3 GPLVM模型训练
GPLVM中需要确定的模型参数包括核函数中的超参数Θ和隐变量X。对GPLVM训练最直接的方法就是使观测数据Y的对数似然负数最小：
采用的优化算法是尺度共轭梯度（Scaled Conjugate Gradient，SCG）优化算法[9]。
对于超参数Θ，其梯度表示为
其中，
。
利用SCG算法计算Θ的具体步骤见算法3-4。
算法3-4 SCG算法
输入：观测变量Y，ε>0。
输出：模型超参数Θ。
1）初始化，选取初始点Θ1，令t=1。
2）迭代：
①按照式（3-30）计算对数似然的梯度。
②若
，则转到步骤3；否则转到下一步。
③令
。
④计算st=-gt+λtst，其中
。
⑤令Θt+1=Θt+λtst，
。
⑥令t=t+1。
⑦若‖gt‖≤ε，则转到步骤3；否则转到步骤2的第4步。
3）输出
。
SCG算法收敛时，得到对应的超参数的值。对隐变量X的优化与超参数类似。GPLVM整个训练过程采用对Θ和X的交替优化进行。