2.4 估计性质

按照估计所采用的准则不同，上面给出了最大后验、最大似然、最小均方误差和最小二乘四种基本的参数估计方法。另外，估计方法还包括矩估计法、条件种位数估计法等，这么多估计方法所得到的统计量都可以作为未知参数x的估计，而且对于同一个参量，往往有若干种方法进行估计，不同的估计方法可能会产生不同的估计量，为了选择估计效果最优良的估计量，就需要衡量估计量的性能，需要建立评判估计质量高低的性能指标，这就是本小节所要研究的问题——估计性质。

由于不同准则下获得的参数估计是观测数据的函数，而观测数据是随机变量，所以观测数据函数所得到的参数估计也是一个随机变量[10]，不同数据得到的估计也不相同，所以估计质量的高低需要用统计分析的方法来评判[11]，需要利用参数估计的数字特征对估计量的性能进行比较、评价[12]。为此，下面将介绍评价参数估计的4个主要性能指标：无偏性、估计的均方误差、一致性和有效性。

1.无偏性

无偏性是对估计量的一个基本而重要的要求，对于具有真实值x₀的非随机参数x，如果，则说估计是无偏的。若在k→∞的极限情况下上述结果仍然成立，则称为渐近无偏估计，否则为有偏估计[1，13]。

对于具有先验概率密度函数p（x）的随机变量x，如果，则说估计是无偏的，其中是关于联合概率密度函数p（Zk，x）的数学期望，E[x]是关于先验概率密度函数p（x）的数学期望。如果在k→∞的极限情况下上式成立，则称为渐近无偏估计，否则为有偏估计。

例2.5 求证：参数x的最小均方误差估计是无偏估计。

证明：

证毕。

2.估计的均方误差

估计量具有无偏性是估计质量保证的一个必要条件，也就是，利用某种准则得到的估计首先是希望估计量的均值能等于其取值中心，在此基础上还希望估计量的取值能集中在取值中心附近，也就是估计值相对于待估计参数均值的分散程度越小越好。因此需要建立估计第二个性能指标，即估计误差的方差。

对于具有真实值x₀的非随机参数x的无偏估计，其估计误差为，且，估计误差的方差为。对于随机参数x的无偏估计，其估计误差的方差为。由上述定义可以看出，估计误差的方差即为估计的均方误差。

例2.6 当参数x为非随机参数时，其真实值为x₀，请判断例2.3给出的四种估计是不是无偏估计？比较ML估计和MAP估计哪一个估计效果更好？

解：由例2.3知道上述情况下参数x的ML估计和LS估计是等价的，对其取均值有

由无偏估计的定义知道，当x为非随机参数时，它的ML估计和LS估计都是无偏的。当参数x是高斯随机变量时，它的MAP估计和MMSE估计是等价的，对其取均值有

由此可见，当x为随机参数时，它的MAP估计和MMSE估计也都是无偏的。另外，由于最小均方误差估计本身是条件均值，所以它总是无偏的。

由方差的定义知道，参数x的ML估计和MAP估计的方差分别为

由于估计的均方误差大小反映了估计值对真实值（或均值）的偏离程度，所以由式（2.80）可以看出MAP估计比ML估计偏离真实值的程度要小，这表明MAP估计比ML估计围绕着待估参数的波动就越小，所以MAP估计的效果要好一些。

3.一致估计

一致估计是指随着可利用的观测数据数量的增加，估计器给出的估计值越来越趋近于真实值，即估计值不同于真值的概率趋于零[1，13]。

估计一致性的判断可采用均方收敛准则，即

如果非随机参数满足

则估计即为一致估计；

如果随机参数满足

则估计即为一致估计。换句话说，也就是对非随机参数和随机参数而言，如果随着接收样本数量的增加，均方误差的极限等于零，则称该估计是均方一致的。如果某个估计为一致估计，则随着接收样本数的增加估计性能将变得越来越好。

4.有效估计

在同一参量的两个无偏估计中，以均方误差小者为好，但是估计量的均方误差最小能做到什么程度呢？可以证明，在一定条件下任何估计量都存在一个均方误差的下限，估计的均方误差不能小于而只能大于或者等于这个下限，这就是所谓的Cramer-Rao下界（CRLB）。

若参数估计对应的均方误差不小于Cramer-Rao下界（CRLB），则称该估计为有效估计。具体而言，如果非随机参数x的估计是无偏估计，并且均方误差是有界的，即

则非随机参数x的估计为有效估计。其中，

是Fisher信息，Λ_k（x）是似然函数，x₀是x的真实值。

如果随机参数x的估计是无偏估计，并且其均方误差是有界的，即

则随机参数x的估计为有效估计。其中，

式中，J-1叫作CRLB，它是与似然函数有关的一个确定的量。