医信号处理方法参数估计

医信号处理方法参数估计
1
医学信号处理：参数估计
§5－1、概述
数理统计中由随机信号的一组样本估计信号 的统计特征，如均值、方差、均方、相关函数、 功率谱等，是一种简单而常见的参数估计。
在数理统计中，均值、均方和方差的估计是 按照定义，用有限个样本采用直接估计法来估计。
这里的参数估计问题应为：从含有噪声的观 察中估计信号的参数。
医学信号处理：参数估计
第五章 信号的参数估计
提出问题：信号估计（Estimations）——从受 噪声干扰的观测信号中估计信号参量和波形的问题， 即参数估计问题。
参量估计的目的：在有限个信号观测样值中， 以最佳方式估计信号的参数。 参数估计－被估计的量是随机变量（静态估计） 波形估计－被估计的量是随机过程（动态估计）
医信号处理方法参数估计
2
医学信号处理：参数估计
§5.1.1 数学描述：
设观察x=x1,x2,...,xN为随机变量s的独立同分布的N个 观测样值，x=s(a)+n，a为信号的参数，而 f(x1,x2,...,xN)是用来估计参量a的观测样值函数（统计 量），称：
aˆ ＝f(x1,x2,...,xN) 为参量a的估计量。aˆ 的均值即为 E[aˆ ]=E[ f(x1,x2,...,xN) 。
表明估计值都接近于均值，即 分a布ˆ 很集中，但并 不能保证均值E( )接a近ˆ 于真实值，也就是不能保证 各个 集中aˆ 分布于真实值a附近。
医信号处理方法参数估计
7
医学信号处理：参数估计
一致估计——根据以上分析，将估计偏差和方差结合 起来的综合量表示估计质量的好坏，即估计值的均方 误差。
如果随着样本数目的增加，估计的均方误差趋于 0，即要求当N→+∞时，偏差和方差都趋于0，则称此 估计为一致估计。 有效估计——由某一种估计方法得出的估计值的方差 小于其它任何估计方法得出的方差，则称该估计为有 效估计。如果该估计同时又是无偏的，则为均方误差 最小的估计。
其风险函数为：
2
c (ssˆ)p(s,x)dsdx
由于 p(s,x)p(s|x)p (x).
则风险函数为：
2
c [ (ss ˆ)p(s|x)ds]p(x)dx.
∵p(x)≥0 故MS最小即等效为上式括号[ ]内项最小
医信号处理方法参数估计
12
医学信号处理：参数估计
由上式内项对
s
求导有：
医信号处理方法参数估计
8
医学信号处理：参数估计
§5－2、非线性估计
§5.2.1 贝叶斯估计
是将贝叶斯判决理论，推广到对随机参量估计的贝叶斯估计
理论，都是使平均代价最小。
代价函数
若 s 是一参量， sˆ 是估计量，称 C( sˆ ,s)是代价函数，
它是 sˆ 和 s 的实值函数。
为双变量连续函数
风险函数(Risk function)
医信号处理方法参数估计
5
医学信号处理：参数估计
§5.1.3 估计准则
有关定义：
1、估计偏差 baˆ E[aˆ]a
2、估计方差
2 a ˆ
E[a ˆE （ a ˆ） ]2
3、估计值的均方误差 D a ˆa ˆ2 b a ˆ2E (a a ˆ)2
4、有效估计 E [a ˆ 1 E （ a ˆ 1 ） ] 2 E [a ˆk E （ a ˆk ） ] 2
要求通过一定的估计算法，使得aˆ 为按某一判据的a
的最优估计值，比如使得估计误差均方最小为最小 均方误差估计。
医信号处理方法参数估计
3
医学信号处理：参数估计
框图表示为： a
∑
x=s(a)+n
估计算法 aˆ
判据 最优估计
§5.1.2 参数估计方法分为两类：
一、非线性估计——已知待估参数的先验概率p(a)和 条件先验概率p(x|a)，依据某些最优判据，通过非线 性数理统计算法估计参数； 随机参量－其特性用概率密度来表征－贝叶斯估计 非随机参量－仅为一般的未知量－最大似然估计
所以c就是x和s的联合函数，所以有：
c cp(s,x)dsdx
用后验概率函数表示为：
c [ cp(s|x)ds]p(x)dx
令 R cp(s| x)ds ，R称为条件风险函数。 贝叶斯判据实际为以R最小作为判据。 医信号处理方法参数估计 11
医学信号处理：参数估计
情况(a)平方误差情况下，风险函数最小的估计量称为 最小均方估计(minimum mean square estimation)
5、一致估计 limE(aaˆ)2 0 N 医信号处理方法参数估计 6
医学信号处理：参数估计
估计准则：
无偏估计——如果待估计参数a和它的估计值 aˆ 的均 值 E(aˆ )相等，即E( aˆ )=a，就称为无偏估计，否则称
为有偏估计。 估计偏差越小，则各次估计值的均值接近于真
实值，但并不能保证每次估计值都接近于真实值， 而且各次估计值可能分布很分散；而估计方差很小，
d
2
(s sˆ) p(s | x)ds 0.
dsˆ
则有
2 (s sˆ)p(s | x)ds 0
由于
p(s| x)ds 1.
－
故
s ˆM S sp(s|x)dsE (s|x)..
定义为代价函数的均值 R E[C(s, sˆ)] 医信号处理方法参数估计 9
医学信号处理：参数估计
通常仅对估计值与真实值之差 s s sˆ 感兴趣，考虑误差函
数的代价，有下列三种情况：
(a)平方误差 C(s, sˆ) (s sˆ)2
(b)绝对值误差 C(s, sˆ) s sˆ .
(c)均匀代价函数
C
( s , sˆ)
1，s
0，s
sˆ sˆ
2 2
.
这样C定义为 单变量函数
典
( s sˆ ) 2
s sˆ
型
代
价
函
数
s sˆ
s sˆ
医信号处理方法参数估计
s sˆ
10
医学信号处理：参数估计
贝叶斯判据：平均代价最小，即 E(c)=min。
由于c是 s sˆ的函数，而 sˆ 又是观察值x的函数，
医信号处理方法参数估计
4
医学信号处理：参数估计
非线性估计方法经典，计算复杂，估计质量较好，但 是要求先验概率知识。
二、线性估计——在估计参数a为观察值x的线性 函数，基于最小均方误差准则进行估计。
前提条件：估计aˆ 必须是观察值x的线性函数。
线性估计方法计算简便，只要求一、二阶统计知识， 故先验知识要求低，估计质量较差，近年来发展较快。