信号检测与估计 ppt课件
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
信号检测与估计
6.2 广义似然比检验
如果所使用的估计是最大似然估计，则称为广义似然比检验，并且由下式给出
(6.2.1)
θ0和θ1是在假设H0和H1估计的未知参数。
Example 6.2
Consider the problem of Example 5.9, where m is an unknown parameter. Obtain the generalized likelihood ratio test and compare it to the optimum Neyman-Pearson test.
信号检测与估计
6.1 最大似然估计
如在前面的函数中所提到的，通常用最大似然（ML）估计来估计非随机参数。 令Y1，Y2，...，
Y令K具f有Y|样( 本y |值y)
1，y
2，...，y K的随机变量Y的K个观测值，并且这些随机变量是独立同分布的。
表示随机变量Y的条件密度函数。Y的密度函数取决于需要估计的参数θ，
信号检测与估计
6.2 广义似然比检验
Example 5.9 Consider the situation where the observations under each hypothesis are given by
where N denotes a white Gaussian noise of zero mean and variance σ 2 , and m is unknown. Then, we say that H0 is a simple hypothesis, and H1 a composite hypothesis. 由于K个观测值是独立的，所以在假设H1和H0下的条件密度函数是
Chapter 6
Parameter Estimation
成员：董春波 马和峰 李聘婷
信号检测与估计
6.1 最大似然估计
目
6.2 广义似然比检验
6.3 优良估计评价标准
6.4 贝叶斯估计
6.5 Cramer-Rao不等式
录
6.6 多参数估计 6.7 最佳线性无偏估计
6.8 最小二乘估计
பைடு நூலகம்6.9 递归最小二乘估计
信号检测与估计
6.2 广义似然比检验
其中m是未知参数。 由于假设H0不包含m，所以估计过程仅适用于假设H1。 根据（6.1.2） 给出的似然方程，假设H1下的m的似然估计由下式给出
代入式 则似然比检验为
得
或者
mˆ
1 K
K
yk
k 1
信号检测与估计
6.2 广义似然比检验
代入在上述表达式中获得的 mˆ 的值，并在取对数之后进行简化得
因此，σ 2的最大似然估计为
信号检测与估计
6.2 广义似然比检验
在例5.9中，我们解决了复合假设检验问题。参数m在假设H1下虽然已知m是正或负，但是值 是未知。 当m仅为正值（仅为负值）时，在UMP测试，判决规则为
m>0时
m<0时
由于设置参数m的正负致使实验结果不同，因此，对所有的参数m，UMP测试是不行的。因此 运用了上节所讲的最大似然估计。也就是说，假设H1是真，要用已有的样本来估计θ。如果假 设是正确的，我们可以用最大似然比检验。
信号检测与估计
精品资料
序言
在第5章中，我们学习了关于检测理论的问题，主要是解决在M个可能
的假设中来确定哪个假设是正确。
本章主要介绍假设接受的信号是正确的，但是有些相关联的参数是未
知的，主要的目的就是利用有限的样本参数用最佳的方式估计这些参数。
令Y1，Y2，...，YK为K个独立同分布的随机变量Y的样本，其密度函数
(a) Assuming the constant m is not known, obtain the ML estmiˆ mm late
of
the mean.
(b) Suppose now that the mean m is known, but the variance σ 2 is unknown.
等式两边同取对数得 利用式6.1.2 解似然方程得到似然估计得
得到 the ML estimator is
。 Thus,
信号检测与估计
6.1 最大似然估计
(b) 最大似然估计式为
方程两边取对数得
其中对lnL(σ 2)最大化等价于对σ 2最小化
由似然函数的不变性得
信号检测与估计
6.1 最大似然估计
可以求的最大似然估计量。如式6.1.2
(6.1.2)
ˆ
g (ˆ )
不变性：令L(θ)是θ的似然函数,并且g(θ)是参数θ一一对应的函数，即g(θ1)=g(θ2)
θ1=θ2
如果 是参数θ的最大似然估计量，则
是g(θ)最大似然估计量。
信号检测与估计
6.1 最大似然估计
Examle6.1
the received signal under hypotheses H1 and H0 was
由于 H1总是真的。
是非负的，如果η小于等于1（lnη负），则判定
因此，η可以设置为大于等于1的数。因此，不等式变换得
信号检测与估计
6.2 广义似然比检验
其中γ1>0。因此，上式等价于下式
取决于未知参数θ。 y 1，y 2，...，y K为样本Y1，Y2，...，YK所对应的
值，函数 g（Y1，Y2，...，YK）用来估计参数θ。 表示为
ˆg(Y1,Y2,...YK)
ˆg(Y1,Y2,...YK)
称为参数θ的估计。
通常，估计的参数可以是随机的或非随机的。 随机参数的估计被称为
贝叶斯估计，而非随机参数的估计被称为最大似然估计（MLE）。
Obtain the MLE of θ = σ 2 .
在第五章中，是确定假设中的那个假设是真的。而在本章中，假设H1是真的，参数是未知的需
要用最大似然估计来估计。 (a) 在例题中需要确定的参 ˆ 数
mˆ对m l应为
，m∈M,由于样本参数是独立同分布的，由
式6.1.1得似然函数：
信号检测与估计
6.1 最大似然估计
记最大似然函数为L(θ)，式6.1.1
(6.1.1) ˆ
似然函数最大的值 称为θ的最大似然估计量。为求最大似然估计量，我们利用数学中所
学的微积分。为了计算简单，利用对数函数，由于对数函数lnx是关于变量x的递增函数，由第五
章可知最大化L(θ)与ln(L(θ))等价。可以用最大似然函数的对数函数式求解，对参数θ求导数
6.2 广义似然比检验
如果所使用的估计是最大似然估计，则称为广义似然比检验，并且由下式给出
(6.2.1)
θ0和θ1是在假设H0和H1估计的未知参数。
Example 6.2
Consider the problem of Example 5.9, where m is an unknown parameter. Obtain the generalized likelihood ratio test and compare it to the optimum Neyman-Pearson test.
信号检测与估计
6.1 最大似然估计
如在前面的函数中所提到的，通常用最大似然（ML）估计来估计非随机参数。 令Y1，Y2，...，
Y令K具f有Y|样( 本y |值y)
1，y
2，...，y K的随机变量Y的K个观测值，并且这些随机变量是独立同分布的。
表示随机变量Y的条件密度函数。Y的密度函数取决于需要估计的参数θ，
信号检测与估计
6.2 广义似然比检验
Example 5.9 Consider the situation where the observations under each hypothesis are given by
where N denotes a white Gaussian noise of zero mean and variance σ 2 , and m is unknown. Then, we say that H0 is a simple hypothesis, and H1 a composite hypothesis. 由于K个观测值是独立的，所以在假设H1和H0下的条件密度函数是
Chapter 6
Parameter Estimation
成员：董春波 马和峰 李聘婷
信号检测与估计
6.1 最大似然估计
目
6.2 广义似然比检验
6.3 优良估计评价标准
6.4 贝叶斯估计
6.5 Cramer-Rao不等式
录
6.6 多参数估计 6.7 最佳线性无偏估计
6.8 最小二乘估计
பைடு நூலகம்6.9 递归最小二乘估计
信号检测与估计
6.2 广义似然比检验
其中m是未知参数。 由于假设H0不包含m，所以估计过程仅适用于假设H1。 根据（6.1.2） 给出的似然方程，假设H1下的m的似然估计由下式给出
代入式 则似然比检验为
得
或者
mˆ
1 K
K
yk
k 1
信号检测与估计
6.2 广义似然比检验
代入在上述表达式中获得的 mˆ 的值，并在取对数之后进行简化得
因此，σ 2的最大似然估计为
信号检测与估计
6.2 广义似然比检验
在例5.9中，我们解决了复合假设检验问题。参数m在假设H1下虽然已知m是正或负，但是值 是未知。 当m仅为正值（仅为负值）时，在UMP测试，判决规则为
m>0时
m<0时
由于设置参数m的正负致使实验结果不同，因此，对所有的参数m，UMP测试是不行的。因此 运用了上节所讲的最大似然估计。也就是说，假设H1是真，要用已有的样本来估计θ。如果假 设是正确的，我们可以用最大似然比检验。
信号检测与估计
精品资料
序言
在第5章中，我们学习了关于检测理论的问题，主要是解决在M个可能
的假设中来确定哪个假设是正确。
本章主要介绍假设接受的信号是正确的，但是有些相关联的参数是未
知的，主要的目的就是利用有限的样本参数用最佳的方式估计这些参数。
令Y1，Y2，...，YK为K个独立同分布的随机变量Y的样本，其密度函数
(a) Assuming the constant m is not known, obtain the ML estmiˆ mm late
of
the mean.
(b) Suppose now that the mean m is known, but the variance σ 2 is unknown.
等式两边同取对数得 利用式6.1.2 解似然方程得到似然估计得
得到 the ML estimator is
。 Thus,
信号检测与估计
6.1 最大似然估计
(b) 最大似然估计式为
方程两边取对数得
其中对lnL(σ 2)最大化等价于对σ 2最小化
由似然函数的不变性得
信号检测与估计
6.1 最大似然估计
可以求的最大似然估计量。如式6.1.2
(6.1.2)
ˆ
g (ˆ )
不变性：令L(θ)是θ的似然函数,并且g(θ)是参数θ一一对应的函数，即g(θ1)=g(θ2)
θ1=θ2
如果 是参数θ的最大似然估计量，则
是g(θ)最大似然估计量。
信号检测与估计
6.1 最大似然估计
Examle6.1
the received signal under hypotheses H1 and H0 was
由于 H1总是真的。
是非负的，如果η小于等于1（lnη负），则判定
因此，η可以设置为大于等于1的数。因此，不等式变换得
信号检测与估计
6.2 广义似然比检验
其中γ1>0。因此，上式等价于下式
取决于未知参数θ。 y 1，y 2，...，y K为样本Y1，Y2，...，YK所对应的
值，函数 g（Y1，Y2，...，YK）用来估计参数θ。 表示为
ˆg(Y1,Y2,...YK)
ˆg(Y1,Y2,...YK)
称为参数θ的估计。
通常，估计的参数可以是随机的或非随机的。 随机参数的估计被称为
贝叶斯估计，而非随机参数的估计被称为最大似然估计（MLE）。
Obtain the MLE of θ = σ 2 .
在第五章中，是确定假设中的那个假设是真的。而在本章中，假设H1是真的，参数是未知的需
要用最大似然估计来估计。 (a) 在例题中需要确定的参 ˆ 数
mˆ对m l应为
，m∈M,由于样本参数是独立同分布的，由
式6.1.1得似然函数：
信号检测与估计
6.1 最大似然估计
记最大似然函数为L(θ)，式6.1.1
(6.1.1) ˆ
似然函数最大的值 称为θ的最大似然估计量。为求最大似然估计量，我们利用数学中所
学的微积分。为了计算简单，利用对数函数，由于对数函数lnx是关于变量x的递增函数，由第五
章可知最大化L(θ)与ln(L(θ))等价。可以用最大似然函数的对数函数式求解，对参数θ求导数