现代统计信号处理(第一章)

4/30
统计信号处理的基本问题
举例1：通信系统
信源 变换 编码 调制 信道 信宿 反变换 解码 解调
处理要求：有效性问题、可靠性问题 处理约束：外部干扰、内部噪声、信号畸变 解决的问题：
噪声中信息检测问题 消除信号畸变的最佳滤波问题
School of Electronics and Information Engineering
特点：
高斯过程 自相关、互相关函数 统计量为二阶 中心极限定理 解决平稳、线性过程问题
一般为单入单出系统
School of Electronics and Information Engineering 18/30
1.3统计信号处理的发展历史
现代统计信号处理
20世纪60年代至今 统计理论
Select[FromDitits/@Partition[First[RealDigits[E,10,1000]],10,1],PrimesQ,1]
2.718281828459045235360287471352662497757247093699959 57496696762772407663035354759457138217852516642742746 63919320030599218174135966290435729003342952605956307 3813232862794349076323382988075319525101901
是从噪声背景中提取有用信息的最佳理论和方法。基本内容 包括了信号检测、估计和最佳滤波理论及其应用。
噪声
+
信号
观测信号
应用领域
统计
信号处理
通信、雷达、声纳、导航、自动控制、语音信号、图像、生物医 学、地震信号等
School of Electronics and Information Engineering
高阶统计量和高阶谱 低阶a稳定分布
现代统计信号处理
处理方法
时频分析 神经网络 盲信号处理PCA/ICA
估计理论：
自适应滤波 粒子滤波 数据融合
针对问题
阵列信号处理 非平稳 非线性
信号检测理论
CFAR检测 非参量检测 分布式检测
邱田爽等著
统计信号处理-非高斯信号处理及应用. 电子工业出版社，2004
J.G.Proakis(美)
统计信号处理算法，清华大学出版社，2006
School of Electronics and Information Engineering 3/30
第一章 引言
1.1基本概念
统计信号处理
x(t ) g ( ) s(t ) n(t )
e(t ) s(t d ) x(t )
School of Electronics and Information Engineering 15/30
1.3统计信号处理的发展历史
应用技术：统计方法的信号处理
2、卡尔曼滤波
信号检测的基础理论
相关接收机
H () cS* ()e jt0
School of Electronics and Information Engineering
17/30
1.3统计信号处理的发展历史
应用技术：经典的统计信号处理
20世纪50-60年代
使用统计的假设检验、参数估计、序列分析等 信号检测、估计等
Carl Friedrich Gauss(1777-1855)
ˆ g
1794，最小二乘法


2
1801，用于计算小行星谷神星轨道
School of Electronics and Information
1.3统计信号处理的发展历史
基础理论：统计推断的假设检验理论
3、稳定分布和广义中心极限定理：
School of Electronics and Information Engineering
1.3统计信号处理的发展历史
基础理论：统计推断的假设检验理论
4、显著性检验和最大似然法
Ronald Fisher（1890-1962）
1920，显著性检验 最大似然法 Fisher信息
Waterloo, Canada
ECE 603: Statistical Signal Processing, for Graduate student,
Steven M. Kay,
Fundamentals of Statistical Signal Processing, Prentice Hall, 1993
School of Electronics and Information Engineering
9/30
1.3统计信号处理的发展历史
基础理论：统计推断的假设检验理论
2、参数估计中的评价函数：
Pierre-Simon Laplace(1749-1827)
ˆ) g w(
以真值和估计值间的单调函数作为评价标准
P( ( x) | H 0 )
School of Electronics and Information Engineering 13/30
1.3统计信号处理的发展历史
基础理论：假设检验统计推断的假设检验理论
5、代价和风险原则、极大极小原理
Abraham Wald （1902-1950）
统计信号处理的基本问题
举例3：声纳系统
处理要求：
目标发现问题、目标定位问题
Βιβλιοθήκη Baidu 处理约束：外部干扰、内外部噪声、杂波 解决的问题：
传感器阵列目标定位问题
0
cos1
c 0 d
回波信号的波形估计问题
2 0
7/30
School of Electronics and Information Engineering
似然函数
f ( X ; )
2 I ( ) E ln f ( X ; )
School of Electronics and Information Engineering 12/30
1.3统计信号处理的发展历史
基础理论：假设检验统计推断的假设检验理论
Paul Pierre Lévy（1886-1971）
稳定分布 Alpha稳定分布1925

exp it ct (1 isng (t ) tan( / 2))
广义中心极限定理1937


11/30
有限方差的随机变量和的分布趋向正态分布。 具有无限方差的随机变量和的分布趋向稳定分布 f(x;α,0,c,0) 。
5/30
统计信号处理的基本问题
举例2：雷达系统
处理要求：目标发现问题、目标定位问题 处理约束：外部干扰、内外部噪声、杂波 解决的问题：
噪声中目标检测问题 回波信号延迟测量的最佳滤波问题
School of Electronics and Information Engineering 6/30
1.3统计信号处理的发展历史
应用技术：统计方法的信号处理
1、维纳滤波
Norbert Wiener（1894-1964）
1941，反飞机武器的自动瞄准系统
信息的通信可以看作一个统计学问题 最佳准则，使得系统性能可以被计算
1949，维纳滤波器
估计噪声中的信号
最小方差准则，寻找最佳函数g(t)使得误差函数最小 预测、滤波、平滑
School of Electronics and Information Engineering 8/30
1.3统计信号处理的发展历史
基础理论：统计推断的假设检验理论
1、贝叶斯定理：Thomas Bayes（1702-1761）
P( Ai | B)
以最大后验概率估计参数 先验知识的应用
不同的判决有不同的代价 代价最小的检验 极大极小原理（1939）
最小化最大可能损失
统计假设的序贯检验
Sequential Tests of Statistical Hypotheses
School of Electronics and Information Engineering
14/30
P( B | Ai ) P( Ai )
P( B | A ) P( A )
i 1 i i
n
1758年，"An essay towards solving a Problem in the Doctrine of Chances” 1763年，"A letter to John Canton”
Rudolf E. Kalman （1930-）
2008 Charles Stark Draper Prize
德雷珀奖
1960,”A new approach to linear filtering and prediction problems”, 随机离散系统的状态估计问题 1961, 和R.S.Bucy一起” New Results in Linear Filtering and Prediction Theory”,连续时间系统的状态估计问题 将维纳滤波问题扩展到非平稳的多入多出系统 应用广泛
School of Electronics and Information Engineering
16/30
1.3统计信号处理的发展历史
应用技术：统计方法的信号处理
3、匹配滤波器(Match Filter)
D.O. North
"An analysis of the factors which determine signal/noise discrimination in pulsed carrier systems”,1943 最大输出信噪比准则:从噪声和信号的统计特性出发,最佳线性滤波器的传递 函数为
特点：
非高斯过程 统计量为高阶或低阶 广义中心极限定理
量子检测
解决多入多出问题 School of Electronics and Information Engineering
19/30
1.4统计信号处理数学基础
1、随机过程
1.1一些定义
对任意时刻，x(t)是一个随机变量，均值定义为 方差定义为 自相关函数 协方差函数
2 2 2 x (t ) E x(t ) mx (t ) Ex2 (t ) mx (t )
mx (t ) Ex(t ) xp( x, t )dx




Rx (t1 , t 2 ) E x(t1 ) x(t 2 ) x1 x2 p( x1 , x2 , t1 , t 2 )d x1dx 2
1.2统计信号处理的数学描述
针对观测序列
估计问题：估计某个参数 ， 检测问题：
ˆ gx(0), x(1),x( N 1)
x(n) w(n) H 0 : H1 : x(n) s(n) w(n)
滤波问题
f (n) T x(0), x(1), x( N 1)
4、假设检验和矩的理论
Karl Person（1857-1936）
线性递归和矩的理论
Jerzy Neyman（1894-1981）
假设检验：Neyman-Person公式（1933） 假设 H1成立的似然比检验为
H 0 : 0 H 1 : 1
L( 0 | x) ( x) L(1 | x)
现代统计信号处理
Modern Statistical Signal Processing
电子与信息工程学院
School of Electronics and Information Engineering 0
Reference
Harvard University
Engineering Sciences 251r. Advanced Topics in Inference, Information, and Statistical Signal Processing