现代统计信号处理(第五章)
相关主题
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
T T a ( ) exp j u s F (ds) S
• SaS随机过程: 对随机变量集合{X(t),t∈T},随机变量 X(t1),X(t2),…X(tn)为联合SaS分布,且具有相同特征 指数,则{X(t),t∈T}称为SaS随机过程 • 特殊SaS分布，可以获得其概率密度函数
• 最大似然方法
/2 1/( 1) /( 1) f ( x ) x v ( ) exp[ x v( )]d 0 1
• 基于负阶矩的参数估计
o 负阶矩法
E X
p p
p p log X
o Log|SaS|法 Y log X • 定义Y • 性质
• 性质
o 关于随机变量和对称参数对称 o 有界且任意阶导数存在
• 对a>1的标准SaS可以渐近递推求解
School of EIE 12/15/2014 13
2.7SaS分布的随机过程
• 对实随机向量 x=[x1,…,xn] 的联合特征函数具有下列 形式，则 x=[x1,…,xn]是联合SaS分布，或 x=[x1,…,xn]服从SaS分布。
分数低阶统计及应用
• 在噪声中接收的信号里
o o o o 提取信息的统计参数估计理论 目标信号检测的统计假设检验理论 统计信号分析的功率谱估计理论 最佳滤波理论
• 信号概率模型、优化准则
o 信号模型： • Gauss随机过程 • Markov随机过程 • α 稳定分布随机信号模型等 o 优化准则：LS、LMS、ML、MAP
ˆ
0.0050 (2.16%) 0.0050 (1.69%) 0.0050 (1.77%)
ˆ eˆ lnˆ
• 基于特征函数估计
Method McCulloch (分位数) Koutrouvelis (特征函数) KogonWilliams School of EIE (特征函数)
ˆ
• Levy分布
S 1 ( ,1, )
2
1 1 2 f ( x) ( ) exp[ ] 3/ 2 2 ( x ) 2( x )
School of EIE 12/15/2014 7
概率密度函数特例
= 2, = 1, = 0, =0
1 0.3989
1 2
2
1
1
1
2
1
2
1
2
X ~ S ( , , )
School of EIE
X ~ S ( , , )
1, X X i nX1 n ln n i 1 11
12/15/2014
n
d
2
2.5广义中心极限定理
• 当且仅当X服从稳定分布，则X是下列归一化和的 极限分布
20
2.12 SaS参数估计
• 基于样本分位数估计
o 分位数定义为分布函数 o 样本分位数
F(x f ) f的x f
ˆ ˆ0.75 x ˆ0.25 x ˆ ( ) v
ˆ
0.0010 (22.01%) 0.0010 (21.01%) 0.0010 (21.14%)
ˆ v
ˆ0.95 x ˆ0.05 x ˆ0.75 x ˆ0.25 x
Sn ( X1 X n ) / an bn
• 其中 X i 是IID的。 • 特别的，如果 X i 是具有有限方差，高斯分布是 其极限分布---一般的CLT • PDF拖尾
School of EIE
12/15/2014
12
2.6 a稳定分布的概率密度函数
• PDF级数展开
1 (1) k 1 x ak k (ak 1)( ) sin[ (a )] 0 a 1 x k! r 2 1 f ( x; a, ) k k 1 1 ( 1 ) k x k ( 1)( ) ak sin[ (a )] 1 a 2 a r 2a x k 1 k!
2.2 a稳定分布
• 概念
高斯变量之和仍然服从高斯分布
和的分布仍然服从相同分布，PDF形状稳定 o 稳定分布 o a稳定随机变量 Sa ( , , ) o a稳定特征函数
a • 特征指数 • 倾斜参数 • 比例参数/分散系数 • 定位参数 School of EIE
a a exp j | | 1 jsign( )tg ( ) a 1 2 ( ) 2 a exp j | | 1 j sign( ) ln | | a 1
2.1稳定分布-引言
• 历史
o 广义傅立叶变换
f N ( x)
o N=a，a稳定分布 o 广义中心极限定理 o 应用
1
0
exp( t N ) cos( tx)dt
• 特性
o 唯一一类符合广义中心极限定理的分布 o 更加广义的高斯分布，适用更广 o 与实际相吻合
School of EIE 5 12/15/2014
• 经典二阶统计中 • 对数阶随机变量x
ˆ arg min ˆ 2 ( x u)
ˆ arg minS0 ( x u ) ˆ arg min E log x u
School of EIE
12/15/2014
19
2.11共变（“协方差”）
• 共变定义
2 a
6
12/15/2014
2.3特殊的a稳定分布
• 高斯分布
S2 ( ,0, ) N ( ,2 2 )
f ( x) (2 )1 exp(( x ) / 4 2 )
• 柯西分布
S1 ( ,0, ) / f ( x) ( x )2 2
School of EIE 1 12/15/2014
高斯分布模型
1引言
1 f ( x) e 2
( x )2 2 2
α稳定分布模型
j ( ) e
t an( ) 2 ( , ) 2 log( )
School of EIE
1.7005 (2.60%) 1.6988 (1.66%) 1.6994 (1.95%)
ˆ
0.1045 (110.72%) 0.0989 (108.21%) 0.0957 (110.59%)
CPU时间 0.025s 0.300s 0.085s
12/15/2014 21
2.12 SaS参数估计(续)
School of EIE
12/15/2014
16
2.9分数阶统计量(FLOS)
p E [| x | ] ① FLOM定义
o a<2的分数低阶a稳定分布，其二阶矩不存在 o 矩与分散系数的关系，u=0时 o 与随机变量x无关 p 1 p 1 2 ( ) ( p / a ) p/a C ( p , a ) 0 p a 2 p C ( p , a ) E[| x | ] a ( p / 2) pa
• 性质
① ② ③ 和的性质 独立条件下共变为零 与FLOM有关
[ X , Y ]a 0
E ( XY p 1 ) E( Y )
P
X , Y
E ( XY p 1 ) E( Y )
12/15/2014
P
y
[Y , Y ]a y
School of EIE
XY
12/15/2014
10
2.4性质
• • • • • • • 分布拖尾情况 SaS分布 高斯分布与分数低阶a稳定分布 u的作用 Y X c ~ S ( , , c) 加性 X i是IID的, X ~ S ( , , ) 对称性 1 1 n d 1 , X X n X ( n n ) i 1 无限二阶统计 i 1
1 j sgn( ) ( , )
1 sgn( ) 0 1
, (0,2]
1 1
0 0 0
12/15/2014
2
1引言
二阶统计 分数低阶统计 高阶统计
0
0.5
1
1.5
2
3
4 统计量的阶数
二阶统计：应用广泛但有约束条件：LS、线性系统、最小相位 高阶统计：保留的非高斯信号的幅度/相位信息、可应用于非 最小相位系统 分数阶统计：二阶及高阶不存在，需要新的优化准则
p p/a E [| x | ] C ( p , a ) ,1 p a, 0 ② 负阶矩
③ 零阶矩（下一页）
School of EIE 12/15/2014 17
2.10零阶矩
• 定义
o Gonalez的ZOS理论：p的选择 E[log | x |] o 对数阶 o a稳定分布过程称为对数阶过程
0
5
0 -5
0
5
School of EIE
x
12/15/2014
8
参量的变化
School of EIE
12/15/2014
9
a分布噪声-图像纹理
高斯纹理 SaS(a=1.5) 柯西(α=1.0 β=0)
Sa(α=1.2 β=-1)
SaS(α=1.2 β=0)
Sa(α=1.2 β=1)
School of EIE
2 tan(p / 2) E X C( p, )C( p, ) ,0 p min( ,1) sin( p / ) C ( p, ) E X E e
School of EIE
c S0 ( xc ) S0 ( x)
12/15/2014
18
2.1来自百度文库零阶矩
• 与FLOS的关系
p 1/ p o 定义FLOS的p阶矩推导的尺度参数为 S p ( E[| x | ]) S p S0 S p , p 0 o 那么几何功率与FLOS的0阶相关 S 0 lim p 0 o 均值估计
[ X , Y ]a xy
S a 1
u (ds )
z
z sgn( z )
• 共变系数定义
X ,Y
[ X , Y ]a [Y , Y ]a
[ AX1 BX2 , Y ]a A[ X1, Y ]a B[ X 2 , Y ]a
[ X , AY1 BY2 ]a A 1[ X , Y1 ]a B 1[ X , Y2 ]a
School of EIE 3 12/15/2014
2分数阶统计历史
• • • • • • • • 高斯 拉普拉斯 柯西 Levy（1925、1937） Doblin（1939） Mandelbrot（1960） Stuck（1978） Nikias（1993）、Fabricius
School of EIE 4 12/15/2014
a , ( ) exp
School of EIE
a
12/15/2014
14
例子：两元a分布的概率密度
α=0.9 β=1 γ=1
School of EIE
α=1.6 β=1 γ=1
12/15/2014 15
2.8 稳定分布的仿真
• • • •
高斯 柯西 Levy a稳定分布
Gaussian pdf
()
0 -5
f(x)
0
5
0 -5
0
5
= 1, = 1, = 0, =0
1 0.3162
Cauchy pdf
()
0 -5
f(x)
0
5
0 -5
0
5
= 0.5, = 1, = 0, =0
1 0.2624
Levy pdf
()
0 -5
f(x)
• 几何功率（零阶矩） S0 S0 ( x) exp{E[log| x |]}
1a o 稳定分布的几何功率 S0 (C ) / C, C 1.78 o 性质 S ( x) 0 0
S0 (cx) c S0 ( x) S0 ( x y ) S0 ( x) S0 ( y) S0 ( xy) S0 ( x)S0 ( y) S0 ( x / y) S0 ( x) / S0 ( y)
• SaS随机过程: 对随机变量集合{X(t),t∈T},随机变量 X(t1),X(t2),…X(tn)为联合SaS分布,且具有相同特征 指数,则{X(t),t∈T}称为SaS随机过程 • 特殊SaS分布，可以获得其概率密度函数
• 最大似然方法
/2 1/( 1) /( 1) f ( x ) x v ( ) exp[ x v( )]d 0 1
• 基于负阶矩的参数估计
o 负阶矩法
E X
p p
p p log X
o Log|SaS|法 Y log X • 定义Y • 性质
• 性质
o 关于随机变量和对称参数对称 o 有界且任意阶导数存在
• 对a>1的标准SaS可以渐近递推求解
School of EIE 12/15/2014 13
2.7SaS分布的随机过程
• 对实随机向量 x=[x1,…,xn] 的联合特征函数具有下列 形式，则 x=[x1,…,xn]是联合SaS分布，或 x=[x1,…,xn]服从SaS分布。
分数低阶统计及应用
• 在噪声中接收的信号里
o o o o 提取信息的统计参数估计理论 目标信号检测的统计假设检验理论 统计信号分析的功率谱估计理论 最佳滤波理论
• 信号概率模型、优化准则
o 信号模型： • Gauss随机过程 • Markov随机过程 • α 稳定分布随机信号模型等 o 优化准则：LS、LMS、ML、MAP
ˆ
0.0050 (2.16%) 0.0050 (1.69%) 0.0050 (1.77%)
ˆ eˆ lnˆ
• 基于特征函数估计
Method McCulloch (分位数) Koutrouvelis (特征函数) KogonWilliams School of EIE (特征函数)
ˆ
• Levy分布
S 1 ( ,1, )
2
1 1 2 f ( x) ( ) exp[ ] 3/ 2 2 ( x ) 2( x )
School of EIE 12/15/2014 7
概率密度函数特例
= 2, = 1, = 0, =0
1 0.3989
1 2
2
1
1
1
2
1
2
1
2
X ~ S ( , , )
School of EIE
X ~ S ( , , )
1, X X i nX1 n ln n i 1 11
12/15/2014
n
d
2
2.5广义中心极限定理
• 当且仅当X服从稳定分布，则X是下列归一化和的 极限分布
20
2.12 SaS参数估计
• 基于样本分位数估计
o 分位数定义为分布函数 o 样本分位数
F(x f ) f的x f
ˆ ˆ0.75 x ˆ0.25 x ˆ ( ) v
ˆ
0.0010 (22.01%) 0.0010 (21.01%) 0.0010 (21.14%)
ˆ v
ˆ0.95 x ˆ0.05 x ˆ0.75 x ˆ0.25 x
Sn ( X1 X n ) / an bn
• 其中 X i 是IID的。 • 特别的，如果 X i 是具有有限方差，高斯分布是 其极限分布---一般的CLT • PDF拖尾
School of EIE
12/15/2014
12
2.6 a稳定分布的概率密度函数
• PDF级数展开
1 (1) k 1 x ak k (ak 1)( ) sin[ (a )] 0 a 1 x k! r 2 1 f ( x; a, ) k k 1 1 ( 1 ) k x k ( 1)( ) ak sin[ (a )] 1 a 2 a r 2a x k 1 k!
2.2 a稳定分布
• 概念
高斯变量之和仍然服从高斯分布
和的分布仍然服从相同分布，PDF形状稳定 o 稳定分布 o a稳定随机变量 Sa ( , , ) o a稳定特征函数
a • 特征指数 • 倾斜参数 • 比例参数/分散系数 • 定位参数 School of EIE
a a exp j | | 1 jsign( )tg ( ) a 1 2 ( ) 2 a exp j | | 1 j sign( ) ln | | a 1
2.1稳定分布-引言
• 历史
o 广义傅立叶变换
f N ( x)
o N=a，a稳定分布 o 广义中心极限定理 o 应用
1
0
exp( t N ) cos( tx)dt
• 特性
o 唯一一类符合广义中心极限定理的分布 o 更加广义的高斯分布，适用更广 o 与实际相吻合
School of EIE 5 12/15/2014
• 经典二阶统计中 • 对数阶随机变量x
ˆ arg min ˆ 2 ( x u)
ˆ arg minS0 ( x u ) ˆ arg min E log x u
School of EIE
12/15/2014
19
2.11共变（“协方差”）
• 共变定义
2 a
6
12/15/2014
2.3特殊的a稳定分布
• 高斯分布
S2 ( ,0, ) N ( ,2 2 )
f ( x) (2 )1 exp(( x ) / 4 2 )
• 柯西分布
S1 ( ,0, ) / f ( x) ( x )2 2
School of EIE 1 12/15/2014
高斯分布模型
1引言
1 f ( x) e 2
( x )2 2 2
α稳定分布模型
j ( ) e
t an( ) 2 ( , ) 2 log( )
School of EIE
1.7005 (2.60%) 1.6988 (1.66%) 1.6994 (1.95%)
ˆ
0.1045 (110.72%) 0.0989 (108.21%) 0.0957 (110.59%)
CPU时间 0.025s 0.300s 0.085s
12/15/2014 21
2.12 SaS参数估计(续)
School of EIE
12/15/2014
16
2.9分数阶统计量(FLOS)
p E [| x | ] ① FLOM定义
o a<2的分数低阶a稳定分布，其二阶矩不存在 o 矩与分散系数的关系，u=0时 o 与随机变量x无关 p 1 p 1 2 ( ) ( p / a ) p/a C ( p , a ) 0 p a 2 p C ( p , a ) E[| x | ] a ( p / 2) pa
• 性质
① ② ③ 和的性质 独立条件下共变为零 与FLOM有关
[ X , Y ]a 0
E ( XY p 1 ) E( Y )
P
X , Y
E ( XY p 1 ) E( Y )
12/15/2014
P
y
[Y , Y ]a y
School of EIE
XY
12/15/2014
10
2.4性质
• • • • • • • 分布拖尾情况 SaS分布 高斯分布与分数低阶a稳定分布 u的作用 Y X c ~ S ( , , c) 加性 X i是IID的, X ~ S ( , , ) 对称性 1 1 n d 1 , X X n X ( n n ) i 1 无限二阶统计 i 1
1 j sgn( ) ( , )
1 sgn( ) 0 1
, (0,2]
1 1
0 0 0
12/15/2014
2
1引言
二阶统计 分数低阶统计 高阶统计
0
0.5
1
1.5
2
3
4 统计量的阶数
二阶统计：应用广泛但有约束条件：LS、线性系统、最小相位 高阶统计：保留的非高斯信号的幅度/相位信息、可应用于非 最小相位系统 分数阶统计：二阶及高阶不存在，需要新的优化准则
p p/a E [| x | ] C ( p , a ) ,1 p a, 0 ② 负阶矩
③ 零阶矩（下一页）
School of EIE 12/15/2014 17
2.10零阶矩
• 定义
o Gonalez的ZOS理论：p的选择 E[log | x |] o 对数阶 o a稳定分布过程称为对数阶过程
0
5
0 -5
0
5
School of EIE
x
12/15/2014
8
参量的变化
School of EIE
12/15/2014
9
a分布噪声-图像纹理
高斯纹理 SaS(a=1.5) 柯西(α=1.0 β=0)
Sa(α=1.2 β=-1)
SaS(α=1.2 β=0)
Sa(α=1.2 β=1)
School of EIE
2 tan(p / 2) E X C( p, )C( p, ) ,0 p min( ,1) sin( p / ) C ( p, ) E X E e
School of EIE
c S0 ( xc ) S0 ( x)
12/15/2014
18
2.1来自百度文库零阶矩
• 与FLOS的关系
p 1/ p o 定义FLOS的p阶矩推导的尺度参数为 S p ( E[| x | ]) S p S0 S p , p 0 o 那么几何功率与FLOS的0阶相关 S 0 lim p 0 o 均值估计
[ X , Y ]a xy
S a 1
u (ds )
z
z sgn( z )
• 共变系数定义
X ,Y
[ X , Y ]a [Y , Y ]a
[ AX1 BX2 , Y ]a A[ X1, Y ]a B[ X 2 , Y ]a
[ X , AY1 BY2 ]a A 1[ X , Y1 ]a B 1[ X , Y2 ]a
School of EIE 3 12/15/2014
2分数阶统计历史
• • • • • • • • 高斯 拉普拉斯 柯西 Levy（1925、1937） Doblin（1939） Mandelbrot（1960） Stuck（1978） Nikias（1993）、Fabricius
School of EIE 4 12/15/2014
a , ( ) exp
School of EIE
a
12/15/2014
14
例子：两元a分布的概率密度
α=0.9 β=1 γ=1
School of EIE
α=1.6 β=1 γ=1
12/15/2014 15
2.8 稳定分布的仿真
• • • •
高斯 柯西 Levy a稳定分布
Gaussian pdf
()
0 -5
f(x)
0
5
0 -5
0
5
= 1, = 1, = 0, =0
1 0.3162
Cauchy pdf
()
0 -5
f(x)
0
5
0 -5
0
5
= 0.5, = 1, = 0, =0
1 0.2624
Levy pdf
()
0 -5
f(x)
• 几何功率（零阶矩） S0 S0 ( x) exp{E[log| x |]}
1a o 稳定分布的几何功率 S0 (C ) / C, C 1.78 o 性质 S ( x) 0 0
S0 (cx) c S0 ( x) S0 ( x y ) S0 ( x) S0 ( y) S0 ( xy) S0 ( x)S0 ( y) S0 ( x / y) S0 ( x) / S0 ( y)