高阶统计量
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
d ( s) mk E{x } (0) dsk
s 0
d ( s) dsk
(2)
6
高阶统计量
累积量生成函数与高阶累积量(cumulant)
累积量生成函数
(v) ln (v)
(3a)
或
(s) ln (s)
(3b)
称为累积量生成函数(第二特征函数或累积量母函数)。
c1 m1 E[ x]
c2 m2 m12 E[(x m1 ) 2 ] c3 m3 3m1m2 2m13 E[(x m1 )3 ]
2 c4 m4 3m2 4m1m3 12m12 m2 6m14 E[(x m1 ) 4 ]
(5)
• 结论: - 二、三阶累积量分别是二、三阶中心矩;均值为 零时, 就是二、三阶相关(矩) -四阶以上的累积量不等于相应的中心矩
(1)双谱估计的直接方法:
x(n) x( f ) B( f1 , f 2 ) X ( f1 ) X ( f 2 ) X * ( f1 f 2 )
14
高阶谱(续)
(2)双谱估计的间接方法:
2D-FT x(n) c3 x (m, n) 双谱
Fra Baidu bibliotek峰度
归一化峰度
k E x 4 (t ) 3 E x 2 (t )
三阶累积量-三阶矩: 描述了概率分布的不对称程度
偏态与峰态
将三阶矩除以均方差的三次方 ,得偏态系数或偏态:
3
sx
x
将四阶累积量除以均方差的四次方 4,得峰态:
4
c4
2 m4 3m2
3
c3
4
m4 3 4
4
4
m4
3
10
高阶谱
p 功率谱的缺点:x ( f ) X ( f ) X ( f )X *( f )
m1 m2
• 三阶相关函数的对称性 • 双谱的对称性、周期性和共轭性
20
三阶相关与双谱及其性质
确定性序列的双谱
设h(n)表示有限长确定性序列,其双谱可表示为 其中 设
Bh (1,2 ) H (1 ) H (1 )H * (1 2 ) H ( ) h(n)e jn
(1 , 2 ) (1 ) ( 2 ) (1 2 ) By (1, 2 ) Bh (1, 2 ) [当y(n) h(n M )时]
21
基于高阶谱的相位谱估计
自相关函数丢失了信号的相位特性,而累积量可以得到 信号的相位谱。 实际应用中,基于三阶累积量的双谱和基于四阶累积量 的三谱已经够用。
高阶谱估计
研究的必要性 高阶统计量 高阶谱 高阶累积量和多谱的性质 三阶相关和双谱及其性质 基于高阶谱的相位谱估计 基于高阶谱的模型参数估计 多谱的应用
参考:《现代数字信号处理》(184-199;204-205)
1
研究高阶谱的必要性
二阶统计量方法的基本限制
前面讨论的方法中,一般都假设: • 信号模型中的系统H(z)是最小相位的。 • 激励信号u(n)是均值为零,方差为 u2 的高斯白噪声。 • 测量信号v(n)是均值为零,方差为 v2 的高斯白噪声; 且v(n)与信号x(n)统计无关,即v(n)不影响信号的谱形状 故有 2
.......... ..........
8
高阶统计量
累积量的物理意义
高斯随机变量的高阶矩与累积量
高斯随机变量可用二阶矩完全描述。实际上,零均值高斯 随机变量的k 阶矩(或零均值的k 阶中心矩)为
可见,其高阶矩仍然取决于二阶矩 2 。 高斯随机变量只有一阶和二阶累积量;其二阶以上的累 积量为零, 它不提供新的信息。即 c1 m, c2 2 , ck 0(k 3) 若任一随机变量与高斯随机变量有相同的二阶矩, 则累积 量就是它们高阶矩的差。故有如下累积量的物理意义。
9
[1,3,5,...,(k 1)] k , k为偶数 mk E[ x ] k为奇数 0 ,
k
高阶统计量
物理意义
累积量的物理意义
累积量衡量任意随机变量偏离正态(高斯)分布的程度 一阶累积量-数学期望:描述了概率分布的中心
二阶累积量-方差:
描述了概率分布的离散程度
或
(s) E{e sx }
f ( x)e jvxdx f ( x)e sx dx
(1a) (1b)
其中 f(x) 是随机变量 x 的概率密度函数。 高阶矩:对(1b)求k 阶导数,得 k
k ( s) E{x k e sx }
k k
则随机变量x 的k 阶矩(即k 阶原点矩)定义为 k 由于k 阶矩由 (s)生成,故特征函数 (s) 为随机变量x 的矩生成函数(矩母函数),又成为第一特征函数。
17
高阶累积量和多谱的性质
主要性质(续)
Ck ,h ( 1 ,..., k 1 ) h(n)h(n 1 )...h(n k 1 )
n
确定性序列的多谱: 确定性序列{h(1),…,h(k)}的k阶累量
(7)
其 k 阶谱为
S k ,h (1 , 2 ,..., k 1 ) H (1 ) H ( 2 )...H ( k 1 ) H (i )
常用:常用的高阶谱是三阶谱(双谱)和四阶谱(三谱)。
12
高阶谱(续)
二阶谱即为功率谱,它是单个频率的谱。 三阶谱为双谱(bispectrum),即两个频率的谱
Bx (1 2 )
r1 r2
c
( 1 , 2 )e j (11 2 2 ) 3x
X ( )
2
Bx (1 , 2 ) X (1 ) X ( 2 ) X (1 2 ) X (1 ) X ( 2 ) X * (1 2 )
Tx (1 , 2 , 3 ) X (1 ) X ( 2 ) X (3 ) X (1 2 3 ) X (1 ) X ( 2 ) X (3 ) X * (1 2 3 )
n
双谱中的相位信息
则有
且有
Bh (1 , 2 ) Bh (1 , 2 ) e j (1 , 2 ) H ( ) H ( ) e j ( )
Bh (1 , 2 ) H (1 ) H ( 2 ) H (1 2 )
这表明双谱包含信号模型的相位信息 ( ); 而功率谱 S ( ) 不含相位信息 。
2
由功率谱只能恢复
X ( f ) ,不可能恢复 X ( f )
基于自相关函数的辨识系统,无法辨识非最小相位系统 “模型的多重性”
“自相关函数等价性”
“功率谱等价性”
11
高阶谱(续)
含义:高阶谱(Higher-order spectrum),又称多谱(polyspectrum), 是信号多个频率的能量谱。 定义:高阶谱定义为k阶累积量的k-1维DFT,即
19
三阶相关与双谱及其性质
定义
• 三阶相关: 设x(n)为零均值的实平稳序列,其三阶相关函数为 •双谱
Rx (m1, m2 ) E[ x(n) x(n m1 ) x(n m2 )]
Rx(m1,m2)的二维傅立叶变换就是双谱,其表达式为
性质
Bx (1 , 2 ) Rx (m1 , m2 )e j (1m1 2 m2 ) , 1, 2
四阶谱为三谱(trispectrum),即三个频率的谱
Tx (1 2 3 )
r1 r2 r3
c4 x ( 1 , 2 , 3 )e j (11 2 2 3 3 )
13
高阶谱(续)
功率谱: p x ( ) 双谱: 三谱:
以上事实说明:要准确地刻画随机信号, 仅使用相关函数 (二阶统计量)是不够的, 还必须使用更高阶的统计量。 三阶和更高阶的统计量统称高阶统计量。 相关函数: 刻画信号的粗糙像 高阶统计量:刻画信号的细节
5
高阶统计量
特征函数与高阶矩
(v) E{e jvx}
特征函数:随机变量 x 的特征函数定义为
Skx (1 ,, k 1 )
条件:
r1
c
rk 1
( 1 ,, k 1 )e j (11 k1k1 ) kx
“绝对可求和”
r1
c
rk 1
kx
( 1 ,, k 1 )
通常将k 3 的累积量谱称为高阶谱或多谱。
3
研究高阶谱的必要性
解决问题的方法
• 从观测数据中提取相位信息
• 信号分析必须具有抗有色噪声干扰的能力 因此,必须用高阶谱(高阶统计量)来分析信号
4
随机信号的高阶特征
不同ARMA过程具有相同形状的功率谱,即模型的多重性 两个具有零均值和相同方差的高斯白色噪声和指数分布 白色噪声显然是不同的随机过程,但它们的功率谱相同 用这样两个白色噪声激励同一个ARMA模型,产生的两个 ARMA过程显然是不同的随机过程,但它们的功率谱相同 两个灰度图相同的图像有可能是不同的图像。
高阶累积量:随机变量x 的k 阶累积量定义为
d k ( s) ck dsk
s 0
(3)
即累积量生成函数的k 阶导数在原点的值。
7
高阶统计量
累积量生成函数与高阶累积量(cumulant)
k ( • 关系:(注意:k 阶中心矩定义为 x E x ) )
高阶矩与高阶累积量的关系
16
高阶累积量和多谱的性质
主要性质 (8个性质)
最重要的性质如下:
和的累积量等于累积量之和,累积量因此得名。
随机信号通过线性系统后的累积量等于该随机信号 的累积量与线性系统冲激响应累积量的卷积
信号的高阶累积量能够决定信号模型的冲激响应h(n),
即用信号模型的输出信号(即观测到的信号)y(n)的高 阶累积量就能决定h(n)。
E x 4 (t ) k1 E 2 x 2 (t )
2
高斯信号 亚高斯信号 超高斯信号
k1 3 k1 3 k1 3
15
高阶谱(续)
归零化峰度
E x 4 (t ) k2 2 2 3 E x (t )
高斯信号: 零峰度
亚高斯信号: 负峰度 超高斯信号: 正峰度
k 1 i 1
(8)
式中
H ( ) h(n)e jn
n
18
高阶累积量和多谱的性质
用高阶累积量作为时间序列分析工具的原因
用高阶累量而不是高阶矩作为时间序列分析工具的原因: 理论上,使用高阶累积量可避免高斯有色噪声的影响, 高阶矩不能做到这一点。 高阶白噪声的高阶累积量是多维冲激函数, 其谱是多维 平坦的, 但高阶白噪声的高阶矩及其谱无此特性和优点; 累积量问题的解具有唯一性(因特征函数唯一地确定概 率密度函数),但矩问题不具有唯一性; 两个统计独立的随机过程的累积量等于各随机过程累积 量之和,这一结论对高阶矩不成立。
2 S yy ( ) S xx ( ) v2 u H ( ) v2 2 Ruy (m) E[u (n) y(n m)] u h(m)
2
研究高阶谱的必要性
二阶统计量方法存在的问题
• 在许多实际应用(如地震勘探、水声信号处理、远程通 信)中,往往不能满足上述假设;甚至系统是非线性的。 • 对于非高斯信号的模型参数,如仅仅考虑与自相关函数 匹配,就不可能充分获取隐含在数据中的信息。 • 若信号不仅是非高斯的,而且是非最小相位的,采用基 于自相关函数的估计方法所得到的模型参数,就不能反 映原信号的非最小相位特点。 • 当测量噪声较大,尤其当测量噪声有色时,基于自相关 函数的估计方法所得到的模型参数有较大的估计误差。
22
基于高阶谱的模型参数估计
基本原理
• 与AR功率谱估计(即单谱估计)相类似,AR过程的多谱 估计与已知的多谱相匹配的程度,也可用线性预测的多 谱来衡量,亦也可以用多谱的平坦度来衡量。说明如下: • 设用p 个值x(n)作线性预测,即 则预测误差 其多谱为 式中
s 0
d ( s) dsk
(2)
6
高阶统计量
累积量生成函数与高阶累积量(cumulant)
累积量生成函数
(v) ln (v)
(3a)
或
(s) ln (s)
(3b)
称为累积量生成函数(第二特征函数或累积量母函数)。
c1 m1 E[ x]
c2 m2 m12 E[(x m1 ) 2 ] c3 m3 3m1m2 2m13 E[(x m1 )3 ]
2 c4 m4 3m2 4m1m3 12m12 m2 6m14 E[(x m1 ) 4 ]
(5)
• 结论: - 二、三阶累积量分别是二、三阶中心矩;均值为 零时, 就是二、三阶相关(矩) -四阶以上的累积量不等于相应的中心矩
(1)双谱估计的直接方法:
x(n) x( f ) B( f1 , f 2 ) X ( f1 ) X ( f 2 ) X * ( f1 f 2 )
14
高阶谱(续)
(2)双谱估计的间接方法:
2D-FT x(n) c3 x (m, n) 双谱
Fra Baidu bibliotek峰度
归一化峰度
k E x 4 (t ) 3 E x 2 (t )
三阶累积量-三阶矩: 描述了概率分布的不对称程度
偏态与峰态
将三阶矩除以均方差的三次方 ,得偏态系数或偏态:
3
sx
x
将四阶累积量除以均方差的四次方 4,得峰态:
4
c4
2 m4 3m2
3
c3
4
m4 3 4
4
4
m4
3
10
高阶谱
p 功率谱的缺点:x ( f ) X ( f ) X ( f )X *( f )
m1 m2
• 三阶相关函数的对称性 • 双谱的对称性、周期性和共轭性
20
三阶相关与双谱及其性质
确定性序列的双谱
设h(n)表示有限长确定性序列,其双谱可表示为 其中 设
Bh (1,2 ) H (1 ) H (1 )H * (1 2 ) H ( ) h(n)e jn
(1 , 2 ) (1 ) ( 2 ) (1 2 ) By (1, 2 ) Bh (1, 2 ) [当y(n) h(n M )时]
21
基于高阶谱的相位谱估计
自相关函数丢失了信号的相位特性,而累积量可以得到 信号的相位谱。 实际应用中,基于三阶累积量的双谱和基于四阶累积量 的三谱已经够用。
高阶谱估计
研究的必要性 高阶统计量 高阶谱 高阶累积量和多谱的性质 三阶相关和双谱及其性质 基于高阶谱的相位谱估计 基于高阶谱的模型参数估计 多谱的应用
参考:《现代数字信号处理》(184-199;204-205)
1
研究高阶谱的必要性
二阶统计量方法的基本限制
前面讨论的方法中,一般都假设: • 信号模型中的系统H(z)是最小相位的。 • 激励信号u(n)是均值为零,方差为 u2 的高斯白噪声。 • 测量信号v(n)是均值为零,方差为 v2 的高斯白噪声; 且v(n)与信号x(n)统计无关,即v(n)不影响信号的谱形状 故有 2
.......... ..........
8
高阶统计量
累积量的物理意义
高斯随机变量的高阶矩与累积量
高斯随机变量可用二阶矩完全描述。实际上,零均值高斯 随机变量的k 阶矩(或零均值的k 阶中心矩)为
可见,其高阶矩仍然取决于二阶矩 2 。 高斯随机变量只有一阶和二阶累积量;其二阶以上的累 积量为零, 它不提供新的信息。即 c1 m, c2 2 , ck 0(k 3) 若任一随机变量与高斯随机变量有相同的二阶矩, 则累积 量就是它们高阶矩的差。故有如下累积量的物理意义。
9
[1,3,5,...,(k 1)] k , k为偶数 mk E[ x ] k为奇数 0 ,
k
高阶统计量
物理意义
累积量的物理意义
累积量衡量任意随机变量偏离正态(高斯)分布的程度 一阶累积量-数学期望:描述了概率分布的中心
二阶累积量-方差:
描述了概率分布的离散程度
或
(s) E{e sx }
f ( x)e jvxdx f ( x)e sx dx
(1a) (1b)
其中 f(x) 是随机变量 x 的概率密度函数。 高阶矩:对(1b)求k 阶导数,得 k
k ( s) E{x k e sx }
k k
则随机变量x 的k 阶矩(即k 阶原点矩)定义为 k 由于k 阶矩由 (s)生成,故特征函数 (s) 为随机变量x 的矩生成函数(矩母函数),又成为第一特征函数。
17
高阶累积量和多谱的性质
主要性质(续)
Ck ,h ( 1 ,..., k 1 ) h(n)h(n 1 )...h(n k 1 )
n
确定性序列的多谱: 确定性序列{h(1),…,h(k)}的k阶累量
(7)
其 k 阶谱为
S k ,h (1 , 2 ,..., k 1 ) H (1 ) H ( 2 )...H ( k 1 ) H (i )
常用:常用的高阶谱是三阶谱(双谱)和四阶谱(三谱)。
12
高阶谱(续)
二阶谱即为功率谱,它是单个频率的谱。 三阶谱为双谱(bispectrum),即两个频率的谱
Bx (1 2 )
r1 r2
c
( 1 , 2 )e j (11 2 2 ) 3x
X ( )
2
Bx (1 , 2 ) X (1 ) X ( 2 ) X (1 2 ) X (1 ) X ( 2 ) X * (1 2 )
Tx (1 , 2 , 3 ) X (1 ) X ( 2 ) X (3 ) X (1 2 3 ) X (1 ) X ( 2 ) X (3 ) X * (1 2 3 )
n
双谱中的相位信息
则有
且有
Bh (1 , 2 ) Bh (1 , 2 ) e j (1 , 2 ) H ( ) H ( ) e j ( )
Bh (1 , 2 ) H (1 ) H ( 2 ) H (1 2 )
这表明双谱包含信号模型的相位信息 ( ); 而功率谱 S ( ) 不含相位信息 。
2
由功率谱只能恢复
X ( f ) ,不可能恢复 X ( f )
基于自相关函数的辨识系统,无法辨识非最小相位系统 “模型的多重性”
“自相关函数等价性”
“功率谱等价性”
11
高阶谱(续)
含义:高阶谱(Higher-order spectrum),又称多谱(polyspectrum), 是信号多个频率的能量谱。 定义:高阶谱定义为k阶累积量的k-1维DFT,即
19
三阶相关与双谱及其性质
定义
• 三阶相关: 设x(n)为零均值的实平稳序列,其三阶相关函数为 •双谱
Rx (m1, m2 ) E[ x(n) x(n m1 ) x(n m2 )]
Rx(m1,m2)的二维傅立叶变换就是双谱,其表达式为
性质
Bx (1 , 2 ) Rx (m1 , m2 )e j (1m1 2 m2 ) , 1, 2
四阶谱为三谱(trispectrum),即三个频率的谱
Tx (1 2 3 )
r1 r2 r3
c4 x ( 1 , 2 , 3 )e j (11 2 2 3 3 )
13
高阶谱(续)
功率谱: p x ( ) 双谱: 三谱:
以上事实说明:要准确地刻画随机信号, 仅使用相关函数 (二阶统计量)是不够的, 还必须使用更高阶的统计量。 三阶和更高阶的统计量统称高阶统计量。 相关函数: 刻画信号的粗糙像 高阶统计量:刻画信号的细节
5
高阶统计量
特征函数与高阶矩
(v) E{e jvx}
特征函数:随机变量 x 的特征函数定义为
Skx (1 ,, k 1 )
条件:
r1
c
rk 1
( 1 ,, k 1 )e j (11 k1k1 ) kx
“绝对可求和”
r1
c
rk 1
kx
( 1 ,, k 1 )
通常将k 3 的累积量谱称为高阶谱或多谱。
3
研究高阶谱的必要性
解决问题的方法
• 从观测数据中提取相位信息
• 信号分析必须具有抗有色噪声干扰的能力 因此,必须用高阶谱(高阶统计量)来分析信号
4
随机信号的高阶特征
不同ARMA过程具有相同形状的功率谱,即模型的多重性 两个具有零均值和相同方差的高斯白色噪声和指数分布 白色噪声显然是不同的随机过程,但它们的功率谱相同 用这样两个白色噪声激励同一个ARMA模型,产生的两个 ARMA过程显然是不同的随机过程,但它们的功率谱相同 两个灰度图相同的图像有可能是不同的图像。
高阶累积量:随机变量x 的k 阶累积量定义为
d k ( s) ck dsk
s 0
(3)
即累积量生成函数的k 阶导数在原点的值。
7
高阶统计量
累积量生成函数与高阶累积量(cumulant)
k ( • 关系:(注意:k 阶中心矩定义为 x E x ) )
高阶矩与高阶累积量的关系
16
高阶累积量和多谱的性质
主要性质 (8个性质)
最重要的性质如下:
和的累积量等于累积量之和,累积量因此得名。
随机信号通过线性系统后的累积量等于该随机信号 的累积量与线性系统冲激响应累积量的卷积
信号的高阶累积量能够决定信号模型的冲激响应h(n),
即用信号模型的输出信号(即观测到的信号)y(n)的高 阶累积量就能决定h(n)。
E x 4 (t ) k1 E 2 x 2 (t )
2
高斯信号 亚高斯信号 超高斯信号
k1 3 k1 3 k1 3
15
高阶谱(续)
归零化峰度
E x 4 (t ) k2 2 2 3 E x (t )
高斯信号: 零峰度
亚高斯信号: 负峰度 超高斯信号: 正峰度
k 1 i 1
(8)
式中
H ( ) h(n)e jn
n
18
高阶累积量和多谱的性质
用高阶累积量作为时间序列分析工具的原因
用高阶累量而不是高阶矩作为时间序列分析工具的原因: 理论上,使用高阶累积量可避免高斯有色噪声的影响, 高阶矩不能做到这一点。 高阶白噪声的高阶累积量是多维冲激函数, 其谱是多维 平坦的, 但高阶白噪声的高阶矩及其谱无此特性和优点; 累积量问题的解具有唯一性(因特征函数唯一地确定概 率密度函数),但矩问题不具有唯一性; 两个统计独立的随机过程的累积量等于各随机过程累积 量之和,这一结论对高阶矩不成立。
2 S yy ( ) S xx ( ) v2 u H ( ) v2 2 Ruy (m) E[u (n) y(n m)] u h(m)
2
研究高阶谱的必要性
二阶统计量方法存在的问题
• 在许多实际应用(如地震勘探、水声信号处理、远程通 信)中,往往不能满足上述假设;甚至系统是非线性的。 • 对于非高斯信号的模型参数,如仅仅考虑与自相关函数 匹配,就不可能充分获取隐含在数据中的信息。 • 若信号不仅是非高斯的,而且是非最小相位的,采用基 于自相关函数的估计方法所得到的模型参数,就不能反 映原信号的非最小相位特点。 • 当测量噪声较大,尤其当测量噪声有色时,基于自相关 函数的估计方法所得到的模型参数有较大的估计误差。
22
基于高阶谱的模型参数估计
基本原理
• 与AR功率谱估计(即单谱估计)相类似,AR过程的多谱 估计与已知的多谱相匹配的程度,也可用线性预测的多 谱来衡量,亦也可以用多谱的平坦度来衡量。说明如下: • 设用p 个值x(n)作线性预测,即 则预测误差 其多谱为 式中