第六章 相关函数的估计
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
6. 相关函数的估计(循环相关)
6.1. 相关函数与协方差函数 6.1.1. 自相关函数和自协方差函数
1、 自相关和自协方差函数的定义
相关函数是随机信号的二阶统计特征,它表示随机信号不同时刻取值的关联程度。
设随机信号)(t x 在时刻j i t t ,的取值是j i x x ,,则自相关函数的定义为
j
i j i j i j i
N
n n j
n i
N j i j i x dx
dx t t x x f x x
x x
N
x x E t t R ⎰⎰∑=
===∞
→),;,(1lim ]
[),(1
)
()(
式中,上角标“(n )”是样本的序号。
自协方差函数的定义与自相关函数的定义相似,只是先要减掉样本的均值函数再求乘积的数学期望。
亦即:
j
i j i j i x j x i
N
n x n j
x n i
N x j x i j i x dx
dx t t x x f m x m x
m x m x
N
m x m x E t t C j i j i j i ⎰⎰∑--=
--=--==∞
→),;,())(()
)((1lim )]
)([(),(1
)
()(
当过程平稳时,);,(),;,(τj i j i j i x x f t t x x f =。
这时自相关函数和自协方差函数只是i j t t -=τ的函数,与j i t t ,的具体取值无关,因此可以记作)(τx R 和)(τx C 。
对于平稳且各态历经的随机信号,又可以取单一样本从时间意义上来求这些统计特性:
时间自相关函数为:
⎰
+
-
∞
→+=22
)()(1lim
)(T
T T x dt t x t x T
R ττ
时间自协方差函数为:
⎰
+
-
∞
→-+-=22
])(][)([1lim
)(T
T x x T x dt m t x m t x T
C ττ
在信号处理过程中,有时会人为地引入复数信号。
此时相应的定义变成
][),(*
j i j i x x x E t t R =
)]()[(),(*
j i x j x i j i x m x m x E t t C --=
式中,上角标*代表取共轭。
2、 自相关和自协方差函数的性质
自相关和自协方差函数的主要性质如下:
(1) 对称性
当)(t x 时实函数时,)(τx R 和)(τx C 是实偶函数。
即
)
()(),
()()()(),()(*
*
ττττττττx x x x x x x x C C R R C C R R =-=-==
当)(t x 时复值函数时,)(τx R 和)(τx C 具有共轭对称性。
即
)()(),
()(*
*
ττττx x x x C C R R =-=-
(2) 极限值
)(,
)()0(,)0(2=∞=∞==x x x x
x x x C m R C D R σ
(3) 不等式 当0≠τ时,
)()0(),
()0(ττx x x x C C R R ≥≥
因此,
)0()()(x x x R R ττρ=
是一个小于等于1的无量纲量,称为自相关系数。
(4) 自相关和自协方差函数之间的关系
一般情况下:
j i x x j i x j i x m m t t C t t R +=),(),(
平稳情况下:
2
)()(x x x m C R +=ττ
(5) 非负定性
当)(t x 是实函数时,取一组离散时刻N t t t ,,,21 和一组对应的任意实数N k k k ,,,21 ,则必有
0)(1
1
≥-∑∑==j N
i N
j i j i x
k k t t R
当)(t x 是复值函数时,相应的系数也是复值时,则有
0)(*
1
1
≥-∑∑==j N
i N
j i j i x
k k t t R
6.1.2. 互相关函数和互协方差函数
1、 互相关和互协方差函数的定义
自相关函数和自协方差函数用来描述是单一随机信号的统计特征。
对于两个不同的随机信号则要采用互相关函数和互协方差函数来表示两个随机信号的不同时刻取值的关联程度。
设随机信号)(t x ,)(t y ,在时刻j i t t ,的取值是j i y x ,,则互相关函数的定义为
j
i j i j i j i
N
n n j
n i
N j i j i xy dy
dx t t y x f y x
y x
N
y x E t t R ⎰⎰∑=
===∞
→),;,(1lim ]
[),(1
)
()(
式中,上角标“(n )”是样本的序号。
互协方差函数的定义与互相关函数的定义相似,只是先要减掉样本的均值函
数再求乘积的数学期望。
亦即:
j
i j i j i y j x i
N
n y n j
x n i
N y j x i j i xy dy
dx t t y x f m y m x
m y m x
N
m y m x E t t C j i j i j i ⎰⎰∑--=
--=--==∞
→),;,())(()
)((1lim )]
)([(),(1
)
()(
当过程平稳时,);,(),;,(τj i j i j i y x f t t y x f =。
这时互相关函数和互协方差函数只是i j t t -=τ的函数,与j i t t ,的具体取值无关,因此可以记作)(τxy R 和)(τxy C 。
对于平稳且各态历经的随机信号,又可以取单一样本从时间意义上来求这些统计特性:
时间互相关函数为:
⎰
+
-
∞
→+=22
)()(1lim
)(T
T T xy dt t y t x T
R ττ
时间互协方差函数为:
⎰
+
-
∞
→-+-=22
])(][)([1lim
)(T
T y x T xy dt m t y m t x T
C ττ
在信号处理过程中,有时会人为地引入复数信号。
此时相应的定义变成
][),(*
j i j i y y x E t t R =
)]()[(),(*
j i y j x i j i xy m y m x E t t C --=
式中,上角标*代表取共轭。
2、 互相关和互协方差函数的性质
互相关和互协方差函数的主要性质如下:
(1) 对称性
当)(t x 时实函数时,)(τxy R 和)(τxy C 是实偶函数。
即
)
()(),
()()()(),()(*
*
ττττττττxy xy xy xy xy xy xy xy C C R R C C R R =-=-==
当)(t x 时复值函数时,)(τxy R 和)(τxy C 具有共轭对称性。
即
)()(),
()(*
*
ττττxy xy xy xy C C R R =-=-
(2) 极限值
)(,
)(=∞=∞xy y x xy C m m R
(3) 不等式
[])
0()0(2
1)(,
)0()0()(y x
xy y x xy R R
R R R R +≤
≤
ττ
(4) 互相关与互协方差之间的关系
一般情况下:
j i y x j i xy j i xy m m t t C t t R +=),(),(
平稳情况下:
y x xy xy m m C R +=)()(ττ
6.2. 相关函数的直接估计(线性相关)
1. 线性相关
自相关函数的直接估计是根据定义,但是采用离散时间样本来计算的。
根据定义有:
⎪⎭
⎫ ⎝⎛=+=∑⎰
-=+∞
→+
-
∞
→1
022
1lim
)()()(1lim
)(N n m n n N x T
T T x x x N m R dt
t x t x T
R ττ
因此,当有限的数据点数N ,自相关函数的估计公式是:
,2,1,0,1)(ˆ10
±±=⎪⎪⎭
⎫
⎝⎛=∑--=+m x x N m R m N n m n n x
注意,上式中的求和项总数不是N ,而是m N -。
因为当1--=m N n 时,
1-=+N m n ,此时m
n x +已经到达了N 点数据序列的边沿上。
2. 估计偏差
自相关函数的直接估计的偏差:
[]
[])
(1)(ˆ10
m R N
m N x x E N m R E x m N n m n n x -=
⎪⎪⎭⎫ ⎝⎛=∑--=+
可见,直接根据定义给出的自相关函数估计是有偏的,但是渐进无偏的。
根据这一估计偏差公式,还可以看出:延迟值m 俞大,估计的偏差也俞大。
这是因为当数据序列的总点数N 有限时,m 俞大,求和时可利用的数据俞少。
作为特例,当N m =,[]0)(ˆ=m R E x
,此时偏差与相关函数值相等。
为了使估计无偏,可以对估计公式修正,按照下式进行无偏修正估计:
,2,1,0,1
)(ˆ1
±±=⎪⎪⎭
⎫
⎝⎛-=∑--=+m x x m N m R m N n m n n x
3. 估计方差
自相关函数的方差特性分析要设计到随机过程的四阶矩,推导比较困难。
这里,给出对于高斯型随机过程,自相关函数有偏估计的方差公式:
[]
[]
)()()(11
)(ˆ2
1
)1(n m R n m R n R N n m N m R Var x x x m N m N n x
-++⎪⎪⎭⎫ ⎝⎛++=∑-----= 自相关函数无偏修正估计的方差公式:
[]
()
[]
)()()(1)(ˆ2
1
)1(2
n m R n m R n R N n m m
N
N
m R Var x x x
m N m N n x
-++⎪⎪⎭
⎫ ⎝⎛++-=∑-----= 从上式可以看到,当∞→N 时,上述两种估计的方差都趋于零。
可以证明,
即使随机过程不是高斯分布的,这一结论也成立。
不过,当数据序列点数N 有限,并且N m →时,无偏估计式的估计方差太大,远大于有偏估计式的估计方差,所以,实际应用中多采用有偏估计式。
实际工程中相关函数的应用价值,主要是根据相关函数的主峰值确定两个信号之间的时延值,这也是采用有偏估计式的另一个原因。
如果不考虑估计的计算工作量,采用直接估计算法,已经可以解决自相关函数的估计问题。
一般地,要求m N >>,通常要求样本点数N 为最大时延值m 的20倍以上。
在实际应用中,通常采用相关方法,确定两个信号间的时延值,为了达到较高的时间分辨率,采样频率较高,最大延时值m 一般较大,从而N 就很大,按照估计式就需要2/2N 次乘法运算。
例如时延点数取1024点,则数据样本点数至少要达到2万点,估计一次相关函数,至少要进行2万次乘法运算。
由于计算量非常大,不能满足实时估计的要求。
4. 直接估计算法
需要说明的是,上述估计公式是理论推导过程,在计算机上实施的实际估计算法公式是:
自相关函数的估计式:
)
1(,2,1,0,1)(ˆ10-±±±=⎪⎪⎭
⎫
⎝
⎛=∑--=+N m x x N m R m N n m n n x
如果先减掉信号的均值再进行计算,就得到自协方差函数的估计:
)1(,,2,1,0,1)(ˆ10-±±±=⎪⎪⎭
⎫
⎝⎛=∑--=+N m x x N m C m N n m n n x
互相关函数和互协方差函数也可以用类似算法来估计,只要把自相关或自协方差函数估计式中的一个信号用n y 代替即可。
此外,值得注意的是,由于它们不是偶函数,所以0≥m 和0<m 的估计式略有不同。
互相关函数的估计式:
)1(,,2,1,0,1)(ˆ10-+++=⎪⎪⎭
⎫
⎝
⎛=∑--=+N m y x N m R m N n m n n xy
)1(,,2,1,1)(ˆ10
----=⎪⎪⎭
⎫ ⎝⎛=∑--=+N m y x N m R m N n n m n xy
互协方差函数的估计式:
)1(,2,1,0,))((1)(ˆ10
-+++=⎪⎪⎭⎫ ⎝⎛--=∑--=+N m m y m x N m C m N n y m n x n xy
)1(,2,1,))((1)(ˆ10
----=⎪⎪⎭
⎫ ⎝⎛--=∑--=+N m m y m x N m C m N n y n x m n xy
6.3. 相关函数的间接估计(循环相关)
当M 较小时,直接估计算法是很有效的。
但是,当M 大时,其计算量与N M ⋅成正比例,乘法运算量很大,还不能利用FFT 算法。
为此,利用循环自相关可以通过FFT 快速算法进行计算的特点,提出了从数据序列的频谱估计相关函数的间接估计方法。
1. 循环相关
实数平稳的循环周期(圆周)序列(){}n x 的定义为
()()() =±=±=N n x N n x n x 2
式中N 为循环周期,或称圆周。
由循环周期序列(){}n x 所得的循环自相关函数的定义为:
()()())
1(,,2,1,0,
11
-±±±=+=
∑-=M m m n x n x N
m R
N n c x
2. 循环相关的DFT 快速算法
根据维纳-辛钦定理可知,自相关函数是自功率谱序列的离散傅立叶逆变换。
因此,很容易想到,可以通过自功率谱有限时间序列估计的IDFT ,也即有限时间序列的周期图的IDFT ,来计算自相关函数。
若(){}k X 为(){}n x 的离散傅立叶变换,则(){}n x 的循环自相关函数()m R c x 是离散频谱的周期图()⎭
⎬⎫⎩⎨
⎧21
k X N 序列的离散傅立叶逆变换。
由IDFT 的定义
()()()()()()()∑∑
∑∑∑∑∑∑-=-=-=-+--=--=--=-=--=-⎭
⎬⎫⎩⎨
⎧=⎭
⎬⎫⎩⎨⎧⎥⎦⎤⎢⎣⎡
⎥⎦⎤⎢⎣⎡=⎭
⎬⎫
⎩⎨⎧=
⎭
⎬⎫⎩⎨
⎧101
1
)
(1
01
101
0*
1
021
111
1
1
1
1
N l N n N k l n m k N k mk
N n nk
N l lk
N k mk
N k mk
W
N
n x l x N
W W n x W l x N N W
k X k X N
N W k X N N
根据第4章频谱分析理论中给出的指数因子性质,上式中,表达式
⎩⎨⎧±±==-+=∑-=-+-etc
r rN l n m N W
N k l n m k ,
0)
210(,,1
)
( ,,,
因为l n ,的取值范围是)1(~0-N ,m 的取值范围是N M M ≤-,)1(~0,故上式中r 的取值只能是0和1。
与此相对应,l 的取值只能是n m +和N n m -+。
根据DFT 的定义,当l 取值n m +和N n m -+时, 对应地,n 取值范围分别只能为)1(~0m N --和)1(~)1(---N m N 。
将这些分析结果代入前式中,进一步推导得
()()()()()()()
()()
∑∑∑
∑∑
∑∑-=--=--=-=-=-=-+--=-+=
-++
+=⎭
⎬⎫⎩⎨
⎧=
⎭⎬⎫⎩⎨⎧10
1
10101
01
)
(1
02111111
1
N n N m
N n m
N n N l N n N k l n m k N k mk
n x n m x N
n x N n m x N
n x n m x N W
N
n x l x N W k X N N
上述结论也就是循环自相关函数的定义式,因此有
()()∑-=-⎭
⎬⎫⎩⎨⎧=
1
021
1
N k mk
c x
W k X N N m R
也即
(){}()⎭
⎬⎫⎩⎨
⎧−−→←2..1
k X N m R T
F D c
x
3. 循环相关与线性相关之间的关系
进一步考察上述推导过程,不难发现,循环自相关函数包括两个部分,即
()
()()
()()()()
∑∑∑--=--=-=-++
+=
+=1
10
1
0111N m
N l m
N n N n c
x
N m l x l x N
m n x n x N
m n x n x N m R
上式中的第一部分实际上就是直接根据线性相关定义推导出的有偏估计式,即
()()1,,2,1,0,
1)(ˆ10
-++=+=∑--=N m m n x n x N
m R m
N n x
令)(m N n l -+=,则循环自相关的第二部分,可以写成
()()
()()
()()
)(ˆ)(1)()(11)
(10
)
(101
m N R m N
n x n x N
N
m m N n x m N
n x N N m l x l x N x
m N N n m N N n N m N l -=-+=-+-+-+=-+∑∑∑---=---=--=
也是一个线性自相关的有偏估计式。
因此,循环自相关与线性自相关之间存在下列关系式
()
()()
()()()()()()m N R m R m N
n x n x N
m n x n x N
m n x n x N m R
x
x m N N n m
N n N n c
x
-+=-++
+=
+=∑∑∑---=--=-=ˆˆ)(111)
(10
10
1
上式表明,由周期图经过IDFT 计算获得的自相关序列,是循环自相关序列,并
不是有限时间数据线性相关的有偏估计序列。
这种现象是由于DFT 变换在频域上进行了离散化所造成的。
离散频谱序列对应的信号时域序列是以有限序列点数N 为周期的循环时间序列,并不是原始无限长时间序列本身。
4. 估计算法
进一步考察循环相关序列和线性相关序列之间的关系,可以发现:循环相关序列是线性相关序列本身,与线性相关序列以N/2为中轴的镜像的叠加。
根据这一特点,可以通过在时间信号序列后面添加0,形成一个更长的新时间序列。
这个新序列改变了原始序列的周期性。
通过这个新时间序列的循环自相关序列的前M 个点就是原始时间序列(){}n x 线性自相关的无偏估计。
综上所述,我们可以采用下列步骤,计算10-≤≤M m 区间内的线性自相关
的有偏估计值()m R x
ˆ: (1) 把点序列(){}n x 增加1-M 个0,形成1-+=M N L 点的新的时间扩展序
列
()()⎪⎭
⎪
⎬⎫⎪⎩⎪⎨⎧=- 1
0,,0,0,M e n x n x ;
(2) 使用FFT 快速算法,计算形成的扩展序列的DFT ,即
()()1,,1,0,
1
-==
∑-=L k W
n x k X L n nk
e
e
(3) 计算扩展序列的周期图序列
()1,,1,0,1
2-=⎭
⎬⎫⎩⎨⎧L k k X N e
(4) 用FFT 算法,计算周期图的IDFT ,获得扩展序列的循环自相关序列
()()1,,1,0,
1
1
1
02-=⎭
⎬⎫⎩⎨⎧=
∑-=-L k W k X N N m R
N k mk
e
c
x e
(5) 取扩展序列的循环自相关(){}m R c x e
的前M 个点,得(){}m R x
ˆ,即 ()()1,,1,0,ˆ-==M m m R m R c x x e
前面提到,直接算法需要
2
2
N 次乘法的运算。
这种间接算法的计算量约需
)(log )(log
22M N M N L L ++=
次乘法。
因此,对于大的M 值,这种间接算法比直接估计更加快速有效。
值得指出的是,上述推导过程表明:间接算法获得的自相关函数的无偏估计
就是自相关函数的直接算法的无偏估计。
所以,间接算法,仅仅是一种加速算法而已,所获得的估计的误差和方差特性并无任何改变。
6.4. 相关函数的应用
1. 从噪声中检测信号是否存在
当观察时间序列(){}n x 中包含着被噪声(){}n n 淹没的信号(){}n s 时,如果信号与噪声互不相关,而且对信号的波形已有先验知识,则只要对(){}n s 和(){}n x 作互相关,就能检测出信号(){}n s 是否存在。
设
()()()n n n s n x +=
因为()()[]0=+m n n n s E ,所以
()()()[]
()()()[][]()()[]()()[]()()[]()
m R m n s n s E m n n n s E m n s n s E m n n m n s n s E m n x n s E m R s sx =+=+++=+++=+= 可见,所得互相关正是先验信号本身的自相关。
2. 估计两个相似信号之间的时间延迟
设(){}n y 是(){}n x 的延迟()()0n n x n x -=,则()m R xy
ˆ将在0n m =处达到最大值。
因为此时两信号波形完全重合。