自相关函数和自协方差函数
随机过程的基本概念
随机过程的基本概念
1、随机过程的两种定义
①随机过程是所有样本函数的集合，记为ξ(t)。
样本函数：实验过程中一个确定的时间函数x i(t)，即指某一次具体的实现。
②随机过程是在时间进程中处于不同时刻的随机变量的集合。
随机变量：某一固定时刻t1，不同样本函数的取值即为一个随机变量ξ(t1)。
2．随机过程的分布函数
（1）n维分布函数的定义
（2）n维概率密度函数的定义
如果
存在，则称其为ξ(t)的n维概率密度函数。
3．随机过程的数字特征
（1）均值（数学期望）
①均值的定义
随机过程ξ(t)的均值或数学期望定义为
②均值的意义
E[ξ(t)]是时间的确定函数，记为a(t)，表示随机过程的n个样本函数曲线的摆动中心。
（2）方差
①方差的定义
随机过程ξ(t)的方差定义为
常记为σ2(t)。
②方差的意义
方差等于均方差与均值平方之差，表示随机过程在时刻t相对于均值a(t)的偏离程度。
（3）相关函数
①协方差函数
协方差函数的定义为
②自相关函数
自相关函数的定义为
③R(t1，t2)与B(t1，t2)的关系
④R(t1，t2)与B(t1，t2)的意义
衡量随机过程在任意两个时刻上获得的随机变量之间的关联程度。
⑤互相关函数
设ξ(t)和η(t)分别表示两个随机过程，则互相关函数定义为。
ar模型均值方差自相关推导及结果
ar模型均值方差自相关推导及结果自回归（AR）模型是一种常用的时间序列模型，用于描述时间序列数据之间的依赖关系。
AR模型的推导涉及到均值、方差和自相关的计算。
首先，我们来看AR模型的定义。
对于一个AR(p)模型，其数学表达式可以写作：Y_t = c + φ_1Y_(t-1) + φ_2Y_(t-2) + ... + φ_pY_(t-p) + ε_t.其中，Y_t是时间序列的观测值，c是常数，φ_1至φ_p是模型的参数，ε_t是白噪声误差项。
这个模型表示当前时刻的观测值与过去p个时刻的观测值之间存在线性关系。
接下来，我们来推导AR模型的均值、方差和自相关性质。
1. 均值：AR模型的均值可以通过模型的数学期望得到。
假设AR模型的期望为μ，我们可以得到：μ = c / (1 φ_1 φ_2 ... φ_p)。
2. 方差：AR模型的方差可以通过模型的自协方差函数得到。
假设AR模型的方差为σ^2，我们可以得到：σ^2 = γ(0) = σ^2 / (1 φ_1^2 φ_2^2 ... φ_p^2)。
其中，γ(0)表示自协方差函数在滞后0时的取值。
3. 自相关：AR模型的自相关性可以通过自相关系数得到。
假设AR模型的自相关系数为ρ_k，我们可以得到：ρ_k = φ_k + ρ_1φ_(k-1) + ρ_2φ_(k-2) + ... +ρ_(k-1)φ_1。
其中，ρ_k表示滞后k时的自相关系数。
综上所述，AR模型的均值、方差和自相关性质可以通过模型的参数和白噪声误差项来推导和计算。
这些性质对于理解和分析时间序列数据具有重要意义，可以帮助我们进行模型的识别、估计和预测。
随机过程课后习题答案
随机过程课后习题答案随机过程课后习题答案随机过程是概率论和数理统计中的一个重要分支，研究的是随机事件在时间上的演变规律。
在学习随机过程的过程中，习题是不可或缺的一部分。
通过解习题，我们可以更好地理解和掌握随机过程的基本概念和性质。
下面是一些随机过程课后习题的答案，希望对大家的学习有所帮助。
1. 假设随机过程X(t)是一个平稳过程，其自协方差函数为Cov[X(t), X(t+h)] =e^(-2|h|)，求该过程的自相关函数。
解：首先，自协方差函数Cov[X(t), X(t+h)]可以通过自相关函数R(t, h)来表示，即Cov[X(t), X(t+h)] = R(t, h) - E[X(t)]E[X(t+h)]。
由于该过程是平稳过程，所以E[X(t)]和E[X(t+h)]是常数，可以将其记为μ。
因此，Cov[X(t), X(t+h)] = R(t, h) - μ^2。
根据题目中给出的自协方差函数，我们有e^(-2|h|) = R(t, h) - μ^2。
将μ^2移到等式左边，得到R(t, h) = e^(-2|h|) + μ^2。
所以，该过程的自相关函数为R(t, h) = e^(-2|h|) + μ^2。
2. 假设随机过程X(t)是一个平稳过程，其自相关函数为R(t, h) = e^(-3|h|)，求该过程的均值和方差。
解：由于该过程是平稳过程，所以均值和方差是常数，可以将均值记为μ，方差记为σ^2。
根据平稳过程的性质，自相关函数R(t, h)可以表示为R(h) = E[X(t)X(t+h)] =E[X(0)X(h)]。
根据题目中给出的自相关函数，我们有R(h) = e^(-3|h|)。
将t取为0，得到R(h) = E[X(0)X(h)] = μ^2。
所以，该过程的均值为μ。
根据平稳过程的性质，方差可以表示为Var[X(t)] = R(0) - μ^2。
将t取为0，得到Var[X(t)] = R(0) - μ^2 = e^(-3*0) - μ^2 = 1 - μ^2。
第六章 相关函数的估计
6. 相关函数的估计（循环相关）6.1. 相关函数与协方差函数 6.1.1. 自相关函数和自协方差函数1、 自相关和自协方差函数的定义相关函数是随机信号的二阶统计特征，它表示随机信号不同时刻取值的关联程度。
设随机信号)(t x 在时刻j i t t ,的取值是j i x x ,，则自相关函数的定义为ji j i j i j iNn n jn iN j i j i x dxdx t t x x f x xx xNx x E t t R ⎰⎰∑====∞→),;,(1lim ][),(1)()(式中，上角标“（n ）”是样本的序号。
自协方差函数的定义与自相关函数的定义相似，只是先要减掉样本的均值函数再求乘积的数学期望。
亦即：ji j i j i x j x iNn x n jx n iN x j x i j i x dxdx t t x x f m x m xm x m xNm x m x E t t C j i j i j i ⎰⎰∑--=--=--==∞→),;,())(())((1lim )])([(),(1)()(当过程平稳时，);,(),;,(τj i j i j i x x f t t x x f =。
这时自相关函数和自协方差函数只是i j t t -=τ的函数，与j i t t ,的具体取值无关，因此可以记作)(τx R 和)(τx C 。
对于平稳且各态历经的随机信号，又可以取单一样本从时间意义上来求这些统计特性：时间自相关函数为：⎰+-∞→+=22)()(1lim)(TT T x dt t x t x TR ττ时间自协方差函数为：⎰+-∞→-+-=22])(][)([1lim)(TT x x T x dt m t x m t x TC ττ在信号处理过程中，有时会人为地引入复数信号。
此时相应的定义变成][),(*j i j i x x x E t t R =)]()[(),(*j i x j x i j i x m x m x E t t C --=式中，上角标*代表取共轭。
2.3 均值、方差、自相关函数的估计
周期信号的相关函数依然是周期信号，且与原信号的周期相同
3.平稳随机信号的相关函数
平稳随机信号的自相关函数和互相关函数分别定义为：
Rx (m) E[ x ( n) x( n m)]
*
（2.4.10）
（2.4.11）
Rxy (m) E[ x ( n) y ( n m)]
*
平稳随机信号的相关函数的性质：
l
= x[(m l )] y(l )
l
=x(m) y (m)
确定性能量信号的相关函数的性质
6）相关定理 能量信号的相关函数与能量谱是傅立叶变换对。根据 1.1.5节介绍的正反傅立叶变换的定义式、可以将该定理表示 为： 2 X (e j ) F[ Rx ( x)] Rx (m)e jm （2.4.7）
1.确定性能量信号的相关函数 什么是确定性信号？——自变量的确定函数
数字关系式或图表惟一地确定 能量信号是指能量有限的信号。对连续和离散时间信号分别满足：
2
E
1 P lim T 2T
x(t ) dt
2
E
n
x(n)
如果信号能量无限大，比如确定性的用期信号、阶跃信号以及随机信号，就 不能从能量而应从功率的角度去研究它们，这类信号叫功率信号。
功率谱
2.4.2 随机信号的功率谱
平稳随机信号的功率谱具有如下性质：
S 1）不论x(n)是实序列还是复序列， x (e ) 都是 的实函数
j
S 2）如果x(n)是实序列， x (e ) 具有偶对称性
j
S x (e ) S x ( e
并且周期为
j
j
) S x (e )
方差,自相关,互相关,协方差等代表的物理意义
方差，自相关，互相关，协方差等代表的物理意义信号的均值，方差，自相关，互相关，协方差等代表的物理意义2010-05-31 09：201.均值：信号幅度的平均值，物理含义是不是信号的直流电平?2.方差：信号幅度偏离均值的程度，是不是在某种意义上代表了信号振荡的趋势?比如波峰和波谷 3.自相关/互相关：是指信号之间的相似程度吗?那么在时间轴上，又代表了信号的什么特性呢?4.还有协方差?1.在matlab里，协方差的计算是在计算相关之前减去了均值，是不是就是指减去了信号的直流分量，如果信号的均值为0的话，协方差的结果和相关的结果应该是一样的吧。
正弦波交流信号的直流分量为零，但不能说其均值为零，因为均值是衡量随机信号的一个统计参量，而正弦波是确定性信号。
其它概念同样如此。
这些统计参量的精确定义书上都有，建议好好领会。
对随机变量来说，"平均"包含"无限"的含义，任意长的有限样本都不能替代随机信号的整体特点，这是和确定性信号特征描述的主要区别。
3.自相关/互相关：是指信号之间的相似程度吗?那么在时间轴上，又代表了信号的什么特性呢?互相关指2个信号之间的相似程度，时间轴表示"挪"了多少的"距离"，比如一个信号不动，另一个以起点开始"错动"，"挪"到某点时，两个信号的相似程度在函数值上体现，而"挪动"的"距离"在时间轴上体现。
自相关表示信号的周期性--自相关极值点间的距离就是周期；对于随机信号，自相关表示该信号的变化快慢--如果自相关函数平滑，说明变化慢；我知道：对于随机信号，因为不能确知它在每个时刻的值，所以我们从统计平均的观点来认识它。
如果已知其概率分布(包括一维和多维概率分布)，我们就可以认为这个随机信号在统计意义上已充分理解或描述了。
在实际过程中，要得知一个随机过程各点上的随机变量的分布函数并不是很方便，但随机过程的各种统计特征量从各个侧面间接的反映了概率分布特性，所以通过某些特征量就足够描绘这些过程了。
通信原理(第3章)
因此，随机过程看作是在时间进程中处于不同时刻的 随机变量的集合。
5
3.1 随机过程的基本概念
3.1.1 随机过程的分布函数
设 (t)表示一个随机过程，则它在任意时刻t1的值 (t1)是
一个随机变量，其统计特性可以用分布函数或概率密度函数来 描述。
➢ 随机过程 (t)的一维分布函数：(反应分布情况)
➢ | R(τ) | ≤ R(0)
【解】(1)先求(t)的统计平均值：
数学期望
a(t) E[ (t)]
2 0
A cos( c t
)
1
2
d
A
2
2
0 (cosct cos sin ct sin )d
A
2
[cos ct
2
cosd
0
sin ct
2
sind ]
0
0
21
3.2 平稳随机过程
自相关函数
R(t1,t2 ) E[ (t1 ) (t2 )]
第3章 随机过程
通信系统中用于表示信息的信号不可能是单一的 确定的, 而是各种不同的信号。信息就包含于出现这种 或那种信号之中.例如二元信息需用二种信号表示, 具 体出现哪个信号是随机的,不可能准确予测( 如能予测, 则无需通信了) 我们称这种具有随机性的信号为随机 信号。
通信系统中存在各种干扰和噪声,这些干扰和噪声 的波形更是各式各样,随机的不可予测的.我们称其为随 机干扰和随机噪声。 尽管随机信号和随机干扰（噪声）取何种波形是不可 预测的、随机的，但他们具有统计规律性。研究随机 信号和随机干扰统计规律性的数学工具是随机过程理 论。随机过程是随机信号和随机干扰的数学模型。 1
自协方差和自相关函数
自协方差和自相关函数
自协方差是一种时间序列分析方式，用于度量一个序列到itself 之间的关系。
它衡量了与自身之间的某个序列和时间点的相关性。
自协方差用于判断该序列中变量文本是否是固定的或可预测的。
它可以为时间序列模型做出决定提供有价值的信息。
自相关函数（ACF）是一种时间序列分析方式，用于检测一个时间序列与其历史自身是否相关。
它衡量了以某个时间点为中心的片段之间的相似性，所以它可以帮助检测自相关性，即序列对自身之前或之后时间点的相关性。
它可以度量序列的季节性以及趋势。
它也可以用来检测和识别共振现象或判断序列的主成分类型，从而用于建模的一些准备工作。
随机信号分析
随机信号是一种不能用确定的数学关系式来描述的、无法预测未来时刻精确值的信号，也无法用实验的方法重复再现。
换言之，随机信号是指不能用确定性的时间函数来描述，只能用统计方法研究的信号。
其统计特性：概率分布函数、概率密度函数。
统计平均：均值、方差、相关。
随机信号分为平稳和非平稳两大类。
平稳随机信号又分为各态历经和非各态历经。
1） 各态历经信号——指无限个样本在某时刻所历经的状态，等同于某个样本在无限时间里所经历的状态的信号。
2） 平稳随机信号——其均值和相关不随时间变化。
注：各态历经信号一定是随机信号，反之不然。
工程上的随机信号通常都按各态历经平稳随机信号来处理。
仅在离散时间点上给出定义的随机信号称为离散时间随机信号，即随机信号序列。
平稳随机信号在时间上的无限的，故其能量是无限的，只能用功率谱密度来描述随机信号的频域特性。
1. 随机信号的数字特征 均值、均方值、方差若连续随机信号x(t)是各态历经的，则随机信号x(t)的均值可表示为：⎰→∞==TT x dt t x Tt x E 0)(1lim)]([μ均值描述了随机信号的静态分量（直流）。
随机信号x(t)的均方值表达式为：dt t x TTT x)(1lim22⎰→∞=ψ2xψ表示信号的强度或功率。
随机信号x(t)的均方根值表示为：⎰→∞=T T x dt t x T 02)(1limψ x ψ也是信号能量的一种描述。
随机信号x(t)的方差表达式为：⎰-==-→∞Tx T x x dx t x Tx E 0222])([1lim])[(μσμ2xσ是信号的幅值相对于均值分散程度的一种表示，也是信号纯波动分量（交流）大小的反映。
随机信号x(t)的均方差（标准差）可表示为⎰-=→∞T x T x dx t x T 02])([1limμσ 它和2x σ意义相同。
平稳随机过程统计特征的计算要求信号x(t)无限长，而实际上只能用一个样本即有限长序列来计算。
计量经济与时间序列_时间序列分析的几个基本概念（自相关函数,偏自相关函数等）
计量经济与时间序列_时间序列分析的⼏个基本概念（⾃相关函数,偏⾃相关函数等）1. 在时间序列分析中，数学模型是什么？数学公式⼜是什么？数学推导过程⼜是什么？... ... ⼀句话：⽤数学公式后者符号来表⽰现实存在的意义。
数学是“万⾦油”的科学，它是作为⼯作和分析⽅法运⽤到某个学科当中。
⽐如在物理学中，数学公式或者数学符号也是表⽰现实存在的意义，G表⽰重⼒，再⽐如⽤什么表⽰分⼦，这些东西都是现实存在，⽽通过在数学层⾯的公式计算或者推导，就能够得到某种结果反推到现实中存在的意义是否准确。
说⽩了是把现实的意义符号化和简单化的表⽰出来。
2. 时间序列分析属于计量经济学的⼀个分⽀。
我们知道计量经济学的分析⼿段主要来⾃于统计学和线性代数。
因此时间序列作为⼀组数据集合，也是具有其他学科所共有分析数据结构的⽅法和其⾃⾝特有的分析数据结构的⽅法。
3. 通⽤的⼏个基本概念：均值、⽅差、标准差、协⽅差、⾃相性。
⼀组数据需要观察的话，我们需要了解⼀下他们的组成结构，正如我们要了解原⼦、分⼦、电⼦等的结构⼀个道理。
3.1 数据结构现象1：均值 现实存在意义：均值也叫期望(expect)，其实专业点⼉讲叫期望，也就是个专有名词和普通叫法的区别。
这个知道就⾏了。
显⽰存在的意义可以理解为，⼀堆数据集合，各⾃有⼀种内在动⼒趋于某种东西，就像地球上的任何物体都趋于地⼼⼀样。
这种趋于的⽬标叫“期望”（佛学中讲叫⾃求），都具有这种趋势。
数学符号表达： 备注：在时间序列中，很多时候⽤µ来表⽰期望的这种现实存在意义。
要记住这些符号，到再次遇到的时候就能知道是什么现实存在意义，不容易搞混和摸不着头脑。
3.2 数据结构现象2：⽅差 现实存在的意义：如果数据集合的这条序列有且只有⼀条，就像⼀条蛇或者射线⼀样，有且只有⾃⼰的这⼀组。
就存在⼀个东西叫⽅差。
⽅：是平⽅的意思；差：指的是差距。
我们知道了“期望”之后，虽然都趋于期望，但是每⼀个数据距离期望的差距怎么表⽰，就跟每个省市距离北京的差距的平均在什么⽔平线上。
自相关函数和自协方差函数
9.2.3 自相关函数和自协方差函数上面介绍的均值、均方值和方差描述的是一维随机变量的统计特性，不能反映不同时刻各数值之间的相互关系。
例如，随机信号X(t) 分别在t 1，t 2时刻的随机取值X(t1)，X(t2) 之间的关联程度如何，这种关联称为自关联。
同样，我们也要研究两个随机信号X(t)和Y(t)数值之间的关联程度，这种关联性称为X 与Y 之间的互关联（下一小节介绍）。
1．自相关函数(Autocorrelation function)自相关函数是描述随机信号X(t)在任意两个不同时刻t 1，t 2，的取值之间的相关程度。
定义6 实随机信号X(t)的自相关函数定义为（9.2.7）由于平稳随机信号的统计特性与时间的起点无关，设, 则有。
所以，平稳随机信号的自相关函数是时间间隔t 的函数，记为R xx (t).2．自协方差函数(Autocovariance function)自协方差函数是描述随机信号X(t)在任意两个不同时刻t 1，t 2，的取值之间的二阶混合中心矩，用来描述X(t)在两个时刻取值的起伏变化（相对与均值）的相关程度，也称为中心化的自相关函数。
定义7 实随机信号X(t)的自协方差函数定义为（9.2.8）当 时，有 。
显然，自协方差函数和自相关函数描述的特性基本相同。
对于平稳随机信号，自协方差函数是时间间隔t 的函数，记为C xx (t),且有:(9.2.9) 当均值 时，有 。
当随机过程X(t)的均值为常数，相关函数只与时间间隔有关，且均方值为有限值时，则称X(t)为宽平稳随机过程或广义平稳随机过程。
它是由一维、二维数字特征定义的。
一般所说的平稳过程都是指这种宽平稳随机过程。
3．平稳随机信号自相关函数的性质设X(t)为平稳随机过程，其自相关函数为，自协方差函数，则有如下性质：(1) (9.2.10)(9.2.11)即时的自相关函数等于均方差，自协方差函数等于方差。
(2) (9.2.12)即当平稳随机信号是实函数时，其相关函数是偶函数。
(仅供参考)平稳过程的自相关函数性质
1 、RX (0) = E[ X 2 (t)] = ΨX 2 ≥ 0
平稳过程的自相关函数在 τ = 0 上的值是非负值。在
下面将看到 RX (0) 表示平稳过程X (t) 的“平均功率”。
2、 RX (τ ) = RX (−τ )
即自相关函数在是变量 τ 的偶函数。
证明：
RX (τ ) = E[ X (t) X (t + τ )] = E[ X (t + τ ) X (t)] = RX (−τ )
对于平稳过程X ( 代入前式，可得 于是
t
)，有
2RX
E[ X 2 (t)] = (0) ± 2RX (τ )
E[ X
≥0
2
(t
+τ
)]
=
RX
(0)
同理可得：
RX (0) ≥| RX (τ ) |
CX
(0)
=
σ
2 X
≥
CX
(τ )
即自协方差函数在 τ = 0 上也具有最大值。
值得注意的是 Q RX (0) ≥| RX (τ ) |,∴ 这里并不排除在 其它 τ ≠ 0
同理可得， CX (τ ) = CX (−τ )
3、 RX (0) ≥| RX (τ ) |
即自相关函数在τ = 0 上具有最大值。
证明：任何正函数的数学期望恒为非负值，即
E{[ X (t) ± X (t +τ )]2} ≥ 0 E[ X 2 (t) ± 2X (t) X (t +τ ) + X 2 (t +τ )] ≥ 0
式中Φ为在(0，2π)上均匀分布的随机变量，N(t)为平稳过程，且对
于所有t而言，Φ与N(t) 统计独立。于是，我们很容易求出X(t)的自
《随机过程及其在金融领域中的应用》习题三答案
E YmYn E Ym Yn Ym Ym2 E Ym E Yn Ym E Ym2
mp np mp mp 1 p m2 p2 mnp2 mp mp2
Cov Ym,Yn mnp2 mp mp2 mnp2 mp 1 p
Xt 是齐次独立增量过程，当 Xa 0 时有 cX t1,t2 DX min t1,t2
2 X mint1,t2
cY
t1 , t2
k2cX
t1 , t2
k 2 2 X mint1,t2
则 Yt
的协方差函数为 k 2
2 X mint1,t2
P Xt1 x, Xt2 x
1
P Xt1 x, Xt2 x
P Xt1 x, Xt2 x
RY t1,t2 E Y Yt1 t2 0 0 P Xt1 x, Xt2 x 01 P Xt1 x, Xt2 x 1 0 P Xt1 x, Xt2 x 11 P Xt1 x, Xt2 x P Xt1 x, Xt2 x
答：
E
Yn
E
n
Xj
n
E
Xj
np ，Var Yn
n
Var
Xj
j1 j1
j 1
E
X
j
p,
E
X
2 j
p
，Var
Yn
n
p
p2
Cov Ym,Yn E Ym E Ym Yn E Yn E YmYn mnp2
信号的自相关协方差矩阵
信号的自相关协方差矩阵1. 引言1.1 背景介绍信号的自相关协方差矩阵是数字信号处理中重要的概念，它描述了信号在时间和空间上的相关性和变化。
在现代通信系统、雷达系统、生物医学工程、金融领域等众多应用中，自相关协方差矩阵都扮演着关键的角色。
了解和掌握信号的自相关协方差矩阵对于信号处理和分析是非常重要的。
自相关函数是信号处理中常用的工具，它描述了信号在不同时间点上的相关性。
而协方差矩阵则进一步描述了信号在不同维度上的相关性，包括时间相关性和空间相关性。
信号的自相关协方差矩阵可以帮助我们理解信号的特性和结构，从而提供更有效的信号处理方法和算法。
本文将从自相关函数的定义和协方差矩阵的概念入手，介绍信号的自相关协方差矩阵的基本概念和计算方法。
然后探讨信号的自相关协方差矩阵在不同领域的应用，展示其在实际问题中的重要性和实用性。
通过深入研究和探讨，我们可以更好地理解和应用信号的自相关协方差矩阵，为信号处理和分析提供更多的可能性和机遇。
1.2 研究意义在信号处理领域，自相关协方差矩阵是一个十分重要的概念。
通过研究信号的自相关协方差矩阵，我们可以更好地理解信号的特性和性质。
这对于我们理解信号在不同环境下的变化规律有着重要的意义。
信号的自相关协方差矩阵可以通过数学方法表达信号在不同时间或空间点上的相关性，从而为我们提供了更多关于信号的信息。
在实际应用中，通过对信号的自相关协方差矩阵进行分析，我们可以更好地识别信号中的模式和规律，从而在信号处理、通信领域等方面得到更好的应用。
2. 正文2.1 自相关函数的定义自相关函数是描述信号在不同时间点上的相似程度的数学工具。
在信号处理中，自相关函数通常用于分析信号的周期性和重复性。
自相关函数的定义如下：对于一个连续信号x(t)，其自相关函数R_xx(t1, t2)定义为：R_xx(t1, t2) = E[x(t1)x(t2)]E表示期望运算。
这个公式表示在信号x在时刻t1和t2上的取值的期望乘积。
自相关函数与偏自相关函数
自相关函数与偏自相关函数上一节介绍了随机过程的几种模型。
实际中单凭对时间序列的观察很难确定其属于哪一种模型，而自相关函数和偏自相关函数是分析随机过程和识别模型的有力工具。
1、自相关函数定义在给出自相关函数定义之前先介绍自协方差函数概念。
由第一节知随机过程{t x }中的每一个元素t x ，t = 1, 2, … 都是随机变量。
对于平稳的随机过程，其期望为常数，用μ表示，即()t E x μ=，1,2,t=随机过程的取值将以 μ 为中心上下变动。
平稳随机过程的方差也是一个常量2()t xVar x σ=，1,2,t=2x σ用来度量随机过程取值对其均值μ的离散程度。
相隔k 期的两个随机变量t x 与t k x -的协方差即滞后k 期的自协方差，定义为：(,)[()()]k t t k t t k Cov x x E x x γμμ--==--自协方差序列：k γ，0,1,2,k=称为随机过程{t x }的自协方差函数。
当k = 0 时，20()t x Var x γσ==。
自相关系数定义：k ρ=因为对于一个平稳过程有：2()()t t k x Var x Var x σ-==所以220(,)t t k k kk x x Cov x x γγρσσγ-===，当 k = 0 时，有01ρ=。
以滞后期k 为变量的自相关系数列k ρ（0,1,2,k =）称为自相关函数。
因为k k ρρ-=，即(,)t k t Cov x x -= (,)t t k Cov x x +，自相关函数是零对称的，所以实际研究中只给出自相关函数的正半部分即可。
2、自回归过程的自相关函数 （1）平稳AR(1)过程的自相关函数 AR(1) 过程：11t t t x x u φ-=+，|φ1| < 1。
已知()0t E x =（why?）。
用t k x -同乘上式两侧t x t k x -11t t k t t k x x u x φ---=+上式两侧同取期望：k γ11k φγ-=其中()0t t k E u x -=（why?）（由于x t = u t + φ1 u t -1 + φ12u t -2 +… ，所以x t-k = u t-k + φ1u t-k-1 + φ12 u t-k-2 +…，而u t 是白噪音与其t - k 期及以前各项都不相关）。
自协方差与自相关函数的估计
∑
n →∞
2 lim Eγ n (k ) = 0
即
Eγˆ k =
1 n−k γ k + Eγ n ( k ) n t =1
∑
易见 在µ未知情况下 仍有 γˆ k 依均方收敛于 γ k
ˆ k 均方收敛于 ρ k 相应的有 ρ
三
根据样本自协方差函数与自相关函数对模型的初步分析
绘图法 设 {ε t } 为独立序列 且为白噪声序列 则由 ε 1 , ε 2 , L , ε n 计算出的自相关函数
若 {xt } 是均值不为零的平稳序列
γˆ k =
估计
1 n−k ( xt − x )( xt + k − x ) n t =1
∑
γ k = E ( x t − µ )( x t + k − µ )
在定理 3.1.1 条件下 可以证明
γˆ k =
且
1 n−k ( xt − µ )( xt + k − µ ) + γ n (k ) n t =1
3 平稳序列的自相关函数的遍历性 1 平稳序列遍历性概念 设平稳序列 {xt } 为遍历的 即对于 xt 的任意函数 f ( xt ) 其集平均 即概率均值有限
E | f ( xt ) |< +∞
则 f ( xt ) 的集平均 E | f ( xt ) | 与其时平均 < f ( xt ) > 相等 即
特别当 {ε t } 为正态序列时 µ 4 = 3σ 4 则上式为
cov(γˆ k , γˆ j ) =
2 渐近正态分布 定理 3.2.1 即
1 ∞ 1 (γ s − k γ s − j + γ s − k γ s + j ) + 0( ) n s = −∞ n
自相关函数和偏自相关函数
AR(1) 过程的自相关函数（ 为正）
a
5.1.1 AR(1)自相关函数
0.8 0.6 0.4 0.2 0.0 - 0.2 - 0.4 - 0.6 - 0.8 2 4 6 8 10 12 14
平稳性的充分条件是：
a 2 a1 1 a 2 a1 1 1 a2 1
3.5 多阶自回归过程
令1 1 / a1 , 2 1 / a 2 则1 , 2 2a 2 a1 a12 4a 2 2
2 1
a1 a12 4a 2 2 a1
3.5 多阶自回归过程
下面考虑AR(2)过程
xt a1 xt 1 a2 xt 2 ut
的平稳性条件。 其特征方程式是 ( z) 1 a1 z a2 z 2 0 上式的两个根：
z1 , z 2
a1 a12 4a 2 2a 2
3.5 多阶自回归过程
1 2
a1 a12 4a 2
a1 a12 4a 2 2
2 1
a1 a 4a 2 a1 a 4a 2 1 2 a 2 2 2
3.5 多阶自回归过程
a 2 a1 1 2 (1 2 ) 1 (1 1 )(1 2 ) a 2 a1 1 2 (1 2 ) 1 (1 1 )(1 2 ) 1 1, 2 1 (1 1 )(1 2 ) 0 a 2 a1 1且a 2 a1 1
3.5 多阶自回归过程
定义（AR(p)过程）对于p阶差分方程
数字信号处理知识点整理
第一章 时域离散随机信号的分析1.1. 引言实际信号的四种形式：连续随机信号、时域离散随机信号、幅度离散随机信号和离散随机序列。
本书讨论的是离散随机序列()X n ，即幅度和时域都是离散的情况。
随机信号相比随机变量多了时间因素，时间固定即为随机变量。
随机序列就是随时间n 变化的随机变量序列。
1.2. 时域离散随机信号的统计描述 1.2.1概率描述1. 概率分布函数（离散情况）随机变量n X ，概率分布函数： ()()n X n n n F x ,n P X x =≤ （1）2. 概率密度函数（连续情况）若n X 连续，概率密度函数： ()()n n X X n nF x,n p x ,n x ∂=∂ （2）注意，以上两个表达式都是在固定时刻n 讨论，因此对于随机序列而言，其概率分布函数和概率密度函数都是关于n 的函数。
当讨论随机序列时，应当用二维及多维统计特性。
()()()()121212,,,121122,,,12,,,1212,1,,2,,,,,,,1,,2,,,,1,,2,,,NNNx XX N N N N x XX N x XX N NF x x x N P X x X x X x F x x x N p x x x N x x x =≤≤≤∂=∂∂∂1.2.2 数字特征1. 数学期望 ()()()()n xx n n m n E x n x n p x ,n dx ∞-∞==⎡⎤⎣⎦⎰ （3）2. 均方值与方差均方值： ()()22n n x n n E X x n p x ,n dx ∞-∞⎡⎤=⎣⎦⎰ （4）方差： ()()()2222xn x n x n E X m n E X m n σ⎡⎤⎡⎤=-=-⎣⎦⎣⎦（5）3. 相关函数和协方差函数自相关函数：()()n m**xxn m n m X,X n m n m r n,m E X X x x p x ,n,x ,m dx dx ∞∞-∞-∞⎡⎤==⎣⎦⎰⎰ （6）自协方差函数：()()()()**cov ,,n m nmn m n XmX xx XXX X E X m Xm r n m m m ⎡⎤=--⎢⎥⎣⎦=- （7）由此可进一步推出互相关函数和互协方差函数。
随机信号答案
1.1已知高斯随机变量X的概率密度
，求它的数学期望和方差。
解：根据数学期望与方差定义：
令
，
，代入上式并整理
与前面以一样同样变换，即令
，整理后
查数学手册的积分表，可得：
令
及
，利用上式的积分结果，可得
可见高斯变量的概率密度分布由它的数学期望和方差唯一决定。
1.2随即变量
，其中
为随机变量，
、
为常数且
>0，求
与
的相关系数
解：根据数学期望的定义，若
，则
先求协方差，再求相关系数
将
，
代入，并由概率密度性质，消去
，得到
同理，将
，
代入，并由概率密度性质，消去
则有
有前两式联立，解得
，
可见，当
与
呈线性关系
，且
＞0时，二者的相关系数
即
与。
自协方差函数 协方差矩阵
自协方差函数协方差矩阵
自协方差函数是指一个随机向量中各个分量与其自身的协方差
函数。
在数学上，对于一个具有n个分量的随机向量X=(X1,
X2, ..., Xn)，其自协方差函数可以表示为Cij = Cov(Xi, Xj)，
其中i和j分别代表向量X的第i和第j个分量，Cov表示协方差。
协方差矩阵是一个正定对称矩阵，它的对角线上的元素是各个
分量的方差，而非对角线上的元素是各个分量之间的协方差。
对于
一个具有n个分量的随机向量X=(X1, X2, ..., Xn)，其协方差矩
阵可以表示为Σ=(Cov(Xi, Xj))，其中i和j分别代表向量X的第
i和第j个分量。
自协方差函数和协方差矩阵在统计学和概率论中有着重要的应用。
它们可以用来描述随机向量各个分量之间的相关性和变化情况，对于多元统计分析、时间序列分析、金融建模等领域起着关键作用。
在实际应用中，通过计算自协方差函数和协方差矩阵，可以帮
助我们理解随机变量之间的关系，从而进行风险管理、投资组合优化、信号处理等方面的工作。
同时，它们也为我们提供了评估数据
的相关性和波动性的重要工具，有助于我们更好地理解和分析数据。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
9.2.3 自相关函数和自协方差函数
上面介绍的均值、均方值和方差描述的是一维随机变量的统计特性，不能反映不同时刻各数值之间的相互关系。
例如，随机信号X(t) 分别在t 1，t 2时刻的随机取值X(t1)，X(t2) 之间的关联程度如何，这种关联称为自关联。
同样，我们也要研究两个随机信号X(t)和Y(t)数值之间的关联程度，这种关联性称为X 与Y 之间的互关联（下一小节介绍）。
1．自相关函数(Autocorrelation function)
自相关函数是描述随机信号X(t)在任意两个不同时刻t 1，t 2，的取值之间的相关程度。
定义6 实随机信号X(t)的自相关函数定义为
（9.2.7
） 由于平
稳随机信号的统计特性与时间的起点无关，设
, 则有。
所以，平稳随机信号的自相关函数是时间间隔t 的函
数，记为R xx (t).
2．自协方差函数(Autocovariance function)
自协方差函数是描述随机信号X(t)在任意两个不同时刻t 1，t 2，的取值之间的二阶混合中心矩，用来描述X(t)在两个时刻取值的起伏变化（相对与均值）的相关程度，也称为中心化的自相关函数。
定义7 实随机信号X(t)的自协方差函数定义为
（9.2.8） 当 时，有 。
显然，自协方差函数和自相关函数描述的特性基本相同。
对于平稳随机信号，自协方差函数是时间间隔t 的函数，记为C xx (t),且有:
(9.2.9) 当均值 时，有 。
当随机过程X(t)的均值为常数，相关函数只与时间间隔
有关，且均方值为
有限值时，则称X(t)为宽平稳随机过程或广义平稳随机过程。
它是由一维、二维数字特征定义的。
一般所说的平稳过程都是指这种宽平稳随机过程。
3．平稳随机信号自相关函数的性质
设X(t)为平稳随机过程，其自相关函数为，自协方差函数，则有如下性质：
(1)(9.2.10)
(9.2.11)
即时的自相关函数等于均方差，自协方差函数等于方差。
(2)(9.2.12)
即当平稳随机信号是实函数时，其相关函数是偶函数。
(3)(9.2.13)
即时的自相关函数、自协方差函数取最大值。
(4)若，则其自相关函数也是周期为T的周期函数，即
(9.2.14)
(5)若均值，当时，与相互独立，有
(9.2.15)
即对于零均值的平稳随机信号，当时间间隔很大时，与相互独立，互不相关。