随机变量、矢量和序列

倾斜度(skewness)：表明随机变量与中心分布的不对 称程度。向右倾斜，其值为正，向左则其值为负。
3 ~3 x( ) x 1 3 Skew k x E 3 x x x
10
统计值

峰度(kurtosis)：表明随机变量在均值附近的相对平坦 程度或峰值程度。相对于正态分布而言，正态分布的 峰度值为0，比正态分布陡峭，则峰度值大于0，否则 小于0。
m为偶数 m为奇数
四阶中心矩为
3
4 x
4 x
由此，得出正态分布的 峰度值等于 0
21
常用分布——柯西分布

概率密度函数pdf
1 f x ( x) ( x )2 2

累积分布函数cdf
Fx ( x) 0.5 1

arctan
x


柯西分布的均值为µ 。但 偏差、矩等不存在
27
*
随机矢量

随机矢量的协方差矩阵（二阶矩）
H x E{[x( ) μx ][x( ) μx ]H } Rx μxμx [ ij ]

协方差矩阵元素 ij E{[ xi (ξ ) μi ][x j (ξ ) μ j ]*}
* * E{xi (ξ ) x* ( ξ )} μ μ j i j ji 相关系数 ij ij
均值与方差
ab (b a) 2 x 和σ x 2 12
2
19
常用分布——正态分布

概率密度函数pdf
fx(x)
2 1 1 x x f x ( x) exp 2 2 x 2 x
x µ x

特征函数
1 2 2 x ( ) exp( j x x ) 2
a
fx(x) x b

累积分布函数cdf
0 x x a Fx ( x) f x (v)dv b a 1 xa a xb xa
18
常用分布——均匀分布

特征函数
e jb e ja x ( ) j (b a)
fx(x) x a b

x( )的m阶中心矩
E{[ x( ) x ] } ( x x ) m f x ( x)dx
m x m


特殊情况
0 x( )的0阶中心矩为 x 1

x( )的1阶中心矩为 1 x 0
2 x( )的2阶中心矩为 x 2 , 2方差, 标准偏差

概率密度函数(probability density function, pdf)
dFx ( x) f x ( x) dx
5
分布密度与密度函数

对于离散的随机变量，采用概率质量函数(probability mass function, pmf)
pk Pr{x( ) xk }

概率函数满足：
0 Fx ( x) 1, Fx () 0, Fx () 1

f x ( x) 0,
பைடு நூலகம்
f
x
( x)dx 1
x2
Pr{x1 x( ) x2 } Fx ( x2 ) Fx ( x1 )
x1
f
x
( x)dx
6
统计值

数学期望
xk pk k E{x( )} x xf x ( x)dx
当随机变量的均值为 0时，矩和中心矩完全相 同。 矩和中心矩一般关系如 下 m k k nk ( 1 ) rx x k k 0
m x m
9
统计值

方差与矩的关系:方差主要表征随机变量围绕中心值 的分布（或散布）程度的度量
2 2 x rx2 x E{x2 ( )} E 2{x( )}
sx ( )
14
特征函数


从上式可知，只要随机变量的所以矩都已知 （且存在），那么可以求出生成函数，然后 进行拉普拉斯反变换就可以确定密度函数 通过生成函数对s的微分可以求出矩
m d [ x (s)] rxm dsm s 0 m d [ x ( )] ( j ) m d m


随机变量独立，则有
P r{x1 ( ) x1 , x2 ( ) x2 } P r{x1 ( ) x1} P r{x2 ( ) x2 } Fx1 , x2 ( x1 , x2 ) Fx1 ( x1 ) Fx2 ( x2 ) f x1 , x2 ( x1 , x2 ) f x1 ( x1 ) f x2 ( x2 )
x1 0 xm 0
Fx (x) x1 xm
25
随机矢量

边缘分布
f x j ( x j ) f x (x)dx1 dx j 1dx j 1 dxM
( M 1) xM x1 x
Fx (x) f x ( ν)d 1 d M f x ( ν)dν
* j
29
随机矢量

设x(ξ )、y(ξ )分别是M和L维随机矢量，则 这两个随机矢量的互相关矩阵为
R xy
* * E{x1 ( ) y1 ( )} E{x1 ( ) y L ( )} H E{xy } * * E{xM ( ) y1 ( )} E { x ( ) y M L ( )}

采用s代替将上式的jξ，得到矩的生成函数
x (s) E{e
sx ( )
} f x ( x)e jx dx



} f x ( x)e sx dx


在 s=0处按泰勒级数展开，假设各阶矩存在
[ sx ( )]2 [ sx ( )]m x ( s) E{e } E 1 sx ( ) ... ... 2! m! s2 2 sm m 1 s x rx ... rx ... 2! m!
31
随机矢量的线性变换

随机矢量x(ξ )、y(ξ ) 存在如下关系 y( ) g[x( )] Ax( )
fx(x)为x(ξ )的概率密度, y(ξ ) 的概率密度为
0
16
累积量

零均值随机变量的前5个累积量为
1 1 r x x x 0

2 x 3 x 2 x
2 x

4 x 5 x
3 x 4 x 4 x 3 x 2 x
17
3
5 x
10
常用分布——均匀分布

概率密度函数pdf
1 f x ( x) b a 0 a xb 其他
24
随机矢量

M维随机矢量
x( ) [ x1 ( ), x2 ( ),, xM ( )]T

分布函数和密度函数
Fx ( x1 , xM ) Pr{x1 ( ) x1 , , xM ( ) xM } 简写为 Fx (x) Pr{x( ) x} 联合概率密度为 f x (x) lim Pr{x1 x1 ( ) x1 x1 ,, xM xM ( ) xM xm }
26
随机矢量

均值矢量
E{x1 ( )} 1 μ x E{x( )} E{xM ( )} M

自相关矩阵
Rx E{x( )x H ( )} [ri j ]
* ri j E{xi(ξ ) x j (ξ )} rji

正态分布完全由均值和均方差决定，可表示为
~ N ( x, )
2 x
20
常用分布——正态分布

正态分布的所有高阶矩可用前两个矩来表示，换言之正 态分布高于2阶的矩并不能提供额外的信息。
E x( ) x
m x


m

2 1 3 5(m 1) x 0
22
MATLAB随机函数

采用rand函数模拟0～1均匀分布 采用randn函数模拟高斯分布
23
MATLAB随机函数





x=-3.8:0.1:3.8; %随机高斯密度 y1=randn(1,30000); z1=hist(y1,x)/(30000*0.1); bar(x,z1),xlabel('bar') %标准高斯密度 y2=1/sqrt(2*pi)*exp(-x.^2/2); hold on,plot(x,y2);hold off %均匀分布 y3=rand(1,30000); z3=hist(y3,x)/(30000*0.1); figure, bar(x,z3),xlabel('bar');
3
随机变量
随机变量x(ξ) 抽象空间S ξ1 ξ4 ξ2 ξ3 实数空间R x(ξ1) x(ξ4) x(ξ3) x(ξ2)

随机变量映射示意图
4
分布密度与密度函数

分布函数(Cummulative distribution function, cdf)
Fx ( x) Pr{x( ) x}
随机变量、矢量和序列
1
主要内容

随机变量
统计值 常用分布

随机矢量
随机矢量的线性变换 正态随机矢量 独立随机变量和

离散随机过程
2
随机变量



定义3.1 随机变量x(ξ)是一个映射，这个 映射为每个来自抽象概率空间的结果ξ赋 予一个实数x。该映射满足的如下条件： (1) 对于任一x，区间{x(ξ)≤x}为概率空间 中的一个事件 (2) Pr{x(ξ)=∞}=0,且Pr{x(ξ)=－∞}=0


随机变量独立、正交，则
i j
ij 0, i j
28
随机矢量

ij ij 0 i j
随机xi(ξ )、xj(ξ )不相关，则
* ij E{xi (ξ ) x* ( ξ )} μ μ j i j 0

随机xi(ξ )、xj(ξ ) 正交，则
rij E{xi (ξ ) x (ξ )} 0
数学期望 fx1(x) 负
倾斜度
峰度
12
切比雪夫(Chebyshev)不等式

随机变量偏离其平均值k倍标准偏差的概率， 小于或等于1/k2,与概率密度函数的具体形式 无关： 1 Pr{| x( ) x | k x } 2 k
13
特征函数

定义
x ( ) E{e
jx ( )
4 ~4 1 4 x( ) x Skew k x E 3 4 x 3 x x
11
均值、方差、倾斜度和峰度示意
fx1(x) fx2(x)
fx1(x)
σ1 fx2(x)
µ 1
µ 2
σ2 方差 正 正 fx2(x) fx1(x) 负 fx2(x)
0
15
累积量

累积量生成函数是矩的生成函数的自然对数
x (s) ln x (s) ln E esx ( )



用jξ代替s得到第二特征函数
x (s) ln x ( ) ln E e jx( )



累积量为累积量生成函数的导数
m d x ( s) m x dsm s 0 m d x ( ) m ( j ) dsm

数学期望具有线性特征
7
统计值

矩(moments)
x( )的m阶矩 rxm E{x m ( )}



m x f x ( x)dx
特殊情况
x( )的0阶矩为rx0 1 x( )的1阶矩为rx1 x , 均值 x( )的2阶矩为rx2 , 均方值
8
统计值

中心矩

交叉协方差矩阵
H xy E{[x( ) μx ][y( ) μy ]H } Rxy μxμy
30
随机矢量

若x(ξ )、y(ξ ) 不相关，则
H xy 0 Rxy μxμy

若x(ξ )、y(ξ )正交，则
Rxy E{x( )y H ( )} Rxy 0