4高斯分布

,un
E
e
uur T jU
r x
exp
j
uur M
T X
ur U
ur U
T
CX
ur U
2
举例（多维高斯） CX 6
CX1
1 6
5 2
2
2
r uur
xMX
T CX1
r uur xMX
x1
x2
1 6
5 2
2
2
x1
x2
1 6
(5x12
2x22
4x1x2 )
fX
x1, x2
新
特征函数
定义 性质
一维 n维
高斯分布
☆ 概率论的总结和应用 ☆
重要地位
在实际应用中，常常遇到大量随机变量的问 题。中心极限定理已证明，在满足一定条件 下，大量随机变量和的极限分布是高斯分布。 因此，高斯分布占有特殊的地位，是科学技 术领域中最常遇到的分布，也是无线电技术 理论（包括噪声理论，信号检测理论，信息 理论等）中最重要的概率分布。
n
或 QX (u1,...,un ) QXk (uk )
独立的性质
k 1
证明
不相关
Cij 0 (i j)，即方差阵为对角阵
12
CX
O
0
0
2 n
QX
u1,L
,
un
exp
j
m1
,L
u1
,
mn
M
un
1 2
1,L
,
n
12
0
O
0
2 n
u1
M
un
n
exp k 1
jmk uk
n k 1
uk2 2
2 k
exp
n k 1
jmk uk
uk2
2 k
2
n
exp jmkuk
k 1
uk2 2
2 k
n
QX k
k 1
uk
特殊性质2——线性变化
高斯分布的线性变换后仍服从高斯分布。
uur X
X1 M
X n
ur Y
Y1
M
Ym
ur uur
举例（一元特征函数的性质）
1
QXi u E e juXi e juk P Xi k q pe ju k 0
QY u n QXi u q pe ju n
i 1
性质5
举例（一元特征函数的性质）
EY j d pe ju q n np
du
u0
E
Y
2
j
2
d2 du 2
j
4u 2
exp
ju
2u2
E[X ] j QX (u) 1
u u0
E[ X
2]
j 2
2QX (u) u2
u0
5
D[ X ] E[ X 2 ] mX2 4
举例（多维）
QY (v) v
4v exp
2v2
2QY (v) v2
4 exp
2v2
4v2
exp
2v2
对Y
E[Y ] j QY (v) 0
uur uur
已知线性变换 Y A X，其中高斯矢量X ~ N ur
证明：随机矢量Y也是高斯矢量。
M X ,CX
,A
aij
为常系数矩阵。
mn
ur
思路：求Y的特征函数。
Y特征函数定义 线性变换代入 A放入括号中
X特征函数定义
QY u1,L ,un E exp
ur T ur jU Y
u1
M ,
xn
un
uur MX
m1
M ,
mn
C11 C12 L
uur DX
CX
C21 M
C22 M
L O
Cn1 L L
C1n
C2n
M
Cnn
fX x1,L , xn
1
n
1 exp
2 2 CX 2
r uur xMX
T CX1 2
r uur xMX
QX
u1,L
整理，A和U分开
特殊性质2——线性变化
uur
ur
uur
uur uur
MY E[Y] E AX A E[X ] AM X
CY
ur D[Y
]
(
ju1 )n n!
(
ju2 )k k!
举例（多维）
解：①边缘特征函数 QX (u) QXY (u,0) exp ju 2u2 QY (v) QXY (0,v) exp 2v2
举例（多维）
②相关系数
对X
QX (u) u
j
4u
exp
ju
2u2
2QX (u) u2
4 exp
ju
2u2
一元特征函数的性质
5、相互独立变量和的特征函数等于特征函数之积。
n
n
X1,K , Xn相互独立，Y Xi，则 QY u QXi u
i 1
i 1
QY
u
E e juY
E e ju( X1 X2 L
Xn )
n E
i1
e juXi
n i 1
E e j Xi
n
QXi
i 1
6、若随机变量X的n阶绝对矩存在，
n
QX
u1,L ,un
ur T QX U
E
e
uur T jU
uur X
E[e k1
juk
Xk
]
对应关系
1
2
n
QX
u1,L ,un
噲垐nn维 维垐垐傅 傅立 立垐垐叶 叶正 逆垐垐变 变换 换垎垐 f X
x1,L , xn
特征函数的性质（n维）
1、 QX (u1,...,un ) QX (0,...,0) 1
v v0
E[Y 2 ]
j 2
2QY (v) v2
v0
4
D[Y ] E[Y 2 ] mY2 4
举例（多维）
QXY (u, u
v)
j
4u
v
exp
ju
2u
v2
2QXY (u, uv
v)
4
exp
ju
2
u
v2
j
4
u
v
4
u
v
exp
ju
2
u
v
2
对X和Y
RXY
E[XY ] j2
2QXY (u, v) uv
3 条件数学期望
新
随机变量关于某 个给定值的条件
数学期望
随机变量关于另 一个随机变量的 条件数学期望
随机矢量的数字特征
数学期望 矩
相关理论 特征函数
数学期望 方差 互相关
协方差
随机矢量的数字特征
数学期望
矩 相关理论 特征函数
相关系数的引入
不相关、正交
不相关、正交、独 立之间的关系
随机矢量的数字特征
随机信号分析
南京航空航天大学 信息科学与技术学院
常建平 李海林
概率论
概率空间 高斯分布
随机变量
多维随机变量
（随机矢量）
概率论
随机变量的 数字特征
随机变量 函数的分布
随机矢量的数字特征
数学期望 矩
1
一维随机变量 二维随机变量 n维随机变量
随机矢量的函数
离散型 连续型
相关理论 特征函数
2 数学期望的性质
内容组织
描述 方法
特殊 性质
概率密度
一维
特征函数
n维
独立与不相关等价 线性变换
一维高斯分布
fX
x
1
e
(
xm)2 2 2
2
相应的特征函数为
QX
u
exp
jum
u 2
2
2
方差 2 D[X ]
数学期望 m EX
要牢记 求解过程见P55例1.30
n维高斯分布
r x
x1 M，
ur U
QX
u
f
x
举例（一元特征函数）
例：求随机变量X ~ U (0,1)均匀分布的特征函数QX u？
解：均匀分布X ~ U (0,1)的概率密度为
f
x
1 0
, 0 x 1 , else
QX u E[e juX ]
f xe juxdx
傅立叶变换性质（P278）
s(t t0 ) ƒ S ()e jt0
E[X ] ( j) dQX (u)
E[X k ] ( j)k d kQX (u) duk
u0
du u0
E[
X
2
]
d
2QX (u) du2
u0
举例（一元特征函数的性Biblioteka Baidu）
例1.31 求二项分布的数学期望、方差和特征函数？
解：① 方法一：二项分布的分布律为
P Y k Cnk pk qnk k 0,1, 2L , n
E Y kP Y k kCnk pk 1 p nk L
k 1
k 1
计 算
DY (k EY )2 Pk (k mY )2 Cnk pk 1 p nk L
k 1
k 1
很 难
n
n
QY e jk P Y k e jkCnk pk qnk L
k 1
k 1
ur uur ur Y AX B a1X1 L an X n b
可得：QY u e jub QX a1u, a2u,L , anu
一元
特征函数的性质（n维）
对比1：
n
QX (u1,...,un ) QXk (uk )
互推
k 1
fX x1,L , xn fX xn fX xn1 L fX x2 fX x1
一元特征函数的性质
1、 QX (u) QX (0) 1
QX
u
=
e ju
2 Sa(
u 2
)
=
Sa(
u 2
)
1=
QX
0
QX
u *
f
xe
jux du
*
f
xe
jux du
QX
u
QY u e ju bQX au
QY (u) E[e juY ] E[e ju(aX b) ] E[e juaX e jub ] e jub E[e juaX ] e jub QX (ua)
E
exp
ur T uur jU A X
E
exp
j
ur AT U
T
uur X
QX
ur T UA
exp
j
uur M
T X
ur AT U
ur AT U
T
CX
2
ur AT U
=exp
j
uur AM X
ur T T ur U
U
ACX AT 2
ur U
X的高斯矢量特 征函数形式
4
u,v0
CXY RXY E[ X ]E[Y ] 4 0 4
XY
CXY
XY
CXY 4 1 DX DY 4
线性相关 Y X 1
随机矢量的数字特征
数学期望 矩
1
一维随机变量 二维随机变量 n维随机变量
随机矢量的函数
离散型 连续型
相关理论 特征函数
2 数学期望的性质
3 条件数学期望
b1 M
ur Y
uur AX
ur B
a1X1 M
b1
an nn
bn n1
多元
an X n bn
n
可得：QY (u1,u2,L
j ukbk , un ) e k1
QX
a1u1,L , anun
ur
2、已知r 1，A a1,L ,an 1n , B b（常数）
一维随机变量
1
2
6
exp
5x12
2x22 12
4 x1 x2
ur T ur U CX U
u1
u2
2 2
2 5
u1 u2
2u12
5u22
4u1u2
QX
u1 , u2
E
e
uur T jU
r x
exp
2u12
5u22 2
4u1u2
特殊性质1——独立和不相关等价
独立
？
fX x1,L , xn fX xn fX xn1 L fX x2 fX x1
QX *(u1,L ,un ) QX (u1,L , un )
QY
u1,L ,ur , 0,L , 0
e
uur T jU
uur
BQX
ur U
T
A
A
Arn LL
O(nr
ur
)n
nn
uur B
B
L
L r 0
n1
两种特殊情况
n维随机变量
a1
1、已知r
n
，A
O
0
0
ur ，B
pe ju q n npq n2 p2
u0
DY E Y 2 EY 2 npq
性质6
7、特征函数可由随机变量的各阶矩唯一地确定。
QX
n0
E
X
n
j n
n!
常用在理论推导中
特征函数的定义（n维）
uur 随机矢量 X
X1 M
ur ，参变量矢量U
u1
M
X n
un
uur 定义随机矢量X的特征函数为
ur Y的特征函数为：QY (u1,...,uk ) QX (u1,...,uk , 0,..., 0)
7、E
X1n
X
k 2
j
nk
nk QX u1,u2 u1nu2k
E XY 2QXY u,v
uv u 0,v 0
u1 0,u2 0
8、QX
(u1,u2 )
E[
X1n
X
k 2
n0 k0
n
对比2： X1,K , X n相互独立，Y Xi，则有
一元特征函数性质5
i 1 n
QY u QXi u
i 1
形式相似，内容不同
特征函数的性质（n维）
6、边缘特征函数
uur 随机矢量 X
X1 M
ur 的子矢量Y
X1 M，且已知特征函数QX
(u1,...,un )。
X n
X k
新
随机变量关于某 个给定值的条件
数学期望
随机变量关于另 一个随机变量的 条件数学期望
随机矢量的数字特征
数学期望 矩
相关理论 特征函数
数学期望 方差 互相关
协方差
随机矢量的数字特征
数学期望
矩 相关理论 特征函数
相关系数的引入
不相关、正交
不相关、正交、独 立之间的关系
随机矢量的数字特征
数学期望
矩
相关理论
数学期望
矩
相关理论
新
特征函数
定义 性质
一维 n维
特征函数的定义（一维）
1
2
QX
u 噲 垐傅 傅垐垐立 立叶 叶垐正 逆垐变 变换 换垎垐
f
x
变换是唯一的
存在2系数， 不是傅立叶变换
QX u E[e juX ]
f
xe juxdx
2
1
2
f
x
e
jux
dx
2 F 1
f
x
F
1
2
rect( t ) ƒ
Sa
2
1
1
1e
jux dx
1 e jux
1
e ju－1
0
ju 0 ju
rect(t)
1 0
, ,
t 1 2 t 1 2
1 ju
e
ju
2 e ju
2 e ju
2
2 j sin (u ju
2) e ju
2
e ju 2 Sa(u ) 2
思考： 2系数体现在哪里？