正态分布的线性组合(12级学生)

合集下载
  1. 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
  2. 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
  3. 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
元之和.
n
∑ 注: 矩阵 Σ 半正定的充要条件也可写成, 对任何实数 t j , j = 1, 2,", n , 有 bjkt jtk ≥ 0 . j,k =1
性质 B.3 设 A 为 m × n 阵, ξ 为 n ×1随机向量, η = Aξ , 则 cov(η)=Acov(ξ)A′ .
5
附录 B 均值向量与协方差阵
以随机变量为元素的矩阵, 称为随机矩阵. 如果随机矩阵只有一行或一列, 称为随机向量. 设
4
X
=
⎛ ⎜ ⎜ ⎜
X11
X 21 #
X12 X 22
" "
X1n X 2n
⎞ ⎟ ⎟
# # #⎟
⎜ ⎝ X m1
X m2
"
⎟ X mn ⎠
为随机矩阵, 用 EX 表示 X 的期望值. 定义为:
ϕ(0,", 0, tl1 , 0,", 0,tlk , 0,", 0)
命题 1.3 两个多元分布函数恒等的充要条件是它们的特征函数恒等.
命题 1.4 设ξ j 的特征函数为ϕ j (t) ( j = 1, 2,", n) , 则ξ1,",ξn 相互独立的充要条件为 (ξ1,",ξn )′ 的特征函数ϕ(t1,", tn ) = ϕ1(t1)"ϕn (tn ) .
若 A ≥ 0 , 则 A 的特征值 λi ≥ 0 . 于是算术平方根 λi 都是实数. 记
1
Λ 2 =diag( λ1 ,", λn )
1
1
1
若 A 2 = ΦΛ 2Φ′ , 则称 A 2 为 A 的平方根阵.
1
1
1
1
这是因为 (A 2 )2 = (ΦΛ 2Φ′)(ΦΛ 2Φ′) = ΦΛΦ′ = A . 显然, A 2 ≥ 0 .
1
1
−1
如果 A > 0 , 则不难证明 A 2 > 0 . 因此, 我们可以求 A 2 的逆矩阵, 记之为 A 2 ,
−1
即A 2
1
= (A 2 )−1 .
1
由 A2
=
ΦΛ
1 2
Φ′
可得

A
1 2
=
ΦΛ

1 2
Φ′
.
其中
Λ

1 2
=diag(λ1−
1 2
,",
λn−
1 2
)
.
1
推论: 设 A 为 n × n 半正定阵, 则存在矩阵 B , 使得 A = BB′ .(取 B = A 2 )
这里 λ1,", λn 为 A 的特征值, Φ 的列为对应的标准正交化特征向量.
记 Λ=diag(λ1,", λn ) , 则 A = ΦΛΦ′ .
设 A 为 n × n 实对称阵, 若对任意的 n 维实向量 x , 均有 x′Ax ≥ 0 , 则称 A 为半正定阵, 记 为 A ≥ 0 . 若进一步假设 x′Ax = 0 , 当且仅当 x = 0 , 则称 A 为正定阵, 记为 A > 0 . 性质 A.2 设 A 为 n × n 实对称阵. (1) 若 A ≥ 0 , 则 A 的所有特征值均为非负数; (2) 若 A > 0 , 则 A 的所有特征值均为正数.
注意, 这里 ξ 的诸分量可以是彼此相关且方差互不相等, 但变换过的 η 的诸分量相互独立,
且方差皆为 1. 这个推论表明, 我们可以用一个线性变换把诸分量相关且方差不相等的多元 正态向量变换为多元标准正态向量.
推论 3 设 ξ1, ξ2 ,",ξn 相互独立, 且 ξi ~ N (μi , σ 2 ) , A = (aij ) 是 n 阶正交阵. 令
向量, 记作 Nn (μ, Σ) . 简记为 N (μ, Σ) , 这里 μ, Σ 分别为分布参数. 当 μ = 0 , Σ = I 时,
称此多元正态分布为标准正态分布. 思考题 2.1 说明(2.1)是一维与二维正态分布的概率密度的推广.
∫ 命题 2.1 证明(2.1)式中的 f (x) > 0 ,
⎞⎟⎟⎠⎟⎟
求 ξ1 − ξ2 的分布.
附录 A 实对称阵、半正定阵、正定阵 设 A = (aij )n×n , 元素 aij 均为实数, 且 A′ = A , 则称 A 为实对称阵.
性质 A.1 设 A 为 n × n 实对称阵, 则 (1) A 的所有特征值都是实数; (2) 存在正交阵 Φ , 使得 Φ′AΦ = diag(λ1,", λn ) ,
n
∑ 练习 3. 4 设 n 维随机向量 X ~ N (μ, Σ) , Σ 正定, 求Y = X j 服从的分布. j =1
练习 3.5 设 ξ ~ N2 (μ, Σ) , 这里
3
ξ = (ξ1,ξ2 )′ , μ = (μ1, μ2 )′ , Σ = ⎛⎜⎜⎜⎜⎝ρσσ112σ2
ρσ σ 12 σ2 2
命题 3.1 说明多元正态分布的任何边际分布还是正态分布. 但是一个随机向量的任何边际 分布均为正态, 并不一定表明它一定服从多元正态分布. 例如:
练习 3.1 设 ξ = (ξ1,ξ2 )′ 有概率面密度
f
(x1, x2 )
=
1 2π
− x12 + x22
e2
(1+ sin
x1 sin
x2 )
,
−∞ < x1, x2 < +∞
(1) 试验证 f (x1, x2 ) 符合概率密度的两个性质;
(2) 试求 ξ1,ξ2 的边际密度.
练习 3.2 设 ξ ~ Nn (μ, Σ) , 这里 ξ = (ξ1,ξ2 ,",ξn )′ , μ = (μ1, μ2 ,", μn )′ , Σ = (σ ij )n×n
则每个 ξi ( i = 1,", n )的边际分布为 N (μi , σ ii )
利用命题 3.3, 可以把多元随机变量的各分量的任意线性组合为正态变量作为多元正态变量 的另一定义.
推论
设 ξ1, ξ2 ,",ξn 相 互 独 立 ,

ξi
~
N
(μi
,
σ
2 i
)
,
i = 1,", n ,
则对任意 n 个常数
2
n
n
n
∑ ∑ ∑ k1, k2,", kn , 有
k jξ j ~ N ( k jμ j ,
的数学期望、方差和相关系数.
3 多元正态分布的性质
命题 3.1 正态随机向量 (ξ1,",ξn )′ 的任一子向量 (ξl1 ,",ξlk )′ 也服从正态分布 N (μ , Σ ) ,
其中 μ = (μl1 ,", μlk )′ , Σ 为取 Σ 的 l1,", lk 行与列交叉点所得的 k 阶矩阵.
注 如果 μi = 0 , 则ηi ~ N (0, σ 2 ) ( i = 1,", n ). 还有, 在研究正态分布时, 常常用到“正态
分布的线性组合仍为正态分布”这一结论.
推论 4 存在正交阵 U 使在 η = Uξ 的变换下, η 的协方差阵为对角阵
UΣU′ = D = diag(d1,", dn )
推论 1 设 n 维随机向量 ξ ~ Nn (a, Σ) , A 为 n × n 非随机可逆阵, b 为 n ×1向量, 记
η = Aξ + b , 则 η ~ Nn (Aa + b, AΣA′) .
−1
−1
推论 2 设 ξ ~ Nn (a, Σ) , 则 η = Σ 2ξ ~ Nn (Σ 2a, I) .
EX
:=
⎛ ⎜ ⎜ ⎜
EX EX
#
11 21
EX12
EX 22 #
" "
EX1n EX 2n
⎞ ⎟ ⎟
# #⎟
⎜ ⎝ EX m1
EX m2
"
⎟ EX mn ⎠
性质 B.1 设 X, Y 为同阶随机矩阵, A, B 为可相乘的常数矩阵, 则
E(X + Y) = EX + EY , E(AXB) = AE(X)B , (EX)′ = E(X′)
命题 3.2 服从 n 元正态分布 ξ1,ξ2 ,",ξn 相互独立的充要条件是它们两两不相关.
命题 3.2 说明正态分布时的随机变量的独立性与不相关性是等价的.
命题 3.3 ξ 服从多元正态分布的充要条件是它的各分量的任意线性组合仍服从正态分布. 如
记 a = (a1,", an )′ 为任意 n 维实向量, 则 ξ ~ N (μ, Σ) ⇔ η = a′ξ ~ N (a′μ, a′Σa)
为 ξ 的特征函数.
如果令 t = (t1,", tn )′ , x = (x1,", xn )′ , 则上式可改写为
∫ ϕ(t) = E(ei(t′ξ) ) = ei(t′ξ)dF (x) \n
这样便得到与随机变量特征函数一致的形式.
命题 1.1 η = a1ξ1 +" + anξn 的特征函数为ϕη (t) = ϕ(a1t,", ant) . 命题 1.2 若 (ξ1,",ξn )′ 的特征函数为ϕ(t1,", tn ) , 则 k 维子向量 (ξl1 ,",ξlk )′ 的特征函数为
正态分布的线性组合问题
1 多元(/随机向量)特征函数 定义 1.1 设 F (x1,", xn ) 为随机向量 ξ = (ξ1,",ξn )′ 的联合分布函数, 称
∫ ϕ (t1,", tn ) = E(ei(t1ξ1+"+tnξn ) ) = Rn ei(t1x1+"+tnxn )dF ( x1,", xn )
n
bjst jts}
s =1
当 n = 1 时即为一元正态分布的特征函数.
思考题 2.2 根据(2.2)给出二维正态分布的特征函数.
命题 2.3 分布参数 μ, Σ 分别为 ξ 的均值向量与协方差阵.
(2.2)’
这说明多元正态分布完全由它的均值向量 μ 和协方差阵 Σ 所决定. 恰好对应二元正态分布
2 多元正态分布
定义 2.1 设 n 维随机向量 ξ = (ξ1,ξ2 ,",ξn )′ 具有密度函数
f (x) =
1
n
−1 (x−μ)′Σ−1 (x−μ)
e2
1
(2π)2 Σ 2
(2.1)
其中 x = (x1, x2 ,", xn )′ , μ = (μ1, μ2 ,", μn )′ , Σ 是正定对称矩阵, 则称 ξ 为 n 维正态随机
n
∑ ηi = aijξ j ( i = 1,", n ) j =1
(也可写成矩阵形式 η = Aξ , 其中 ξ = (ξ1, ξ2 ,",ξn )′ , η = (η1, η2 ,",ηn )′ )
n
∑ 则η1,η2 ,",ηn 相互独立, 且ηi ~ N ( aij μ j , σ 2 ) ( i = 1,", n ). j =1
(ξ1

a1 , ξ 2

a2 ,",ξn

an
)′]
⎜ ⎝
ξn

an
⎟ ⎠
=
⎛ ⎜ ⎜ ⎜
cov cov
(ξ1,ξ1 (ξ2 ,ξ1
#
) )
cov (ξ1,ξ2 ) cov (ξ2,ξ2 )
#
" " #
cov cov
(ξ1 (ξ1
#
, ,
ξn ξn
) )
⎞ ⎟ ⎟ ⎟
=
⎛ ⎜ ⎜ ⎜
b11
b21 #
f (x)dx =1.
Rn
命题 2.2 服从 N (μ, Σ) 的 ξ = (ξ1,ξ2 ,",ξn )′ 的特征函数为
ϕ(t) = exp{iμ′t − 1 t′Σt}
(2.2)
2
1
将(2.2)展开写成分量形式
∑ ∑ ∑ n
ϕ(t1,", tn ) = exp{i μktk
k =1
−1 2
n j =1
定义 B.1 对 n 维随机向量
ξ = (ξ1 ξ2 " ξn )′ (其中 Eξ = (a1 a2 " an )′ )
的协方差矩阵定义为
cov(ξ) := E[(ξ − Eξ)(ξ − Eξ)′]

cov(ξ)
=
E[(ξ

Eξ)(ξ

Eξ)′]
=
E[
⎛ ⎜ ⎜
ξ1 ξ2

− − #
a1 a2
⎞ ⎟ ⎟ ⎟
k
2j σ
2 j
)
.
j =1
j =1
Leabharlann Baidu
j =1
( ) 练习 3.3 (正态总体样本均值的分布) 设 ξ1, ξ2 ,",ξn 与 ξ 独立同分布于 N μ, σ2 , 则
ξ
~
N ⎛⎜⎜⎜⎝μ,
σ2 n
⎞⎠⎟⎟⎟⎟
.
下面的性质将命题 3.3 的必要条件推广到 m 维线性变换. 命题 3.4 设 ξ ~ Nn (μ, Σ) , C = (cij ) 为 m × n 矩阵, 则 η = Cξ + b ~ N (Cμ + b, CΣC′) .
b12
b22 #
" " #
b1n
b2n #
⎞ ⎟ ⎟ ⎟
=:
Σ
⎜⎜⎝ cov (ξn ,ξ1 )
cov (ξn ,ξ2 )
"
cov (ξn ,ξn ) ⎟⎟⎠
⎜ ⎝ bn1
bn 2
"
⎟ bnn ⎠
其中 bik = E(ξi − ai )(ξk − ak ) = cov(ξi , ξk )
∑ 性质 B.2 cov(ξ) 是对称且半正定阵, 且 trcov(ξ) = Dξi , trA 表示方阵 A 的迹, 即对角
相关文档
最新文档