应用多元统计分析-北大版-第三章
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
1
13
北大数学学院
第三章 多元正态总体参数的假设检验
§3.1 几个重要统计量的分布--Wishart分布(威沙特分布)
一般地,设X(α)~Np(μ,Σ) (α=1,…,n) 相互独立, 记
则称W=X'X服从非中心参数为Δ的非中心 Wishart分布,记为W~Wp(n,Σ,Δ).
其中
14
北大数学学院
(习题3-4)
则
20
北大数学学院
第三章 多元正态总体参数的假设检验
§3.1 几个重要统计量的分布--Wishart分布的性质
性质5 设随机矩阵W~Wp(n,Σ),则 E(W)=nΣ. 证明:由定义3.1.4,知
~ Wp (n, ) W Z Z
1
d n
其中Zα~Np(0,Σ)(α=1,…,n)相互独立.则
而A~Wp(n-1,Σ),且A与X相互独立.由定 义 3.1.5知
T (n 1)[ n ( X )] A [ n ( X )]
2 1
(n 1)n( X ) A ( X )
1 1 n( X ) S ( X )
应用多元统计分析
第三章 多元正态总体
参数的假设检验(一)
1
第三章 多元正态总体参数的假设检验
北大数学学院
目 录( 一 )
§3.1 几个重要统计量的分布
一、正态变量二次型的分布 二、威沙特分布 三、霍特林T2分布 四、威尔克斯统计量
§3.2 单总体均值向量的检验及置信域 §3.3 多总体均值向量的检验
§3.1 几个重要统计量的分布--Wishart分布的性质
性质4 分块Wishart矩阵的分布:设X(α) ~ Np(0,Σ) (α =1,…,n)相互独立,其中
又已知随机矩阵
W11 W X ( ) X ( ) W21 1
n
11 12 r 21 22 pr W12 r ~ Wp (n, ) W22 p r
性质2 关于自由度n具有可加性: 设Wi ~Wp(ni,Σ) (i=1,…,k)相互独立,则
W ~ W (n, ),其中n n n .
i 1 i p 1 k
k
性质3 设p阶随机阵W~Wp(n,Σ), C是m×p常数 阵,则m阶随机阵CWC′也服从Wishart分布,即 CWC′~Wm(n,CΣC′).
=β.
10
北大数学学院
第三章 多元正态总体参数的假设检验
§3.1 几个重要统计量的分布--Wishart分布(威沙特分布)
Wishart分布是一元统计中 2分布的推广
χ
.多元正态总体Np(μ,Σ)中,常用样本均值向 量X作为μ的估计,样本协差阵S=A/(n-1) 作为Σ的估计.由第二章的定理2.5.2已给出 了X~Np(μ,Σ/n).S~?.
§3.1 几个重要统计量的分布--Wishart分布的性质
性质1 设X(α)~Np(μ,Σ) (α=1,…,n)相互独立 ,则样本离差阵A服从Wishart分布,即
A ( X ( ) X )( X ( ) X ) ~ Wp (n 1, )
1
n
证明 根据第二章§2.5的定理2.5.2知
7
北大数学学院
第三章 多元正态总ห้องสมุดไป่ตู้参数的假设检验
§3.1 几个重要统计量的分布--非中心 t 分布和F分布
定义3.1.2
定义3.1.3
8
北大数学学院
第三章 多元正态总体参数的假设检验
§3.1 几个重要统计量的分布--非中心t分布的应用
一元统计中,关于一个正态总体N(μ,σ2)的均 值检验中,检验H0:μ=μ0时,检验统计量
4
北大数学学院
第三章 多元正态总体参数的假设检验
§3.1 几个重要统计量的分布--分量独立的正态变量二次型
设Xi ~N1(μi ,σ2)(i =1,...…,n),且相互独立,记
结论1
一般情况(μi =0,σ2 ≠1时),
5
北大数学学院
第三章 多元正态总体参数的假设检验
§3.1 几个重要统计量的分布--分量独立的正态变量二次型
第三章 多元正态总体参数的假设检验
§3.1 几个重要统计量的分布--Wishart分布(威沙特分布)
当X(α)~Np(μα ,Σ) (α=1,…,n) 相互独立时,非 中心参数
这里 其中p为随机矩阵W的阶数,n为自由度,一元统计 中的σ2对应p元统计中的协差阵Σ.
15
北大数学学院
第三章 多元正态总体参数的假设检验
23
北大数学学院
第三章 多元正态总体参数的假设检验
§3.1 几个重要统计量的分布-- Hotelling T 2分布的性质
性质1 设X(α) ~ Np(μ,Σ) (α=1,…,n) 是来自p元 总体Np(μ,Σ)的随机样本, X和A分别为总体 Np(μ,Σ)的样本均值向量和离差阵,则统计量
T n(n 1)( X ) A ( X )
结论2 当μi≠0(i=1,…,n),σ2 =1时,X′X的 分布常称为非中心χ2分布. 定义3.1.1 设n维随机向量X~Nn(μ,In)
(μ≠0),则称随机变量ξ=X'X为服从 n n个自由度,非中心参数 i2 的χ2分布,记为
2
i 1`
X X ~ (n, ), X X ~ ( )
在性质3 中只须取C=a1/2 Ip,即得此结论.
② 设l′=(l1,…,lp),则 l´Wl=ξ~ W1 (n,l´Σl), 即 ξ~σ2χ2(n) (其中σ2=l´Σl). 在性质3中只须取C=l´,即得此结论.
思考:试问随机阵W的对角元素Wii的分布?
19
北大数学学院
第三章 多元正态总体参数的假设检验
2
北大数学学院
第三章 多元正态总体参数的假设检验
一元统计中,参数μ ,σ 2的检验 涉及到一个总体、二个总体,乃至 多个总体的检验问题; 推广到p元统计分析中,类似地 对参数向量μ 和参数矩阵Σ 涉及 到的检验也有一个总体、二个总体 ,乃至多个总体的检验问题。
3
北大数学学院
第三章 多元正态总体参数的假设检验
2 n
6
北大数学学院
第三章 多元正态总体参数的假设检验
§3.1 几个重要统计量的分布--分量独立的正态变量二次型
则 Y Y
1
2
X X ~ (n, ), 其中
2
1
2
结论3 设X~Nn(0 ,σ2In), A为n阶对称方阵, rk(A)= r,则二次型 X'AX/σ2~χ2(r) A2=A(A为对称幂等阵). 特例:当A=In时, X I n X / 2 X X / 2 ~ 2 (n)
) D( Z ) n. E(W ) E( Z Z
1 1
n n
21
北大数学学院
第三章 多元正态总体参数的假设检验
§3.1 几个重要统计量的分布-- Hotelling T 2分布
一元统计中, 若X~N(0,1),~ χ2(n) ,X与 X 相互独立,则随机变量
A Z Z
n 1
而Zα~Np(0,Σ)(α=1,…,n-1)相互独立,由定 义 3.1.4可知A~Wp(n-1,Σ).
16
1
北大数学学院
第三章 多元正态总体参数的假设检验
§3.1 几个重要统计量的分布--Wishart分布的性质
由于Wishart分布是χ2分布的推广,它具有χ2分 布的一些性质.
定义3.1.5 设X~Np(0,Σ),随机阵W~ Wp(n,Σ) (Σ0, n≥p),且X与W相互独立, 则 称统计量T2=nX′W-1 X 为Hotelling T2 统 计量,其分布称为服从n个自由度的T2 分布, 记为T2 ~ T2 (p,n). 更一般地,若X~Np(μ,Σ) (μ≠0),则称T2 的分布为非中心Hotelling T2 分布,记为 T2 ~ T2 (p,n,μ).
否定域为{|T|>λ},其中λ满足: P{|T|>λ}=α(显著性水平).
9
北大数学学院
第三章 多元正态总体参数的假设检验
§3.1 几个重要统计量的分布--非中心t分布的应用
当否定H0时,可能犯第一类错误,且 第一类错误的概率=P{“以真当假”} =P{|T|>λ|μ=μ0} =显著性水平α. 当H0相容时,可能犯第二类错误,且 第二类错误的概率=P{“以假当真”} =P{|T|≤λ|μ=μ1 ≠μ0 } 此时检验统计量T~t(n-1,δ),利用非中心 t分 布可以计算第二类错误β的值.
1 1
n
n
d
由定义3.1.4有:
Y Y ~ W
1 n m
(n, CC), 故CWC ~ Wm (n, CC).
18
北大数学学院
第三章 多元正态总体参数的假设检验
§3.1 几个重要统计量的分布--Wishart分布的性质
特例:
① aW~Wp(n,aΣ) (a>0,为常数).
17
北大数学学院
第三章 多元正态总体参数的假设检验
§3.1
证明 因 W Z Z ~ Wp (n, )
1
几个重要统计量的分布--Wishart分布的性质 d n
其中 Zα~Np(0,Σ)(α=1,…,n)相互独立. 令Yα=CZα,则Yα~Nm(0,CΣC′). 故
CZ Z C CWC Y Y
2 1
n( X )S ( X )
1
~ T ( p, n 1)
2
事实上,因
1 X ~ N p ( , ), 则 n ( X ) ~ N p (0, ). n 24
北大数学学院
第三章 多元正态总体参数的假设检验
§3.1 几个重要统计量的分布-- Hotelling T 2分布的性质
W X (2 )
1
n
X (1) X (1) , , X ( n ) X X ~ 2 2 (n). X 1n n1 12 (n)
北大数学学院
第三章 多元正态总体参数的假设检验
§3.1 几个重要统计量的分布--Wishart分布(威沙特分布)
推广到p元正态总体,样本协差阵S=A/(n-1) 及随机矩阵A(离差阵)的分布是什么? 设X(α) (α=1,…,n)为来自Np(0,Σ)的随机样本, 考虑随机矩阵 X (1) n W X ( ) X ( ) X (1) , , X ( n ) X X pn n p 1 X (n) 的分布.当p=1时,
t
下面把 t
2
nX
2
n
~ t (n).
nX 1 X 的分布推广到p元总体.
设总体X~Np(0,Σ),随机阵W ~ -1 2 Wp(n,Σ),我们来讨论T =nX'W X的 分布.
22
北大数学学院
第三章 多元正态总体参数的假设检验
§3.1 几个重要统计量的分布-- Hotelling T 2分布
推广到p维正态总体时,随机矩阵W的分布是 什么? 定义3.1.4 设X(α) ~Np(0,Σ) (α=1,…,n)相 n 互独立,则称随机矩阵 W X X X X ( ) ( )
1
的分布为Wishart分布(威沙特分布),记 为W~Wp(n,Σ). n 2 2 2 W X ~ (n) , 即 显然p=1时 ( )
作为σ 的估计,而且知道
n 1 2 2 s ( X X ) 一元统计中,用样本方差 (i ) n 1 i 1 2
1
2
(X
i 1
n
(i )
X ) ~ (n 1)
2 2
11
北大数学学院
第三章 多元正态总体参数的假设检验
§3.1 几个重要统计量的分布--Wishart分布(威沙特分布)
在一元统计中,用于检验μ, σ2的抽 样分布有χ2分布,t 分布,F分布等,它们都 是由来自总体N(μ, σ2)的样本导出的检验 统计量. 推广到多元统计分析后,也有相应于 以上三个常用分布的统计量: Wishart, Hotelling T 2,Wilks Λ统计 量,讨论这些统计量的分布是多元统计分 析所涉及的假设检验问题的基础.
13
北大数学学院
第三章 多元正态总体参数的假设检验
§3.1 几个重要统计量的分布--Wishart分布(威沙特分布)
一般地,设X(α)~Np(μ,Σ) (α=1,…,n) 相互独立, 记
则称W=X'X服从非中心参数为Δ的非中心 Wishart分布,记为W~Wp(n,Σ,Δ).
其中
14
北大数学学院
(习题3-4)
则
20
北大数学学院
第三章 多元正态总体参数的假设检验
§3.1 几个重要统计量的分布--Wishart分布的性质
性质5 设随机矩阵W~Wp(n,Σ),则 E(W)=nΣ. 证明:由定义3.1.4,知
~ Wp (n, ) W Z Z
1
d n
其中Zα~Np(0,Σ)(α=1,…,n)相互独立.则
而A~Wp(n-1,Σ),且A与X相互独立.由定 义 3.1.5知
T (n 1)[ n ( X )] A [ n ( X )]
2 1
(n 1)n( X ) A ( X )
1 1 n( X ) S ( X )
应用多元统计分析
第三章 多元正态总体
参数的假设检验(一)
1
第三章 多元正态总体参数的假设检验
北大数学学院
目 录( 一 )
§3.1 几个重要统计量的分布
一、正态变量二次型的分布 二、威沙特分布 三、霍特林T2分布 四、威尔克斯统计量
§3.2 单总体均值向量的检验及置信域 §3.3 多总体均值向量的检验
§3.1 几个重要统计量的分布--Wishart分布的性质
性质4 分块Wishart矩阵的分布:设X(α) ~ Np(0,Σ) (α =1,…,n)相互独立,其中
又已知随机矩阵
W11 W X ( ) X ( ) W21 1
n
11 12 r 21 22 pr W12 r ~ Wp (n, ) W22 p r
性质2 关于自由度n具有可加性: 设Wi ~Wp(ni,Σ) (i=1,…,k)相互独立,则
W ~ W (n, ),其中n n n .
i 1 i p 1 k
k
性质3 设p阶随机阵W~Wp(n,Σ), C是m×p常数 阵,则m阶随机阵CWC′也服从Wishart分布,即 CWC′~Wm(n,CΣC′).
=β.
10
北大数学学院
第三章 多元正态总体参数的假设检验
§3.1 几个重要统计量的分布--Wishart分布(威沙特分布)
Wishart分布是一元统计中 2分布的推广
χ
.多元正态总体Np(μ,Σ)中,常用样本均值向 量X作为μ的估计,样本协差阵S=A/(n-1) 作为Σ的估计.由第二章的定理2.5.2已给出 了X~Np(μ,Σ/n).S~?.
§3.1 几个重要统计量的分布--Wishart分布的性质
性质1 设X(α)~Np(μ,Σ) (α=1,…,n)相互独立 ,则样本离差阵A服从Wishart分布,即
A ( X ( ) X )( X ( ) X ) ~ Wp (n 1, )
1
n
证明 根据第二章§2.5的定理2.5.2知
7
北大数学学院
第三章 多元正态总ห้องสมุดไป่ตู้参数的假设检验
§3.1 几个重要统计量的分布--非中心 t 分布和F分布
定义3.1.2
定义3.1.3
8
北大数学学院
第三章 多元正态总体参数的假设检验
§3.1 几个重要统计量的分布--非中心t分布的应用
一元统计中,关于一个正态总体N(μ,σ2)的均 值检验中,检验H0:μ=μ0时,检验统计量
4
北大数学学院
第三章 多元正态总体参数的假设检验
§3.1 几个重要统计量的分布--分量独立的正态变量二次型
设Xi ~N1(μi ,σ2)(i =1,...…,n),且相互独立,记
结论1
一般情况(μi =0,σ2 ≠1时),
5
北大数学学院
第三章 多元正态总体参数的假设检验
§3.1 几个重要统计量的分布--分量独立的正态变量二次型
第三章 多元正态总体参数的假设检验
§3.1 几个重要统计量的分布--Wishart分布(威沙特分布)
当X(α)~Np(μα ,Σ) (α=1,…,n) 相互独立时,非 中心参数
这里 其中p为随机矩阵W的阶数,n为自由度,一元统计 中的σ2对应p元统计中的协差阵Σ.
15
北大数学学院
第三章 多元正态总体参数的假设检验
23
北大数学学院
第三章 多元正态总体参数的假设检验
§3.1 几个重要统计量的分布-- Hotelling T 2分布的性质
性质1 设X(α) ~ Np(μ,Σ) (α=1,…,n) 是来自p元 总体Np(μ,Σ)的随机样本, X和A分别为总体 Np(μ,Σ)的样本均值向量和离差阵,则统计量
T n(n 1)( X ) A ( X )
结论2 当μi≠0(i=1,…,n),σ2 =1时,X′X的 分布常称为非中心χ2分布. 定义3.1.1 设n维随机向量X~Nn(μ,In)
(μ≠0),则称随机变量ξ=X'X为服从 n n个自由度,非中心参数 i2 的χ2分布,记为
2
i 1`
X X ~ (n, ), X X ~ ( )
在性质3 中只须取C=a1/2 Ip,即得此结论.
② 设l′=(l1,…,lp),则 l´Wl=ξ~ W1 (n,l´Σl), 即 ξ~σ2χ2(n) (其中σ2=l´Σl). 在性质3中只须取C=l´,即得此结论.
思考:试问随机阵W的对角元素Wii的分布?
19
北大数学学院
第三章 多元正态总体参数的假设检验
2
北大数学学院
第三章 多元正态总体参数的假设检验
一元统计中,参数μ ,σ 2的检验 涉及到一个总体、二个总体,乃至 多个总体的检验问题; 推广到p元统计分析中,类似地 对参数向量μ 和参数矩阵Σ 涉及 到的检验也有一个总体、二个总体 ,乃至多个总体的检验问题。
3
北大数学学院
第三章 多元正态总体参数的假设检验
2 n
6
北大数学学院
第三章 多元正态总体参数的假设检验
§3.1 几个重要统计量的分布--分量独立的正态变量二次型
则 Y Y
1
2
X X ~ (n, ), 其中
2
1
2
结论3 设X~Nn(0 ,σ2In), A为n阶对称方阵, rk(A)= r,则二次型 X'AX/σ2~χ2(r) A2=A(A为对称幂等阵). 特例:当A=In时, X I n X / 2 X X / 2 ~ 2 (n)
) D( Z ) n. E(W ) E( Z Z
1 1
n n
21
北大数学学院
第三章 多元正态总体参数的假设检验
§3.1 几个重要统计量的分布-- Hotelling T 2分布
一元统计中, 若X~N(0,1),~ χ2(n) ,X与 X 相互独立,则随机变量
A Z Z
n 1
而Zα~Np(0,Σ)(α=1,…,n-1)相互独立,由定 义 3.1.4可知A~Wp(n-1,Σ).
16
1
北大数学学院
第三章 多元正态总体参数的假设检验
§3.1 几个重要统计量的分布--Wishart分布的性质
由于Wishart分布是χ2分布的推广,它具有χ2分 布的一些性质.
定义3.1.5 设X~Np(0,Σ),随机阵W~ Wp(n,Σ) (Σ0, n≥p),且X与W相互独立, 则 称统计量T2=nX′W-1 X 为Hotelling T2 统 计量,其分布称为服从n个自由度的T2 分布, 记为T2 ~ T2 (p,n). 更一般地,若X~Np(μ,Σ) (μ≠0),则称T2 的分布为非中心Hotelling T2 分布,记为 T2 ~ T2 (p,n,μ).
否定域为{|T|>λ},其中λ满足: P{|T|>λ}=α(显著性水平).
9
北大数学学院
第三章 多元正态总体参数的假设检验
§3.1 几个重要统计量的分布--非中心t分布的应用
当否定H0时,可能犯第一类错误,且 第一类错误的概率=P{“以真当假”} =P{|T|>λ|μ=μ0} =显著性水平α. 当H0相容时,可能犯第二类错误,且 第二类错误的概率=P{“以假当真”} =P{|T|≤λ|μ=μ1 ≠μ0 } 此时检验统计量T~t(n-1,δ),利用非中心 t分 布可以计算第二类错误β的值.
1 1
n
n
d
由定义3.1.4有:
Y Y ~ W
1 n m
(n, CC), 故CWC ~ Wm (n, CC).
18
北大数学学院
第三章 多元正态总体参数的假设检验
§3.1 几个重要统计量的分布--Wishart分布的性质
特例:
① aW~Wp(n,aΣ) (a>0,为常数).
17
北大数学学院
第三章 多元正态总体参数的假设检验
§3.1
证明 因 W Z Z ~ Wp (n, )
1
几个重要统计量的分布--Wishart分布的性质 d n
其中 Zα~Np(0,Σ)(α=1,…,n)相互独立. 令Yα=CZα,则Yα~Nm(0,CΣC′). 故
CZ Z C CWC Y Y
2 1
n( X )S ( X )
1
~ T ( p, n 1)
2
事实上,因
1 X ~ N p ( , ), 则 n ( X ) ~ N p (0, ). n 24
北大数学学院
第三章 多元正态总体参数的假设检验
§3.1 几个重要统计量的分布-- Hotelling T 2分布的性质
W X (2 )
1
n
X (1) X (1) , , X ( n ) X X ~ 2 2 (n). X 1n n1 12 (n)
北大数学学院
第三章 多元正态总体参数的假设检验
§3.1 几个重要统计量的分布--Wishart分布(威沙特分布)
推广到p元正态总体,样本协差阵S=A/(n-1) 及随机矩阵A(离差阵)的分布是什么? 设X(α) (α=1,…,n)为来自Np(0,Σ)的随机样本, 考虑随机矩阵 X (1) n W X ( ) X ( ) X (1) , , X ( n ) X X pn n p 1 X (n) 的分布.当p=1时,
t
下面把 t
2
nX
2
n
~ t (n).
nX 1 X 的分布推广到p元总体.
设总体X~Np(0,Σ),随机阵W ~ -1 2 Wp(n,Σ),我们来讨论T =nX'W X的 分布.
22
北大数学学院
第三章 多元正态总体参数的假设检验
§3.1 几个重要统计量的分布-- Hotelling T 2分布
推广到p维正态总体时,随机矩阵W的分布是 什么? 定义3.1.4 设X(α) ~Np(0,Σ) (α=1,…,n)相 n 互独立,则称随机矩阵 W X X X X ( ) ( )
1
的分布为Wishart分布(威沙特分布),记 为W~Wp(n,Σ). n 2 2 2 W X ~ (n) , 即 显然p=1时 ( )
作为σ 的估计,而且知道
n 1 2 2 s ( X X ) 一元统计中,用样本方差 (i ) n 1 i 1 2
1
2
(X
i 1
n
(i )
X ) ~ (n 1)
2 2
11
北大数学学院
第三章 多元正态总体参数的假设检验
§3.1 几个重要统计量的分布--Wishart分布(威沙特分布)
在一元统计中,用于检验μ, σ2的抽 样分布有χ2分布,t 分布,F分布等,它们都 是由来自总体N(μ, σ2)的样本导出的检验 统计量. 推广到多元统计分析后,也有相应于 以上三个常用分布的统计量: Wishart, Hotelling T 2,Wilks Λ统计 量,讨论这些统计量的分布是多元统计分 析所涉及的假设检验问题的基础.