数理统计的基本概念
数理统计
四、数理统计的基本概念 五、参数估计
四、数理统计的基本概念
1. 总体和样本 总体:研究对象的某项数量指标的值的全体。 个体:总体中的每个元素为个体。 容量:总体中所包含的个体的个数。 按此分为有限总体和无限总体。 例如:某工厂生产的灯泡的寿命是一个总体,每 一个灯泡的寿命是一个个体;某学校男生的身高 的全体一个总体,每个男生的身高是一个个体。
1 ˆ 解得: n
2
x
i 1 n
n
i
x
1 ˆ n
i 1
( X i X )2
(3)估计量的评选标准
1) ˆ ˆ 无偏性:若 ( X 1 , , X n )的数学期望存在, ˆ ˆ 且E . 则称是的无偏估计量。
2)
ˆ ˆ ˆ ˆ 有效性:若1 1 ( X 1 , , X n ), 2 2 ( X 1 , , X n ) ˆ ˆ 都是的无偏估计量;若D( ) D( ).
ˆ 所以 A1 X ,
ˆ A2
2 2 A1
1 n
i 1
n
X i2
1 X n
2
i 1
n
( X i X )2
(2) 极大似然估计法
(1).若总体X属离散型,其分布律 { X x} p( x; ), P 的形式为已知, 为待估参数,是可能取值的范围。
解:X的概率密度为: 1 1 2 f ( x; , ) exp{ (x )2} 2 2 2
似然函数为:
L( , )
2
2 2 2 i 1 n n 1 ln L ln(2 ) ln( ) 2 2 2 2
数理统计基本概念
P{6.262 χ 2 24.996}
2 2
P{χ 6.262} P{χ 24.996}
0.975 0.05 0.925
注意 应注意分布表的定义与查法!
#
数理统计基本概念
3.自由度为 n的 t 分布 作笔名发表文章.
T~t(n)
又称学生氏分布--第一个研究者以Student
( X 1 , X 2 , , X n ) ~ ( 2 ) e
n 2 2
i 1
( xi )2 2 2
n
数理统计基本概念
四、统计量 定义6.1.2 设X1 , X2 , ·, Xn是总体X的样本, · · T为n元实值函数,若样本的函数 T=T(X1 , X2 , ·, Xn) · · 是随机变量且不含未知参数,称 T为统计量. 对相应的样本值( x1 , x2 , … , xn ) ,称 t =T( x1 , x2 , … , xn )
理
统
计
的
引
入
数理统计基本概念
某厂生产的一批产品中次品率为 p 。从中 抽取10件产品装箱。 概
1)没有次品的概率 2)平均有几件次品
率
3)为以 0.95的概率保证箱中 有10件正品,箱中至少要装多 少件产品。
数
理
统
计
的
引
入
数理统计基本概念
所有这些问题的关键是 p 是已知的! 如何获取 p ? 这就是数理统计的任务了!
定的α(0<α<1),数uα满足
P{ X u } ,
(C ) u1 ;
数理统计的基本概念
n 1 2
, x .
t 分布的概率密度图形
图形关于 x 0 对称, lim f ( x; n) 0 , 且 x 当 n 充分大时,f (x; n) 趋近于标准正态 分布的概率密度。
定理 4: X 1, 2, , n 是抽自正态总体 设 X X
若总体 X 是离散型的,其分布律为:
则样本的联合分布为
§6.2 抽样分布
6.2.1 统计量的概念 由样本推断总体的某些情况时,需要对样本进行“ 加工”,构造出若干个样本的已知 (确定)的函数, 其作用是把样本中所含的某一方面的信息集中起来 。 这种不含任何未知参数的样本的函数称为统计量。 它是完全由样本所决定的量。 定义2:设 X 1 , X 2 , , X n 是来自总体X的样本, g( X 1 , X 2 , , X n ) 是样本 X 1 , X 2 , , X n 的函数,如果 g( X 1 , X 2 , , X n ) 中不包含任何未知参数,则称它 是一个统计量。
1 (0.82)
1 0.7939 0.2061
X ~ N (0, 22 ), X1 , X 2 , X3 , X 4 为其样本,求a,b 例2:总体
(2). (n 1)S / ~ (n 1)
2
X (1). X ~ N ( , / n), 或 ~ N (0,) ; 1 / n 2 2 2
2
X (3). X 与 S 相互独立; (4). ~ t(n 1). S/ n
定理5:设X1, X2, …, Xm 与Y1, Y2, …, Yn分别来自总体 2 两样本独立, X ~ N ( 1 , 12 )和Y ~ N ( 2 , 2 )的样本, 2 S12 / S2 则有 F 2 ~ F ( m 1, n 1). 2 1 / 2 定理6*:设X1, X2, …, Xm 与Y1, Y2, …, Yn分别来自
数理统计的基本概念
第6章
§6.1-6.2
第10页
设(X1,X2,…,Xn)为来自总体X的简单随机样本 1 n 1.样本均值: X X i 常用于估计总体分布的均值,或 检验有关总体分布均值的假设。 n i 1
n 1 2 S2 ( X X ) 2.样本方差: i n 1 i 1
首页 上页 返回 下页 结束
第6章
§6.1-6.2 §6.1 样本及抽样分布
第3页
数理统计的核心问题是由样本推断总体,即统计推断
6.1.1 总体、个体与样本
1. 总体:研究对象的全体称为总体(母体),用X表示, 它是一个随机变量. 总体分为有限总体和无限总体. 个体:组成总体的每个研究对象称为个体.
i 1 i 1
i
ki !
e
首页
上页
返回
下页
结束
第6章
§6.1-6.2
第8页
3 加工某零件时,每一件需要的时间服从均值为1 / 的 指数分布,今以加工时间为零件的数量指标,任取n件 零件构成一个容量为n的样本,求样本分布.
解:零件的加工时间为总体X,则X ~ E ( ), 其概率 e x x0 密度为 f ( x) x0 0 于是样本( X 1 , X 2 , X n )的密度为 f ( x1 , x2 , xn )
样本容量为5
首页 上页 返回 下页 结束
第6章
§6.1-6.2
第5页
样本是随机变量. 抽到哪5辆是随机的
容量为n的样本可以看作n维随机变量(X1, X2, …, Xn). 一旦取定一组样本,得到的是n个具体的数 (x1,x2,…,xn),称为样本的一次观察值,简称样本值 .
数理统计的基本概念
样本k阶原点矩 样本 阶原点矩 样本k阶中心矩 样本 阶中心矩
河南理工大学精品课程
1 Ak = n 1 Bk = n
∑ ∑
n
n
i =1
X ik ( k = 1, 2 , L )
i =1
( X i − X ) k ( k = 1, 2 , L )
概率论与数理统计
说明 (修正 样本方差还可表示为 修正)样本方差还可表示为 修正
n 1 S2 = [ ∑ X i2 − n X 2 ] n − 1 i =1
1 n 推导】 【推导】 S 2 = ( X i − X )2 ∑ n − 1 i =1 = = = =
河南理工大学精品课程
1 n ( X i2 − 2 X i X + X 2 ) ∑ n − 1 i =1 n n n 1 [ ∑ X i2 − 2 X ∑ X i + ∑ X 2 ] n − 1 i =1 i =1 i =1 n 1 [ ∑ X i2 − 2 n X 2 + n X 2 ] n − 1 i =1 n 1 [ ∑ X i2 −n X 2 ] n − 1 i =1
河南理工大学精品课程 概率论与数理统计
做法
从总体中随机地抽取若干个体(灯泡、 从总体中随机地抽取若干个体(灯泡、工大男
生),测试其所需数据(寿命、身高),最后对所得数据通过 ),测试其所需数据 寿命、身高), 测试其所需数据( ),最后对所得数据通过 整理加工和分析来推断总体(这批灯泡寿命、 整理加工和分析来推断总体(这批灯泡寿命、工大男生身 高)的分布情况,从而了解整体情况. 的分布情况,从而了解整体情况. 一般,我们所研究的总体的某项数量指标X 一般,我们所研究的总体的某项数量指标X是一个随 机变量,其取值在客观上有一定的分布.因此, 机变量,其取值在客观上有一定的分布.因此,对总体的研 究,就是对相应的随机变量X的研究。 就是对相应的随机变量X的研究。 今后,我们称X 今后,我们称X的分布函数和数字特征分别为总体的 分布函数和数字特征, 分布函数和数字特征,并不再区分总体与相应的随机变量 X.对总体的称呼 总体,总体X 总体F X.对总体的称呼:总体,总体X与总体F. 对总体的称呼:
第六章 数理统计的基本概念
1 n 2 S S ( X X ) i n 1 i 1
2
(4) 样本k阶(原点)矩
1 n k Ak X i n i 1
k 1, 2,
k 2,3,
(5) 样本k阶中心矩
1 n Bk ( X i X )k n i 1
§2
常用统计量的分布
统计量的分布称为抽样分布.下面介绍三种由 正态总体演化而来的统计量的分布:
• 从二战后到现在,是统计学发展的第三个时期,这是一个在 前一段发展的基础上,随着生产和科技的普遍进步,而使这 个学科得到飞速发展的一个时期,同时,也出现了不少有待 解决的大问题.
学科奠基者
数理统计作为一个进一步完善的数学学科的奠基者是英国人费歇尔。他1909 年入剑桥大学,攻读数学物理专业,三年后毕业。毕业后,他曾去投资办工 厂,又到加拿大农场管过杂务,也当过中学教员。1919年,他开始对生物统 计学产生了浓厚的兴趣,参加罗萨姆斯泰德试验站的工作,致力于数理统计 在农业科学和遗传学中(费歇尔1890—1962)的应用研究。 年轻的费歇尔主要的研究工作是用数学将样本的分布给以严格的确定。 在一般人看来枯燥乏味的数学,常能带给研究者极大的慰藉,费歇尔热衷于 数理统计的研究工作,后来的理论研究成果有:数据信息的测量、压缩数据 而不减少信息、对一个模型的参数估计等。 最使科学家称赞的工作则是试验设计,它将一切科学试验从某一个侧面 “科学化”了,不知节省了多少人力和物力,提高了若干倍的工效。 费歇尔培养了一个学派,其中有专长纯数学的,有专长应用数学的。在30- 50年代费歇尔是统计学的中心人物。1959年费歇尔退休后在澳大利亚度过了 最后三年。
若 x1 , x2 , , xn 是样本的观察值, 则 g ( x1 , x2 , xn ) 是 g ( X 1 , X 2 , X n )
数理统计基本概念
1 1 n1 n2
~ t ( n1 n2 2)
定理 5 (两总体样本方差比的分布)
且X与Y独立, 设X ~ N ( 1, ), Y ~ N ( 2 , ), X1, X2,…, X n1是取自X的样本, Y1,Y2,…, Yn2 是
样本是联系二者的桥梁 总体分布决定了样本取值的概率规律, 也就是样本取到样本值的规律,因而可以由 样本值去推断总体.
二、统计量和抽样分布 1. 统计量 由样本值去推断总体情况,需要对样本 值进行“加工”,这就要构造一些样本的 函数,它把样本中所含的(某一方面)的 信息集中起来.
这种不含任何未知参数的样本的函数 称为统计量. 它是完全由样本决定的量.
2. 独立性: X1,X2,…,Xn是相互独立的随机 变量.
由简单随机抽样得到的样本称为简单 随机样本,它可以用与总体独立同分布的 n个相互独立的随机变量X1,X2,…,Xn表示.
若总体的分布函数为F(x),则其简单随机 样本的联合分布函数为 F(x1) F(x2) … F(xn) 简单随机样本是应用中最常见的情 形,今后,当说到“X1,X2,…,Xn是取自某 总体的样本”时,若不特别说明,就指简 单随机样本.
数理统计的基本概 念
一、总体和样本
1.总体
一个统计问题总有它明确的研究对象.
研究对象的全体称为总体(母体), 总体中每个成员称为个体.
总体
…
研究某批灯泡的质量
然而在统计研究中,人们关心总体仅仅 是关心其每个个体的一项(或几项)数量指标 和该数量指标在总体中的分布情况. 这时, 每个个体具有的数量指标的全体就是总体.
统计中,总体这个概念 的要旨是:总体就是一个 概率分布.
数理统计的基本概念
证明:设F~F(n1,n2),则
P{F F1 (n1 , n2 )} 1
1 1 P{ } 1 F F1 (n1 , n2 ) 1 1 P{ } F F1 (n1 , n2 )
得证!
1 P{ F (n2 , n1 )} F
5.1.4 统计量及抽样分布
2. F分布的分位点 对于:0<<1,
若存在F(n1, n2)>0,
满足
P{FF(n1, n2)}=, 则
称F(n1, n2)为 F(n1, n2)的 上侧分位点;
F (n1 , n2 )
注:
1 F1 (n1 , n2 ) F (n2 , n1 )
1 ~ F ( n2 , n1 ) F
列出其频数频率分布表。
组序 分组区间 组中值 1 (147,157] 152 2 (157,167] 162 3 (167,177] 172 4 (177,187] 182 5 (187,197] 192 合计
频数 4 8 5 2 1 20
频率 累计频率(%) 0.20 20 0.40 60 0.25 85 0.10 95 0.05 100 1
1、设X 1 , X 2 ,
, X n (n 2)为来自总体N (0,1)的简单随机样本, (n 1) X 12
2 X i i 2 n
X 为样本均值,S 2为样本方差,则统计量
服
从 __________ 分布。 (05—06二)
2、设 X 1 , X 2 , X 3是来自正态分布 N (0, 2 )总 体的简单随机样本,则 统计量 2 服从 ________ 分布。(05—06三) X1 X X
3.总体、样本、样本观察值的关系 总体
01 第一节 数理统计的基本概念
第五章 样本及抽样分布从本章开始, 我们将讲述数理统计的基本内容. 数理统计作为一门学科诞生于19世纪末20世纪初, 是具有广泛应用的一个数学分支, 它以概率论为基础, 根据试验或观察得到的数据, 来研究随机现象, 以便对研究对象的客观规律性作出合理的估计和判断.由于大量随机现象必然呈现出它的规律性, 故理论上只要对随机现象进行足够多次观察, 则研究对象的规律性就一定能清楚地呈现出来, 但实际上人们常常无法对所研究的对象的全体(或总体) 进行观察, 而只能抽取其中的部分(或样本) 进行观察或试验以获得有限的数据.数理统计的任务包括: 怎样有效地收集、整理有限的数据资料; 怎样对所得的数据资料进行分析、研究, 从而对研究对象的性质、特点, 作出合理的推断, 此即所谓的统计推断问题, 本课程主要讲述统计推断的基本内容.第一节 数理统计的基本概念内容分布图示★ 引言 ★ 总体与总体分布 ★ 样本与样本分布 ★ 例1★ 例2 ★ 例3 ★ 例4★ 统计推断问题简述★ 分组数据统计表和频率直方图 ★ 例5 ★ 经验分布函数 ★ 例6★ 统计量 ★ 样本的数字特征★ 例7 ★ 例8 ★ 例9 ★ 内容小结 ★ 课堂练习 ★ 习题5-1 ★ 返回内容要点:一、总体与总体分布总体是具有一定共性的研究对象的全体, 其大小与范围随具体研究与考察的目的而确定. 例如, 考察某大学一年级新生的体重情况, 则该校一年级全体新生就构成了待研究的总体. 总体确定后, 我们称总体的每一个可观察值为个体. 如前述总体(一年级新生) 中的每一个个体即为每个新生的体重. 总体中所包含的个体的个数称为总体的容量. 容量为有限的称为有限总体, 容量为无限的称为无限总体.数理统计中所关心的并非每个个体的所有性质, 而仅仅是它的某一项或某几项数量指标. 如前述总体(一年级新生)中, 我们关心的是个体的体重, 进而也可考察该总体中每个个体的身高和数学高考成绩等数量指标.总体中的每一个个体是随机试验的一个观察值, 故它是某一随机变量X 的值,于是, 一个总体对应于一个随机变量, 对总体的研究就相当于对一个随机变量X 的研究, X 的分布就称为总体的分布函数, 今后将不区分总体与相应的随机变量, 并引入如下定义:定义 统计学中称随机变量(或向量)X 为总体, 并把随机变量(或向量)的分布称为总体分布.注(i) 有时个体的特性很难用数量指标直接描述, 但总可以将其数量化,如检验某学校全体学生的血型, 试验的结果有O 型、A 型、B 型、AB 型4种, 若分别以1,2,3,4依次记这4种血型,则试验的结果就可以用数量来表示了;(ii) 总体的分布一般来说是未知的, 有时即使知道其分布的类型(如正态分布、二项分布等),但不知这些分布中所含的参数等(如p ,,2σμ等).数理统计的任务就是根据总体中部分个体的数据资料对总体的未知分布进行统计推断.二、样本与样本分布由于作为统计研究对象的总体分布一般来说是未知的,为推断总体分布及其各种特征,一般方法是按一定规则从总体中抽取若干个体进行观察,通过观察可得到关于总体X 的一组数值),,,(21n x x x ,其中每一i x 是从总体中抽取的某一个体的数量指标i X 的观察值.上述抽取过程为抽样,所抽取的部分个体称为样本.样本中所含个体数目称为样本的容量.为对总体进行合理的统计推断,我们还需在相同的条件下进行多次重复的、独立的抽样观察,故样本是一个随机变量(或向量).容量为n 的样本可视为n 维随机向量),,,(21n X X X ,一旦具体取定一组样本,便得到样本的一次具体的观察值),,,(21n x x x ,称其为样本值.全体样本值组成的集合称为样本空间.为了使抽取的样本能很好地反映总体的信息, 必须考虑抽样方法,最常用的一种抽样方法称为简单随机抽样, 它要求抽取的样本满足下面两个条件:1. 代表性: n X X X ,,,21 与所考察的总体具有相同的分布;2. 独立性: n X X X ,,,21 是相互独立的随机变量.由简单随机抽样得到的样本称为简单随机样本, 它可用与总体独立同分布的n 个相互独立的随机变量n X X X ,,,21 表示. 显然, 简单随机样本是一种非常理想化的样本, 在实际应用中要获得严格意义下的简单随机样本并不容易.对有限总体, 若采用有放回抽样就能得到简单随机样本,但有放回抽样使用起来不方便, 故实际操作中通常采用的是无放回抽样, 当所考察的总体很大时, 无放回抽样与有放回抽样的区别很小, 此时可近似把无放回抽所得到的样本看成是一个简单随机样本. 对无限总体, 因抽取一个个体不影响它的分布, 故采用无放回抽样即可得到的一个简单随机样本.注: 今后假定所考虑的样本均为简单随机样本, 简称为样本.设总体的分布函数为)(x F ,则简单随机样本),,,(21n X X X 的联合分布函数为∏==ni i n x F x x x F 121)(),,,(并称其为样本分布.特别地, 若总体为连续型随机变量,其概率密度为)(x f ,则样本的概率密度为∏==ni i n x f x x x f 121)(),,,(分别称)(x f 与),,,(21n x x x f 为总体密度与样本密度.若总体为离散型随机变量,其概率分布为}{)(i i x X P x p ==, x 取遍所有可能取值, 则样本的概率分布为,)(},,,{),,,(12121∏======ni i n n x p x X x X x X p x x x p分别称)(i x p 与),,,(21n x x x p 为离散总体密度与离散样本密度.三、统计推断问题简述总体和样本是数理统计中的两个基本概念. 样本来自总体,自然带有总体的信息,从而可以从这些信息出发去研究总体的某些特征(分布或分布中的参数). 另一方面,由样本研究总体可以省时省力(特别是针对破坏性的抽样试验而言). 我们称通过总体的一个样本n X X X ,,,21 对总体的分布进行推断的问题为统计推断问题.总体、样本、样本值的关系:总体↙ ↖推断(个体)样本 → 样本值抽样在实际应用中, 总体的分布一般是未知的, 或虽然知道总体分布所属的类型, 但其中包含着未知参数. 统计推断就是利用样本值对总体的分布类型、未知参数进行估计和推断.为对总体进行统计推断, 还需借助样本构造一些合适的统计量, 即样本的函数, 下面将对相关统计量进行深入的讨论.四、分组数据统计表和频数直方图 通过观察或试验得到的样本值,一般是杂乱无章的,需要进行整理才能从总体上呈现其统计规律性. 分组数据统计表或频率直方图是两种常用整理方法. 1. 分组数据表:若样本值较多时,可将其分成若干组,分组的区间长度一般取成相等, 称区间的长度为组距. 分组的组数应与样本容量相适应. 分组太少,则难以反映出分布的特征,若分组太多,则由于样本取值的随机性而使分布显得杂乱. 因此,分组时,确定分组数(或组距)应以突出分布的特征并冲淡样本的随机波动性为原则. 区间所含的样本值个数陈为该区间的组频数. 组频数与总的样本容量之比称为组频率.2. 频数直方图:频率直方图能直观地表示出频数的分布,其步骤如下: 设n x x x ,,,21 是样本的n 个观察值.(i) 求出n x x x ,,,21 中的最小者)1(x 和最大者)(n x ;(ii) 选取常数a (略小于)1(x )和b (略大于)(n x ),并将区间],[b a 等分成m 个小区间(一般取m 使nm 在101左右): mab t m i t t t i i -=∆=∆+,,,2,1),,[ , 一般情况下,小区间不包括右端点.(iii) 求出组频数i n ,组频率i i f nn ∆=,以及),,2,1(,n i tfh i i =∆=(iv) 在),[t t t i i ∆+上以i h 为高,t ∆为宽作小矩形,其面积恰为i f ,所有小矩形合在一起就构成了频率直方图五、经验分布函数样本的直方图可以形象地描述总体的概率分布的大致形态,而经验分布函数则可以用来描述总体分布函数的大致形状。
第五章 数理统计的基本概念
线性无偏估计量
定义:如果总体参数的 点估计 满足 ( 1 ) 是样本的线性函数; (2)E
最小方差线性无偏估计量
定义:如果总体参数的 点估计 满足 ( 1 ) 是样本的线性函数; (2)对 的一切线性无偏估计量 0,D D 0
定理 (R-C不等式)
设总体X具有分布密度f ( x; )。抽取样本( x1 ,..., xn ), 设g ( )为 的一个可估函数,T T ( x1 ,..., xn )为g ( ) 的一个无偏估计量,且 满足正则条件
• 若12, 22已知
(X Y) ( 1 2 ) U ~ N (0,1)
2 1
n
2 2
m
• 若12, 22未知,但是12= 22
T (X Y) ( 1 2 ) ~ t (m n 2)
12
m
2 2
n
mS12
12
2 nS2 2 2
T
(X Y) (1 2 ) 1 1 2 mS12 nS2 /(m n 2) m n
~ t (m n 2)
推论:设( X 1 ,..., X n )和(Y1 ,..., Ym )分别为来自
2 2 正态总体N ( 1 , 1 )和N ( 2 , 2 )的两个相互
独立的样本,则随机变量
F
2 若 1 2 2
2 2 Sm / 1 2 Sn 2 / 2
~ F (m 1, n 1)
F
2 Sm 2 Sn
~ F (m 1, n 1)
第六章 参数估计
第一节 点估计
• 定义:设为总体分布中的未知参数,从X 中抽取样本 (x1,…,xn) ,构造适当的统计量 (x1,…,xn), 估计 (以的值作为的近似), 这种方法称为参数的点估计。 • 统计量称为的点估计量; • 对于一组样本观测值 (x1,…,xn) ,该统计量 相应的值(x1,…,xn)称为的点估计值 • 的点估计量和点估计值简称为的点估计。
数理统计的基本概念
概率论与数理统计的区别: 在概率论中,假设随机变量的分布列或者分布函数已知,然 后描述随机变量的统计规律. 数理统计首先解决,如何知道 随机变量的分布规律,如何知道分布中所含的参数.
数理统计研究问题:它研究怎样有效地收集整理和分析带有随 机性的数据,以对所考察的问题作出推断或预测,直至为采取一 定的决策和行动提供依据和建议.
概率统计的基本问题:依据有限个观测或试验如何对整体所作 出推论的问题.这种伴随有一定概率的推断称为统计推断.
母体与子样、经验分布函数
1、母体:把研究对象的全体所构成的一个集合称为母体或总体; 组成母体的每一个成员称为个体. 注:10、实际应用中总体往往指研究对象的某项数值指标的全体。 20、总体的某个数值指标是一个具有分布函数F(x)随机变量,称 总体为具有分布函数F(x)的总体。 30、也可能是一个随机向量,相应的分布函数就为多元函数.
(i
n! 1)!(n
i)![F (
y)]i1[1
F(
y )] n1
f
(
y),
0 ,
a yb 其它
证明 第 i个次序统计量(i)落入无穷小区间 [ y , y y)
内这一事件等价于”容量为n的子样1 ,2 , n 中有(i 1)
个分量落入区间[a , y)内,1个分量落入区间[ y , y y)内,
n
F ( x1 ,, xn ) F ( xi ) i 1
例1 设总体 X 服从参数为 ( 0)的指数分布, ( X1, X2 ,, Xn )
是来自总体的样本, 求样本( X1, X2 ,, Xn )的概率密度.
解
总体 X 的概率密度为
ex ,
f (x)
数理统计的基本概念
另一类是研究如何分析所获得的随机数据,对所研究 的问题进行科学的、合理的估计和推断,尽可能地为 采取一定的决策提供依据,作出精确而可靠的结论. 这部分的内容称为推断统计学,如:参数估计、假设 检验等。
我们主要讨论有关推断统计学中几个最基本的 问题。
在数理统计中总体X的分布永远是未知的,即使 有足够的理由可以认为总体X服从某种类型的分布, 但这个分布的参数还是未知的。
例如本市家庭的月收入X是个随机变量,X服从什么
分布事先是不清楚的,根据资料可确信 X ~ N , 2 .
但 , 2 究竟取什么值还是未知的,
由于总体X的分布是未知的,因此X的数字特征如 均值、方差等往往也是一个未知的值。对于这些未知
不过在统计研究中,人们关心总体仅仅是关心
其每个个体的一项(或几项)数量指标和该数量指标在总体中的分布
情况. 这时,每个个体具有的数量指标的全体就是总体.
称总体中所含个体的数目为总体容量, 总体容量有限的称为有 限总体, 总体容量无限的称为无限总体.
当个体个数很大时通常把有限总体看作无限总体。
从另一方面看: 统计的任务,是根据从总体中抽取的样本, 去推断总体的性质. 由于我们关心的是总体中的个体的某项指标(如人的身高、体重, 灯泡的寿命,汽车的耗油量…), 所谓总体的性质,无非就是这 些指标值集体的性质. 概率分布是刻划这种集体性质最适当的工具. 因此在理论上可 以把总体与概率分布等同起来. 如研究某批灯泡的寿命时, 关心的数量指标就是寿命, 那么, 此 总体就可用描述其寿命的随机变量 X 或用其分布函数 F(x)表示.
一个统计量.
ex1.设 X1, X 2, X3 是取自正态总体 X ~( , 2) 的一个样本,
数理统计的基本概念
数理统计的基本概念第6章数理统计的基本概念6.1 内容框图6.2 基本要求(1)理解总体、样本及统计量的概念,并熟练掌握常⽤统计量的公式.(2)掌握矩法估计和极⼤似然估计的求法,以及估计⽆偏性、有效性的判断. (3)掌握三⼤抽样分布定义,并记住其概率密度的形状.(4)理解并掌握有关正态总体统计量分布的⼏个结论,如定理6.4~6.9及定理6.11.6.3 内容概要1) 总体与样本在数理统计中,我们把作为统计研究对象的随机变量称为总体,记为ξ,η,… 。
对总体进⾏ n 次试验后所得到的结果,称为样本,记为(n X X X ,,,21 ),(n Y Y Y ,,,21 ),……,其中,试验次数 n 称为样本容量。
样本(n X X X ,,,21 )中的每⼀个 i X 都是随机变量。
样本所取的⼀组具体的数值,称为样本观测值,记为总体与样本统计量点估计矩阵估计常⽤统计量定义统计量的分布正态总体统计量的分布极⼤似然估计点估计的评价三⼤抽样分布(n x x x ,,,21 )。
具有性质:(1)独⽴性,即 n X X X ,,,21 相互独⽴。
(2)同分布性,即每⼀个 i X 都与总体ξ服从相同的分布。
称为简单随机样本。
如果总体ξ是离散型随机变量,概率分布为 }{k P =ξ,那么样本(n X X X ,,,21 )的联合概率分布为∏∏=========ni i ni i in n x P x XP x X x X x X P 112211}{}{},,,{ξ。
如果总体ξ是连续型随机变量,概率密度为 )(x ?,那么样本(n X X X ,,,21 )的联合概率密度为∏∏====ni i ni i X n x x x x x i1121)()(),,,(*??。
如果总体ξ的分布函数为 )(x F ,那么样本(n X X X ,,,21 )的联合分布函数为∏∏====ni i n i i X n x F x F x x x F i 1121)()(),,,(* 。
数理统计的基本概念
数理统计的基本概念
1. 总体和样本:总体是研究对象的全体,样本是从总体中选取的一部分。
2. 参数和统计量:参数是总体的性质,统计量是样本的函数,用来估计总体的参数。
3. 随机变量和概率分布:随机变量是取值不确定的变量,概率分布是描述随机变量取值可能性的函数。
4. 分布特征:包括均值、方差、标准差、偏度和峰度等。
5. 假设检验:用样本的统计量推断总体参数的方法。
6. 置信区间:用来估计总体参数的区间,表示参数真值有一定概率落在该区间之内。
7. 方差分析:用来比较多组数据的差异来源和大小的方法。
8. 回归分析:用来研究自变量和因变量之间关系的方法。
《概率论》 第六章 数理统计的基本概念.
2. 抽样原则 为使抽取的样本能很好地反映总体的特征,
一般要求抽取样本时遵循以下两点原则:
(1) 代表性 要求样本中的每个样品都是从总体 中 完全随机地抽出的,即每个样品与总体 具有相同
的分布;
(2) 独立性 要求每个样品的抽出相互之间是互不 影响的,即要求每个样品之间相互独立.
满足以上两点要求的样本称为简单随机样本.
1n
n 1 i1
i
2
(4) 样本 k 阶原点矩
Mk
1 n
n
i 1
k i
,
k
1,
2, ;
(5)样本 k 阶中心矩
M
k
1 n
n
(i
i 1
)k
, k 2, 3, ;
注 1. 上述几个统计量统称为样本矩;
2.
X
M1 ,
S2
M
2
.
三、样本矩的性质
2. 2分布的性质
性质1 ( 2 分布的可加性)
设 ~ 2(n1 ), ~ 2(n2 ), 并且 , 独立, 则 ~ 2(n1 n2 )
推广: 设 i ~ 2(ni ), 并且 i (i 1, 2,, m) 相互
独立,
则
m
i
~
2 (n1
2π
标准正态分布的上侧分位点
定义 设 U ~ N (0,1) ,对给定的正数(0 1),
若实数u 满足
P{U u }
则称点 u为标准正态分布U的 上侧分位点(或称 上 分位数或 临界值).
6.1.数理统计的基本概念
对容量较小的样本可分为5-6组,容量100左右的可分7-10组,
容量200左右的可分9-13组,容量300左右及以上的可分12-20 组,目的是使用足够的组来表示数据的变异。本例中只有20个 数据,我们将之分为5组,即k=5。
(2) 确定每组组距:每组区间长度可以相同也可以不同,实用中 常选用长度相同的区间以便于进行比较,此时各组区间的长度 称为组距,其近似公式为:
频数fi
3
4
8
3
2
试写出此分组样本的经验分布函数。
解:由经验分布函数的定义得到
0
0.15
Fn
(
x)
0.35 0.75
0.9
1
x 37.5 37.5 x47.5 47.5 x57.5 57.5 x67.5 67.5 x77.5 x 77.5
例6 以下是一组来自标准正态分布总体的样本的观测值: -1.4462 , -0.7012 , 1.2460 , -0.6390 , 0.5774 , -0.3600 , -0.1356, -1.3493 , -1.2704 , 0.9846
13
100—110
105
16
110—120
从总体X中抽取一个个体,就是对总体X进行一次观察并记 录其结果。取样是随机的,且观察前无法预知起结果,故每 个观察结果都是随机变量,且与总体同分布。
定义 1 在相同的条件下,对总体X进行n次重复的、独立的 观察,得到n个结果 X1, X 2 , , X n ,称随机变量X1, X 2 , , X n 为来自总体X的容量n的简单随机样本,简称样本。其观测值
641 635 640 637 642 638 645 643 639 640 这是一个容量为10的样本的观测值,对应的总体为该厂生产 的瓶装啤酒的净含量。
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
2. 样本 为推断总体分布及各种特征,按一定 规则从总体中抽取若干个体进行观察试验, 以获得有关总体的信息,这一抽取过程称 为 “抽样”,所抽取的部分个体称为样本. 样本中所包含的个体数目称为样本容量.
从国产轿车中抽5辆 进行耗油量试验
样本容量为5
1 2
2 均值,S12和S2 分别是这两个样本的样本方差,
则有
S1 1
2 2
S
2 2
2 2
~ F ( n1 1, n2 1)
上述5个抽样分布定理很重要,
要牢固掌握.
2 2
X1,X2,…, X n 是取自X的样本, Y1,Y2,…, Yn 是 取自Y的样本, X和Y 分别是这两个样本的 样本
1 2
2 均值, S12和S2 分别是这两个样本的样本方差,
则有
X Y ( 1 2 ) ( n1 1) S1 ( n2 1) S2
2 2
1 n1
X
2
n
)
~ N (0,1)
n
n取不同值时样本均值 X 的分布
定理 2 (样本方差的分布)
设X1,X2,…,Xn是取自正态总体 N ( , 2 ) 的样本, X和S 2 分别为样本均值和样本方差, 则有
(1)
( 2)
( n 1) S
2
2
2
~ ( n 1)
2
X和S 相互独立.
样本是随机变量.
抽到哪5辆是随机的
容量为n的样本可以看作n维随机变量. 但是,一旦取定一组样本,得到的是 n个具体的数 (X1,X2,…,Xn),称为样本的 一次观察值,简称样本值 .
由于抽样的目的是为了对总体进行 统计推断,为了使抽取的样本能很好地反 映总体的信息,必须考虑抽样方法. 最常用的一种抽样方法叫作“简单随 机抽样”,它要求抽取的样本满足下面 两点: 1. 代表性: X1,X2,…,Xn中每一个与所考察 的总体有相同的分布.
1
k i
( X n
1
i
X)
k
k=1,2,…
2. 抽样分布 统计量既然是依赖于样本的,而 后者又是随机变量,故统计量也是随 机变量,因而就有一定的分布,这个 分布叫做统计量的“抽样分布” .
抽样分布就是通常的随机变量函数 的分布. 只是强调这一分布是由一个统 计量所产生的. 研究统计量的性质和评 价一个统计推断的优良性,完全取决于 其抽样分布的性质.
某批 灯泡的寿命 国产轿车每公里 的耗油量
该批灯泡寿命的 全体就是总体
国产轿车每公里耗油 量的全体就是总体
由于每个个体的出现是随机的,所以相 应的数量指标的出现也带有随机性. 从而可 以把这种数量指标看作一个随机变量,因此 随机变量的分布就是该数量指标在总体中的 分布. 这样,总体就可以用一个随机变量 及其分布来描述.
例如:研究某批灯泡的寿命时,关心的数 量指标就是寿命,那么,此总体就可以用随 机变量X表示,或用其分布函数F(x)表示.
总体
寿命X可用一概 率分布来刻划
F(x)
某批 灯泡的寿命
鉴于此,常用随机变量的记号 或用其分布函数表示总体. 如 说总体X或总体F(x) .
类似地,在研究某地区中学生的营养状 况时,若关心的数量指标是身高和体重,我 们用X和Y分别表示身高和体重,那么此总体 就可用二维随机变量(X,Y)或其联合分布函数 F(x,y)来表示.
2
2
F
Y n2
服从自由度为n1及 n2 的F分布,n1称为第 一自由度,n2称为第二自由度,记作 F~F(n1,n2) . 由定义可见,F
1 Y n2 X n1
~F(n2,n1)
若X~F(n1,n2), X的概率密度为
( ) n n ( n1 )( n1 x ) n f ( x; n1 , n2 ) ( 1 ) ( n2 ) 2律, 也就是样本取到样本值的规律,因而可以由 样本值去推断总体.
二、统计量和抽样分布 1. 统计量 由样本值去推断总体情况,需要对样本 值进行“加工”,这就要构造一些样本的 函数,它把样本中所含的(某一方面)的 信息集中起来.
这种不含任何未知参数的样本的函数 称为统计量. 它是完全由样本决定的量.
这里请看演示. 分位数
四、几个重要的抽样分布定理 当总体为正态分布时,教材上给出了 几个重要的抽样分布定理. 这里我们不加 证明地叙述. 除定理2外,其它几个定理 的证明都可以在教材上找到.
定理 1 (样本均值的分布)
设X1,X2,…,Xn是取自正态总体 N ( , ) 的样本,则有
2
X ~ N ( ,
2. 独立性: X1,X2,…,Xn是相互独立的随机 变量.
由简单随机抽样得到的样本称为简单 随机样本,它可以用与总体独立同分布的 n个相互独立的随机变量X1,X2,…,Xn表示.
若总体的分布函数为F(x),则其简单随机 样本的联合分布函数为 F(x1) F(x2) … F(xn) 简单随机样本是应用中最常见的情 形,今后,当说到“X1,X2,…,Xn是取自某 总体的样本”时,若不特别说明,就指简 单随机样本.
n1 n2 2
1 n2
~ t ( n1 n2 2)
定理 5 (两总体样本方差比的分布)
且X与Y独立, 设X ~ N ( 1 , ), Y ~ N ( 2 , ),
2 1 2 2
X1, X2,…, X n是取自X的样本, Y1,Y2,…, Yn 是 取自Y的样本, X和Y 分别是这两个样本的 样本
Lim f ( x; n) 0
x
当n充分大时,其图形类似于标准正态分 布密度函数的图形.
请看演示 t 分布 不难看到,当n充分大时,t 分布近 似N (0,1)分布. 但对于较小的n,t分布 与N (0,1)分布相差很大.
3、F分布
定义: 设 X ~ (n1 ), Y ~ (n2 ), X与Y相互 独立,则称统计量 X n1
抽样分布
渐近分布
精确抽样分布 (小样本问题中使用)
(大样本问题中使用)
三. 统计三大分布 1、 分布
2
分布是由正态分布派生出来的一种分布.
2
定义: 设 X 1, X 2 ,, X n 相互独立, 都服从正态 分布N(0,1), 则称随机变量:
X1 X 2 X n
3. 总体、样本、样本值的关系
事实上我们抽样后得到的资料都是具 体的、确定的值. 如我们从某班大学生中 抽取10人测量身高,得到10个数,它们是 样本取到的值而不是样本. 我们只能观察 到随机变量取的值而见不到随机变量.
总体(理论分布) ? 样本 样本值
统计是从手中已有的资料--样本值,去 推断总体的情况---总体分布F(x)的性质.
数理统计的任务就是研究怎样有效 地收集、整理、分析所获得的有限的资 料,对所研究的问题, 尽可能地作出精 确而可靠的结论.
一、总体和样本
1.总体
一个统计问题总有它明确的研究对象.
研究对象的全体称为总体(母体), 总体中每个成员称为个体.
总体
…
研究某批灯泡的质量
然而在统计研究中,人们关心总体仅仅 是关心其每个个体的一项(或几项)数量指标 和该数量指标在总体中的分布情况. 这时, 每个个体具有的数量指标的全体就是总体.
n取不同值时
( n 1) S
2
2
的分布
定理 3
设X1,X2,…,Xn是取自正态总体 N ( , )
2
的样本, X和S 2 分别为样本均值和样本方差, 则有 X
~ t ( n 1) S n
定理 4 (两总体样本均值差的分布)
设X ~ N ( 1 , ),Y ~ N ( 2 , ), 且X与Y独立,
0 t x 1
dt ,
x0
请看演示
2
分布
由 分布的定义,不难得到:
2
1. 设 X 1, X 2 ,, X n 相互独立, 都服从正态分布 2 N ( , ), 则
2
1
2
( X i ) ~ (n)
2 2 i 1
n
2. 设 X 1 ~ 2 (n1 ), X 2 ~ 2 (n2 ), 且X1,X2相互 独立,则 X 1 X 2 ~ 2 (n1 n2 )
从另一方面看 统计的任务,是根据从总体中抽取的 样本,去推断总体的性质. 由于我们关心的是总体中的个体的某 项指标(如人的身高、体重,灯泡的寿命, 汽车的耗油量…) ,所谓总体的性质, 无非就是这些指标值的集体的性质.
而概率分布正是刻划这种集体性质 的适当工具. 因此在理论上可以把总体 与概率分布等同起来.
T X Y n
所服从的分布为自由度为 n的 t 分布. 记为T~t(n). T的密度函数为:
f ( x; n ) [( n 1) 2] (n 2) n (1 x
2 n 1 2
n
)
具有自由度为n的t分布的随机变量T的数 学期望和方差为:
E(T)=0; D(T)=n / (n-2) , 对n >2 t分布的密度函数关于x=0对称,且
几个常见统计量
它反映了总体均值 的信息
样本均值
它反映了总体方差 的信息
X
X n
i 1 n
1
n
i
样本方差
S
2
( X n 1
i 1
1
i
X)
2
它反映了总体k 阶矩 的信息
n
样本k阶原点矩 样本k阶中心矩
它反映了总体k 阶 中心矩的信息
Ak Bk
X n