第一章概率论基础4
第1章 概率论基础(共12课时)
解:(1) A1 A2 A3 .
(2) A1 A2 A3 . (3) A1 A2 A3 A1 A2 A3 A1 A2 A3 A1 A2 A3 A1 A2 A3
A1 A2 A3 A1 A2 A3 .
(4) A1 A2 A3 或 A1 A2 A3.
§1.2
随机事件及其概率
数理统计部分则是以概率论作为理论基础,通过抽样对总体 进行估计与统计推断。
第一章
概率论基础
概率论简史
概率论起源——16、17世纪欧洲国家贵族的赌博游戏: 【问题1】同时掷两颗骰子,则点数之和为9与点数之和为10, 哪种情况出现的可能性较大? 【问题2-德· 梅耳问题】17世纪中叶,法国贵族德· 梅耳发现了 这样的事实:将一枚骰子连掷四次至少出现一个六点的机会比 较多,而同时将两枚骰子掷24次,至少出现一次双六的机会却 很少。这是什么原因呢? 【问题3-分赌注问题】两个人决定赌若干局,事先约定谁先赢 得5局便算赢家。如果在一个人赢3局,另一人赢4局时因故终 止赌博,应如何分赌本?
§1.2
随机事件及其概率
1.2.3 事件的概率及性质
1.频率与概率的统计定义 【定义1.3】设E为任一随机试验,A为其中任一事件,在相同条 件下,把E独立的重复做n次,nA表示事件A在这n次试验中发生 的次数(称为频数).比值fn(A) = nA / n称为事件A在这次试验 中发生的频率.
易知频率有如下性质:
《概率论与数理统计》
— Probability and Mathematical Statistics —
数学与计算机学院
数学教研室
1
《概率论与数理统计》
第1章
第1讲 第2讲 第3讲 第4讲
概率论基础 PPT课件
正概率点为至多可列个
连续型 其他
任何随机变量X都是从负无穷到正无穷
离散型随机变量特点:正概率点为有限个或者可列个
0,1:正概率点 P(1)=1/2
P(0)=1/2
非离散型
连续型 其他
三.随机变量(random variable)的分布
4.1 概率的数学(公理化)定义 概率就是广义的函数
数学定义:设E是一个随机试验,Ω为它的样本空间,以E中所有的随机事件 组成的集合(事件体)为定义域,定义一个函数P(A)(其中A为任一随机事件),
且P(A)满足以下三个公理,则称函数P(A)为事件A的概率。
公理1(非负性) 0≤P(A)≤1 公理2(规范性) P(Ω)=1 公理3(可列可加性) 若A1,A2, …,An,…两两相斥,则
第一章 概率论基础
§1.1 概率简述
1. 随机现象及其统计规律性
在一组不变的条件下,具有多种可能发生的结果的现象称为随机现象, 这类现象的一个共同点是: 事先不能预言多种可能结果中究竟出现哪一种。
2. 随机试验与随机事件 我们把对随机现象进行的一次观测或者一次实验统称为一个试验, 如果这个试验满足下面的三个条件: (1)在相同的条件下,试验可以重复地进行;(可重复) (2)试验的结果不止一种,而且事先可以确知试验的所有结果; (3)在进行试验前不能确定出现哪一个结果。(不可预测) 那么我们就称它是一个随机试验,简称试验。一般用字母E表示。
数值p为事件A在条件S下发生的概率(probability) ,记作P(A)=p。
例2:捕鱼问题
× f
n
A
n
P
A
池塘中有鱼若干(不妨假设为n条),先捞上1000条作记号,放回后再
概率论基础基础(复旦版)李贤平概论
符号 Ω Φ ω∈Ω {ω} A⊂ Ω A ⊂B A=B A∪B A∩B Ā A-B A∩B=φ
测度论含义 全集 空集 集合的元素 单点集 一个集合 A A的元素在B中 B 集合A与B相等 A与B的所有元素 A与B的共同元素 A的补集 在A中而不在B中的元素 A与B无公共元素
概率论含义 样本空间,必然事件 不可能事件 样本点 基本事件 一个事件 A A发生导致B发生 B 事件A与B相等 A与B至少有一个发生 A与B同时发生 A的对立事件 A发生而B不发生 A与B互斥
显然 φ ⊂A⊂Ω ⊂Ω ⊂ 且 ⊂ 相等 A=B : A⊂B且B⊂A
2. 和事件 事件A和 至少有一个发生 A∪B :事件 和B至少有一个发生 ∪ 事件 A 显然, ∪ 显然 A∪φ =A A∪Ω=Ω ∪ Ω B
3. 积事件 事件 与 同时发生 A∩B : 事件A与B同时发生 简写AB 简写 A 显然, 显然 A∩φ=φ A∩Ω=A Ω B
例 抛硬币 试验者 Buffon Pearson Kerrich 掷的次数 4040 24000 10000 正面次数 2048 12012 5067 正面频率 0.5069 0.5005 0.5067
例,高尔顿钉板试验 在相同的条件下,大量重复某一试验时,各可能结果出现的 频率稳定在某各确定值附近,即 随机试验中频率的稳定性 频率稳定性的存在标志着随机现象也由数量规律 概率论是研究随机现象中数量规律的数学学科
四、随机事件的关系及运算
对应集合的关系和运算来定义事 件的关系及运算,并根据 事件发生” 并根据“ 件的关系及运算 并根据“事件发生”的 含义,来理解它们在概率论中的含义 含义 来理解它们在概率论中的含义
1. 子事件 包含 A⊂ B : 事件 发生必有事件B发 事件A发生必有事件 发 发生必有事件 ⊂ 包含A 生, 称B包含 包含 B A
概率论基础
第1章概率论基础========================本章将复习与总结概率论的基本知识也扩充一些新知识点,比如:1)利用冲激函数表示离散与混合型随机变量的概率密度函数,2)随机变量的条件数学期望3)特征函数4)瑞利与莱斯分布5)随机变量的基本实验方法========================1.1概率公理与随机变量1.2多维随机变量与条件随机变量1.3随机变量的函数1.4数字特征与条件数学期望121.5特征函数1.6典型分布1.7随机变量的仿真与实验========================1.1概率公理与随机变量此句作为后面每页ppt的标题========================随机试验(Random Experiment):对随机现象做出的观察与科学实验。
样本空间(Sample space):随机试验所有的基本可能结果构成的集合称Ω。
Ω的元素为样本点(Sample point)。
事件(Event)是试验中“人们感兴趣的结果”构成的集合,是Ω的子集。
各种不同的事件的总体构成一个事件集合,称为事件域F。
========================事件是随机的。
赋予事件一个出现可能性的度量值,称为概率(Probability )。
“可能性的度量值”是 “宏观”意义下(即大数量的情形下)的比例值,由相对频率(Relative frequency )来计算,()AA n P A n ≈=试验中出现的次数总试验次数 (n 很大)========================概率公理: 任何事件A 的概率满足:(1) 非负性:任取事件A ,()0P A ≥ (2) 归一性:()=1P Ω(3) 可加性:若事件,A B 互斥,即,A B ⋂=∅,则,()()()=P A B P A P B ⋃+======================== 事件概率的基本性质:(1) ()=0P ∅ (2) ()01P A ≤≤(3) ()()P A P B ≤,如果A B ⊆ (4) ()()()P AB P A P A B ≤≤⋃======================== 条件事件:A B B A =事件发生条件下的事件 条件概率(Conditional probability ),()()()P AB P B A P A =, ()0P A >======================== 事件A 与B 独立(Independent )等价地定义为()()()P AB P A P B =多个事件12,,,n A A A 彼此独立,()()()()1212m m k k k k k k P A A A P A P A P A ========================= 事件的最基本运算:(参见教材)========================例1.1 分析掷均匀硬币问题。
第一章概率论的基础知识3-45学分
随机事件
二、样本空间
1、样本空间:试验的所有可能结果所组成的 集合称为样本空间,记为S( Ω ) . 2、样本点: 试验的每一个结果或样本空间的 元素称为一个样本点,记为e ( ω ). 3.由一个样本点组成的单点集称为一个基本事 件,记为{e} ( {ω} ).
请给出E1-E7的样本空间
三、随机事件
五、事件的运算
1、交换律:AB=BA,AB=BA 2、结合律:(AB)C=A(BC), (AB)C=A(BC) 3、分配律:(AB)C=(AC)(BC), (AB)C=(AC)(BC) 4、德.摩根(De Morgan)律:
A B A B,
k k
AB A B
可推广 Ak Ak ,
A
k
k
Ak .
k
交变并,并变交,最后加补
例2
甲、乙、丙三人各向目标射击一发子弹, 以A、B、C分别表示甲、乙、丙命中目标, 试用A、B、C的运算关系表示下列事件:
A1 : “至少有一人命中目标 ” :
A B C
A2 : “恰有一人命中目标” : ABC ABC ABC A3 : “恰有两人命中目标” : ABC ABC ABC A4 : “最多有一人命中目标 ” : A5 : “三人均命中目标” :
i 1
n
4. 积(交)事件:A与B同时发生 AB=AB发生
4’n个事件A1, A2,…, An同时发生 A1A2…An发生
5.差事件:A-B称为A与B的差事件。A-B发生
事件A发生而B不发生
何时A-B=? 何时A-B=A?
6 互不相容(互斥)
7 对立事件 (逆事件)
A B
组合一:从含有n个元素的集合中随机抽取k 个, 共有
袁强第一章概率论基础
第一章. 古典概率与概率空间基础1. 随机试验随机试验是一个不定义名词,理解为某一自然或社会现象,它的发生至少有多于2个以 上的可能性结果。
并且这些结果是可以描述的,且一切可能的结果是可以在事前由试验明确确定下来的,但试验前不能确定哪一个结果会发生。
请看例: (1) 扔硬币试验者 扔币次数 正面出现次数 正面出现频率 浦丰 4040 2048 0.5069 德.莫根 4092 2048 0.5005 费勒 10000 4979 0.4979 皮尔森 12000 6019 0.5016 罗曼若夫斯基 80640 39699 0.4923 (2) 漏沙——高尔顿板 (3) 随机抽样 (4) 股票指数 (5) BROWN 运动 (6) 排队、库存 (7) 地震波 (8) GDP随机试验包罗万象,我们需要对随机试验中一些“本质”的东西加以抽象概括。
关注的 问题不是试验的内容,而是如何来描述这些不确定性结果的统计规律。
2. 样本空间、集合与事件、子集2.1 样本空间Ω随机试验的一切可能结果所构成的集合,称为样本空间,常用Ω记。
关于Ω多说几句 话:样本空间由随机试验的结果所确定,由于一切结果是可描述的,故样本空间中的元素是明确的。
随机试验的广泛性决定了集合Ω的广泛性。
集合也是不定义名词。
用集合表述随机试验的结果恰到好处,好处是避免随机试验结果的语言陈述,集合可以是任何抽象的概念和符号。
但集合一旦给定,必须保证集合中的元素有确定的含义,此意味:能判别ω∈Ω还是ω∉Ω;1ωω∈Ω2,能区分1ωω≠2;Ω不能是Ω的元素;集合中的元素是集合子集的最小单位,它不能分割成更小的部分。
(注,元素作为子集看称为单点集或孤立点集。
)2.2事件与子集在某一结果与一切可能结果之间,我们会有一个“八九不离十”对结果发生的判断。
如,扔2次币,“至少出现一次正面”;打3抢,“连续2抢击中”;天气温度,“暖和、炎热”,等等。
我们把随机试验中可能发生的部分结果称为随机事件。
概率论与数理统计基础知识
从集合的角度看
B
A
事件是由某些样本点所构成的一个集合.一个事件发 生,当且仅当属于该事件的样本点之一出现.由此可 见,样本空间Ω作为一个事件是必然事件,空集Ø作 为一个事件是不可能事件,仅含一个样本点的事件称 为基本事件.
2. 几点说明
⑴ 随机事件可简称为事件, 并以大写英文字母
A, B, C,
基本事件 实例
由一个样本点组成的单点集.
“出现1点”, “出现2点”, … , “出现6点”.
必然事件 随机试验中必然会出现的结果. 实例 上述试验中 “点数不大于6” 就是必然事件. 不可能事件 随机试验中不可能出现的结果. 实例 上述试验中 “点数大于6” 就是不可能事件. 必然事件的对立面是不可能事件,不可能事 件的对立面是必然事件,它们互称为对立事件.
说明 1. 随机试验简称为试验, 是一个广泛的术语.它包 括各种各样的科学实验, 也包括对客观事物进行的 “调查”、“观察”或 “测量” 等. 2. 随机试验通常用 E 来表示. 实例 “抛掷一枚硬币,观 察正面,反面出现的情况”.
分析 (1) 试验可以在相同的条件下重复地进行; (2) 试验的所有可能结果: 字面、花面; (3) 进行一次试验之前不能 确定哪一个结果会出现. 故为随机试验.
将下列事件均表示为样本空间的子集. (1) 试验 E2 中(将一枚硬币连抛三次,考虑正反 面出现的情况),随机事件: A=“至少出现一个正面” B=“三 次出现同一面” C=“恰好出现一次正面” (2) 试验 E6 中(在一批灯泡中任取一只,测试其 寿命),D=“灯泡寿命不超过1000小时”
(1)由S2= {HHH, HHT, HTH, THH,HTT,THT, TTH,TTT}; 故: A={HHH, HHT, HTH, THH,HTT,THT, TTH}; B={HHH,TTT} C={HTT,THT,TTH} (2) D={x: x<1000(小时)}。
第一章_概率论基础
注2
随机变量概念的理解
1) 对于ω∈Ω,有唯一X(ω)与之对应, 随机变量 X可理解为 从样本空间 Ω到实数集 Rx的一个映 射.
A
B
易知 A+= A+=A
n个事件A1,A2,…,An中至少有一个发生 是一个事件, 称为事件的和, 记作: A1+A2+…+An 或 A1A2…An
可列个事件的和表示可列个事件中至少有一个事件发生, 记作
A
i 1
i
或
A
i 1
i
事件的交(积)
两个事件A与B同时发生, 即"A且B", 是一 个事件, 称为事件A与B的交. 它是由既属于A 又属于B的所有公共样本点构成的集合. 记作 AB 或 AB
事件间的关系及其运算
为了直观, 经常使用图示来表示事件, 一般地, 用一个平面上某个方(或矩)形区表示必然事件 或者整个样本空间, 其中的一个子区域表示 一具体的事件.
A
事件的包含
如果事件A发生必然导致事件B发生, 即属 于A的每一个样本点都属于B,则称事件B包含事 件A或称事件A含于事件B,记作: BA或AB
A
B
易知 A=A A=
对立事件
事件"非A"称为A的对立事件(或逆事件). 它是由样本空间中所有不属于A的样本点组成 的集合. 记作 A
显然
AA , A A , AA
A
A
事件的差
事件A发生而事件B不发生, 是一个事件, 称为事件A与B的差. 它是由属于A但不属于B 的那些样本点构成的集合. 记作 AB
概率论基础讲义全
概率论基础知识第一章随机事件及其概率随机事件§几个概念1、随机实验:满足下列三个条件的试验称为随机试验|;(1)试验可在相同条件下重复进行;(2)试验的可能结果不止一个,且所有可能结果是已知的;(3)每次试验哪个结果出现是未知的;随机试验以后简称为试验,并常记为E。
例如:曰:掷一骰子,观察出现的总数;E2:上抛硬币两次,观察正反面出现的情况;E3:观察某电话交换台在某段时间内接到的呼唤次数2、随机事件:在试验中可能出现也可能不出现的事情称为随机事件:常记为A,B, C例如,在E i中,A表示掷出2点”,B表示掷出偶数点”均为随机事件3、必然事件与不可能事件:每次试验必发生的事情称为必然事件,记为Q。
每次试验都不可能发生的事情称为不可能事件,记为①。
例如,在E i中,掷出不大于6点”的事件便是必然事件,而掷出大于6点”的事件便是不可能事件,以后,随机事件,必然事件和不可能事件统称为事件4、基本事件:试验中直接观察到的最简单的结果称为基本事件。
例如,在曰中,掷出1点”,掷出2点”,……,掷'出6点”均为此试验的基本事件由基本事件构成的事件称为复,例如,在E i中掷出偶数点”便是复合事件5、样本空间:从集合观点看,称构成基本事件的元素为样本点,常记为e.例如,在E i中,用数字1, 2,......,6表示掷出的点数,而由它们分别构成的单点集{1}, {2}, (6)便是E i中的基本事件。
在E2中,用H表示正面,T表示反面,此试验的样本点有(H , H),( H , T),( T, H ),( T, T),其基本事件便是{ ( H, H) }, { ( H , T) }, { (T, H ) }, { (T, T) }显然,任何事件均为某些样本点构成的集合。
例如,在E i中掷出偶数点”的事件便可表为{2, 4, 6}。
试验中所有样本点构成的集合称为样本空间。
记为Qo例如,在E i 中,Q={1 , 2, 3, 4, 5, 6}在E2 中,Q={ ( H , H),( H , T),( T, H),( T, T) }在E s 中,Q={0 , 1, 2,……}例1, 一条新建铁路共10个车站,从它们所有车票中任取一张,观察取得车票的票种此试验样本空间所有样本点的个数为N Q=P 210=90.(排列:和顺序有关,如北京至天津、天津至北京)若观察的是取得车票的票价,则该试验样本空间中所有样本点的个数为10)=452(组合)例2 .随机地将15名新生平均分配到三个班级中去,观察15名新生分配的情况。
概率论基础知识
两事件相互独立 P ( AB ) P ( A) P ( B ) 两事件互斥
AB
二者之间没 有必然联系
定义2: 设A,B,C是三个事件,若满足: P(AB)=P(A)P(B), P(AC)=P(A)P(C), P(BC)=P(B)P(C), P(ABC)=P(A)P(B)P(C) 则称A,B,C为相互独立的事件. 定义3:对n个事件A1,A2,…,An,如果对所有可 能的组合1≤i<j<k<…≤n成立着 P(AiAj)=P(Ai)P(Aj) P(AiAjAk)=P(Ai)P(Aj)P(Ak) P(A1A2…An)=P(A1)P(A2)…P(An), 则称这n个事件A1,A2,…,An相互独立.
概率的统计定义直观地描述了事件发生的 可能性大小,反映了概率的本质内容,但 也有不足,即无法根据此定义计算某事件 的概率。
2.2、古典概型
若随机试验满足以下特征:
(1)试验的可能结果只有有限个;
(2)各个结果的出现是等可能的. 则称此试验为古典概型.
古典概型中事件概率的计算公式
设随机试验E为古典概型,其样本空间Ω及 事件A分别为: Ω={ω1,ω2,…,ωn} A={ωi1,ωi2,…,ωik} 则随机事件 A 的概率为:
Ai — 第i次试验中A发生, 则
k P( X k ) Cn p k q nk , k 0,1,2,, n
称随机变量X服从参数为n,p的二项分布,记为
P( A n A1A 2 A n1 )
2.4 全概率公式和贝叶斯公式:
1. 样本空间的划分 定义 : 若B1, B2 , , Bn一组事件满足:
(i) Bi B j , i j, i, j 1, 2, ...,n,
概率论与数理统计 第一章 概率论基础
3) 事件 A 与 B 的差
由事件 A 出现而事件 B 不出现所组成的
事件称为事件 A 与 B 的差. 记作 A- B.
实例 设 C=“长度合格但直径不合格” ,A = “长度合格”,B= “直径合则格”C. A B.
图示 A 与 B 的差. B A
AA B
B
B A
B A AB
1.2.2 事件间的关系及运算
称为必然现象;
实例: “太阳从东边升起” “水从高处向低处流” “同性电荷互斥”
1.1.1 随机试验
必然现象的特征
条件完全决定结果
在一定条件下可能出现也可能不出现的现象 称为随机现象. 实例1 在相同条件下掷一枚均匀的硬币,观察 正反两面出现的情况.
结果有可能出现正面也可能出现反面.
1.1.1 随机试验
【概率论简史】
1933 年 , 柯 尔 莫 哥 洛 夫 ( Kolmogorov , 俄 , 1903-1987)在他的名著《概率论基础》一书中, 提出了概率公理化定义,并得到数学家们的普遍承 认.公理化体系给概率论提供了一个逻辑上的坚实基 础,使概率论成为一门严格的演绎科学,取得了与其 他数学学科同等的地位,并通过集合论与其他数学分 支紧密联系起来.
1 = {正面,反面}.
1.1.2 样本空间
“抛一颗骰子观察朝上一面的点数”:
2 = {1,2,3,4,5,6}.
“某品牌电视机的寿命”:
3 = {t | t 0}.
“110每天接到的报警次数”:
4 = {0,1,2,…}.
“圆心在原点的单位圆内任取一点”:
5 = {(x,y) | x2 + y2 1}.
在公理化的基础上,现代概率论不仅在理论上取得 了一系列突破,在应用上也取得了巨大的成就,其应 用几乎遍及所有的科学领域,例如天气预报、地震预 报、工程技术、自动控制、产品的抽样调查、经济研 究、金融和管理等领域.
数理统计 ppt 第一章 概率论基础
=
������ ������������ ;������(������������������) 1;������ ������
=
1 ;0 2 1 1; 3
=
3 . 4
一、古典概型
例2 一盒晶体管中有8只合格品、2只不合格品。 从中不返回地一只一只取出,试求第二次取出合 格品的概率。 (P40 ex12)
0.5×1 0.5×1:0.5×0.25
= 0.8
一、古典概型
(2) 此时有������(������) = 0.2,������(������) = 0.8,所以由贝叶 斯公式有
������ ������ ������ =
=
������ ������ ������ ������ ������ ������ ������ ������ ������ ������ :������ ������ ������(������|������)
解: 记事件������������ 为“第������ 次取出合格品”,������ = 1,2。 用全概率公式 ������ ������2 = ������ ������1 ������ ������2 ������1 + ������ ������1 ������ ������2 ������1 8 7 2 8 4 = × + × = . 10 9 10 9 5
证明:设小概率事件������发生的概率为������,即������(������) = ������ , ������ > 0,则重复������次都不发生概率为������ ������ ������ = 1 − ������ ������ ,则
发生概率为������ = 1 − 1 − ������ 1,即必发生。 注:吃路边摊和乱穿马路的人们要注意了!
概率论基础
几种常见的连续随机变量及其分布:
◎ 均匀分布 U(a,b)
f
(
x)
b
1
a
,
a
x
b;
0, 其它.
◎ 正态分布 N (, 2 )
f (x)
1
e
(
x
2
)2
2
◎ 指数分布 e()
ex , x 0;
f (x) 0, x 0,
0
1.2 随机变量及其分布
1.2.2 多维随机变量及其分布
定义1.5 设 ( ,F , P)是概率空间, X X (e) ( X1, , Xn )
i 1
i 1
i 1
精益 生产
❖ 精益生产是国际汽车计划组织对日本丰田始 创JIT生产模式的赞誉之称。精益生产是一种 以最大限度地减少运营成本为主要目标的生 产方式。
❖ 精——少而精,不投入多余生产要素,只在 适当时间生产必要的产品
❖ 益——所有经营活动有益有效,具有经济性
精益生产 的特点
• 消除一切浪费 • 追求精益求精和不断改善 • 去掉一切不增值的岗位
作业的分类
1、浪费作业:只使成本增加而不产生附加价值的作业。 2、纯作业: 是指组装零部件等能够产生附加价值的作业。 3、附加作业:是指像更换作业程序等不产生附加价值,但又必须
伴随着纯作业一起实施的作业。
虽然是产生附加价 值的作业,但需 要进一步改善
浪费 纯作业 作业
消除不必要的作业
改善不产生附加价 值的作业,使其作 业时间无限接近零
(1) P() 0;
(2) 若 A, B F , A B, 则 P(B \ A) P(B) P( A);
(3) 设 An F , n 1, 2, .
李贤平-概率论基础-第一章
例:历史上著名的投掷硬币试验.
例:高尔顿钉板试验
2.概率的描述性定义:
频率的稳定性说明:随机事件发生的可能性大小是 随机事件本身固有的、不随人们意志改变的一种客观属 性,因此可以对它进行度量。
随机事件A发生的可能性大小的度量,称为A发生的 概率 (probability),记作P(A).
表现
概率
2.事件的并运算
A与B的并事件,记为 A B ,由属 于A或B的所有样本点组成,即
A
B
例. A = { HHH },B = { TTT } , 则 A∪B = { HHH,TTT }, 三次都是同一面. 特别地,对任意的随机事件 A , A ∪ A = A , A ∪ = A, A ∪ = 当 A、B 不相容时,称它们的并为和,并记作A+B.
3.事件的交运算
A与B的交事件,记为 A B或AB,由 属于A及B的样本点组成,即
例. A = { H∗∗ },B = { } ,则 AB = { HH∗}, 前两次都是正面。 特别地,对任意的随机事件 A , A∩A = A, A∩ = , A∩ = A.
事件的并与交运算可推广到可列个事件的情形:
1.1.3 频率的稳定性
1.频率的定义 在相同的条件下进行了 n 次重复试验,记nA 是随机事件 A 发生的次数 (又称频数) ,则定 义随机事件 A 发生的频率为 nA Fn (A) = n 。 频率描述了一个随机事件发生的频繁程度。
大量的随机试验表明:
(1) 频率具有随机波动性,即对于同一个随机 事件来说,在相同的试验次数下,得到的 频率也不一定会相同。 (2) 频率还具有稳定性,总是在某一个具体数值 附近波动,随着试验次数的不断增加,频率的 波动会越来越小,逐渐稳定在这个数值。 频率的稳定性表明随机现象也具有规律性, 称为是统计规律(大量试验下体现出的规律)。
第一章 概率论基础(4)
Cov(kX, kY)=k2Cov(X,Y)
■相关系数
定义
设D(X)>0, D(Y)>0, 称
XY
Cov( X ,Y ) E[ X EX Y EY ]
D( X )D(Y )
DX DY
为随机变量X和Y的相关系数(标准协方差)
X*Y* E( X *Y *) XY
推论1:常数的方差等于零,即:D(C)=0 推论2:设X是一个随机变量,a是常数,则
D(aX)=a2D(X) 推论3:D(X)=D(-X)
2.设X,Y为相互独立的随机变量,则 D(X+Y)=D(X)+D(Y)
一般地: D(X+Y)=D(X)+D(Y)+2E{[X-E(X)][Y-E(Y)]}
推论1:设X,Y为相互独立的随机变量, a,b是 常数, 则D(aX+bY)=a2D(X)+b2D(Y)
[x E( X )]2
f
(x)dx,
D(X)=E(X2)-[E(X)]2
X为离散型, P(X=xk)=pk
X为连续型, X~f(x)
■常见分布的期望和方差
名称
概率分布
两点分布 P(X k)pk (1 p)1k , k 0,1.
二项分布 泊松分布 正态分布
P(X k)Cnk pk (1 p)nk , k 0,1,, n
P(X k)ke , k 0,1,, n
k!
f (x)
1
(
x )2 2 2
e
, x
2
期望 p np
均匀分布
1 f (x) ba
0
a xb 其它
概率论基础知识
则 A 与 B 便是互不相容的。
7、对立:称事件 A 不发生的事件为 A 的对立事件,记为 显然
,A∩ =φ
例如,从有 3 个次品,7 个正品的 10 个产品中任取 3 个,若令 A={取得的 3 个产品中至少有一个次品},则 ={取得的 3 个产品均为正品}。
第 4 页 共 73 页
而 P(B)=3P(A)=
概率论基础知识
定义 1:在古典概型中,设其样本空间Ω所含的样本点总数,即试验的基本事件总数为 NΩ而事件 A 所 含的样本数,即有利于事件 A 发生的基本事件数为 NA,则事件 A 的概率便定义为:
例 1,将一枚质地均匀的硬币一抛三次,求恰有一次正面向上的概率。 解:用 H 表示正面,T 表示反面,则该试验的样本空间
若 A B,则 A∪ B=B, A∩ B=A A-B=A-AB= A
等等。
第 3 页 共 73 页
概率论基础知识
例 3,从一批产品中每次取一件进行检验,令 Ai={第 i 次取得合格品},i=1,2,3,试用事件的运算符号表示 下列事件。A={三次都取得合格品}B={三次中至少有一次取得合格品}C={三次中恰有两次取得合 格品}D={三次中最多有一次取得合格品}
2048 4040 12000 24000 30000
概率论基础知识
1061 2148 6019 12012 14994
0.5180 0.5069 0.5016 0.5005 0.4998
定义 2:在相同条件下,将试验重复 n 次,如果随着重复试验次数 n 的增大,事件 A 的频率 fn(A)越来越 稳定地在某一常数 p 附近摆动,则称常数 p 为事件 A 的概率,即 P(A)=p 不难证明频率有以下基本性质:
概率论前四章知识点总结
概率论前四章知识点总结概率论前四章知识点总结概率论是研究随机现象的规律性和统计规律性的学科,是现代数学的一个重要分支。
本文将对概率论前四章的知识点进行总结,包括基本概念、事件及其运算、条件概率和独立性、随机变量及其分布。
一、基本概念1. 随机试验:具有以下三个特征的实验称为随机试验:(1)可以在相同条件下重复进行;(2)每次实验的结果不止一个;(3)每次实验的结果不确定。
2. 样本空间:随机试验所有可能结果组成的集合称为样本空间,用S 表示。
3. 事件:样本空间中任意子集称为事件。
如果事件A发生,则称A发生;否则称A不发生。
4. 必然事件和不可能事件:样本空间S和空集∅分别称为必然事件和不可能事件。
二、事件及其运算1. 事件之间的关系:包含关系、互斥关系、对立关系等。
2. 事件的运算:并、交、差、对称差等。
三、条件概率和独立性1. 条件概率:在已知某一事件发生的条件下,另一事件发生的概率称为条件概率。
2. 乘法公式:P(AB)=P(A)P(B|A)3. 全概率公式:对于一组互不相容的事件B1、B2、…、Bn,且它们的并集构成样本空间S,则对任意事件A,有P(A)=∑i=1nP(Bi)P(A|Bi)4. 贝叶斯公式:对于一组互不相容的事件B1、B2、…、Bn,且它们的并集构成样本空间S,则对任意事件A,有P(Bi|A)=P(A|Bi)P(Bi)/∑j=1nP(A|Bj)P(Bj)5. 独立性:如果事件A和事件B满足P(AB)=P(A)P(B),则称事件A 和事件B是独立的。
四、随机变量及其分布1. 随机变量:将随机试验的结果与实数建立起一一对应关系的函数称为随机变量。
2. 离散型随机变量:取有限或可列个值的随机变量称为离散型随机变量。
3. 连续型随机变量:取值在某个区间内且无限多个值的随机变量称为连续型随机变量。
4. 分布函数:对于任意实数x,随机变量X的分布函数F(x)=P{X≤x}。
5. 概率质量函数:对于离散型随机变量X,其概率质量函数p(x)=P{X=x}。
第一讲概率论基本知识
第一章 概率论基础知识概率论是随机过程的基础,在传统的概率论中,限于各种原因,往往借助于直观理解来说明一些基本概念,这对于简单随机现象似乎无懈可击,但对于一些复杂随机现象就难以令人信服了.随着随机数学理论的不断完善,随机过程越来越成为现代概率论的一个重要分支和发展方向. 为了更好地学习随机过程,我们必须对基础概率论的理论有一个比较深入和全面的了解.本章就是在此基础上系统介绍概率论基础知识,包括概率空间、随机变量及其分布、数学期望的若干性质、特征函数和母函数、随机变量列的收敛性及其相互关系、条件数学期望等.1.1 概率空间概率论是研究随机现象统计规律的一门数学分科,由于随机现象的普遍性,使得概率论具有极其广泛的应用.随机试验是概率论的基本概念之一,随机试验所有可能结果组成的集合称为这个试验的样本空间,记为Ω.Ω中的元素ω称为样本点,Ω中的子集A 称为随机事件,样本空间Ω也称为必然事件,空集Φ称为不可能事件.定义 1.1 设Ω是一个集合,F 是Ω的某些子集组成的集合簇(collection )(或称集类),如果 (1)Ω∈F ;(2)若A ∈F ,则\A A =Ω∈F ;(取余集封闭) (3)若n A ∈F ,1,2,n = ,则1n n A ∞=∈ F ;(可列并封闭)则称F 为σ-代数(sigma algebra -)(B orel 域或事件域(field of events )),(,ΩF )称为可测空间(m easurable space ).由定义可以得到 (4)Φ∈F ;(5)若,A B ∈F ,则\A B ∈F ;(取差集封闭)(6)n A ∈F ,1,2,n = ,则1ni i A = ,1ni i A = ,1i i A ∞= ∈F (有限交,有限并,可列交封闭)定义1.2 设(,ΩF )为可测空间,()P ⋅是定义在F 上的实值函数,如果 (1)任意A ∈F ,0()1P A ≤≤;(非负性) (2)()1P Ω=;(正规性)(3)对两两互不相容事件12,,A A (当i j ≠时,i j A A =Φ ),有11()i ii i P A P A ∞∞==⎛⎫=⎪⎝⎭∑ (可列可加性). 则称P 是(,Ω F)上的概率(p r o b a b i l i ),(,ΩF ,P )称为概率空间(probability space ),()P A 为事件A 的概率. 由定义知(4),A B ∈F ,A B ⊂,则(\)()()P B A P B P A =- (可减性)一事件列{,1}n A n ≥称为单调增列,若1,1n n A A n +⊂≥;称为单调减列,若1,n n A A +⊃1n ≥. 显然,如果{,1}n A n ≥为单调增列,则1lim n in i A A∞→∞==;如果{,1}n A n ≥为单调减列,则1lim n in i A A∞→∞==.(5)(概率的连续性)若{,1}n A n ≥是递增或递减的事件列,则lim ()(lim )n n n n P A P A →∞→∞=定义1.3 设(,ΩF ,P )为概率空间,B ∈F ,且()0P B >,如果对任意A ∈F ,记()(|)()P AB P A B P B =则称(|)P A B 为事件B 发生条件下事件A 发生的条件概率(conditional probability ). 由条件概率的定义可得到: (1)乘法公式 设,A B ∈F ,则()()(|)P AB P B P A B =一般地,若i A ∈F ,1,2,,i n = ,且121()0n P A A A -> ,则121121312121()()(|)(|)(|)n n n P A A A P A P A A P A A A P A A A A --=(2) 全概率公式 设(,ΩF ,P )是概率空间,A ∈F ,i B ∈F ,1,2,,i n =()i j B B i j =Φ≠,且1,()0,ni i i B P B ==Ω> ,则1()()(|)niii P A P B P A B ==∑(3) (Bayes 公式)设(,ΩF ,P )是概率空间,A ∈F ,i B ∈F ,1,2,,i n =()i j B B i j =Φ≠,且1,()0,()0ni i i B P B P A ==Ω>> ,则1()(|)(|)()(|)i i i niii P B P A B P B A P B P A B ==∑一般地,若12,,,n A A A ∈ F ,有11()()nni ii i P A P A ===∏ , 则称F 为独立事件簇.1.2 随机变量及其分布随机变量是概率论的主要研究对象之一,随机变量的统计规律用分布函数来描述. 定义 1.4 设(,ΩF ,P )为概率空间,()X X ω=是定义在Ω上的实值函数,如果对于任意实数x ,有()1(,]Xx --∞={}:()X x ωω≤∈F ,则称()X ω为F上的随机变量(random variable ),简记为..r v X .随机变量实质上是(,ΩF )到(,R B ()R )上的可测映射(函数),记1(){()|X XB B σ-=∈B ()R }⊂F ,称()X σ为随机变量X 所生成的σ域.称{}()1()():()((,])(,]F x P X x P X xP X x P Xx ωω-=≤=≤=∈-∞=-∞为随机变量X 的分布函数(distribution function )(简记.d f ).由定义,分布函数有如下性质:(1)()F x 为不降函数:即当12x x <时,有12()()F x F x ≤; (2)()lim ()0,x F F x →-∞-∞==()lim ()1x F F x →+∞+∞==;(3)()F x 是右连续的,即()()F x F x ο+=可以证明,定义在R 上的实值函数()F x ,若满足上述三个性质,必能作为某个概率空间(,ΩF ,P )上某个随机变量的分布函数.推广到多维情形,类似可得到定义 1.5 设(,ΩF ,P )为概率空间,()12()(),(),,()n X X X X X ωωωω== 是定义在Ω上的n 维空间n R 中取值的向量实值函数.对于任意12(,,,)n n x x x x R =∈ ,有{}1122:(),(),,()n n X x X x X x ωωωω≤≤⋅⋅⋅≤∈F ,则称()X X ω=为n 维随机变量,称12()(,,,)n F x F x x x P =⋅⋅⋅={}1122:(),(),,()n n X x X x X x ωωωω≤≤⋅⋅⋅≤为()12()(),(),,()n X X X X X ωωωω==⋅⋅⋅的联合分布函数.随机变量有两种类型:离散型随机变量和连续型随机变量,离散型随机变量的概率分布用概率分布列来描述:(),1,2,k k p P X x k === ,其分布函数为()k k x xF x p ≤=∑;连续型随机变量的概率分布用概率密度函数()f x 来描述,其分布函数为()()x F x f t dt -∞=⎰.类似地可定义n 维随机变量12(,,,)n X X X X = 的联合分布列和联合分布函数如下: 对于离散型随机变量12(,,,)n X X X X = ,联合分布列为()121122,,,n x x x n n p P X x X x X x ====其中,i i i x I I ∈为离散集,1,2,,i = n ,X 的联合分布函数为: 1,12,,121,2,,(,,,)(,,,)n i i nn x x n x y i n F y y y p y y y R ≤==⋅⋅⋅∈∑对于连续型随机变量12(,,,)n X X X X = ,如果存在n R 上的非负函数12(,,,)n f x x x ,对于任意12(,,,)nn y y y R ∈ ,有12(,,,)n X X X X = 的联合分布函数12121212(,,,)...(,,,)n y y y n n n F y y y f x x x dx dx dx -∞-∞-∞⋅⋅⋅=⋅⋅⋅⋅⋅⋅⎰⎰⎰12(,,,)n f x x x 为X 的联合密度函数.1.3 数学期望及其性质设()X X =⋅是定义在概率空间(,ΩF ,P )上的.r v ,如果||X dP Ω<∞⎰,就称.r v .X的数学期望(expectation )或均值存在(或称.r v .X 是可积的),记为E X ,有下列定义:EX XdP Ω=⎰利用积分变换,也可写成()EX xdF x +∞-∞=⎰.设()g x 是1R 上的B orel 可测函数,如果.r v .()g X 的数学期望存在,即|()|E g X <∞,由积分变换可知()()()()Eg X g X dP g x dF x +∞Ω-∞==⎰⎰设k 是正整数,若.r v .k X 的数学期望存在,就称它的k 阶原点矩(k th -moment aboutthe origin ),记为k α,即()kkk EXx dF x α+∞-∞==⎰设k 是正整数,若.r v .||k X 的数学期望存在,就称它的k 阶绝对原点矩(k th - absolute m o m e n tabout the origin ),记为k β,即 ||||()kkk E X x dF x β+∞-∞==⎰类似地,X 的k 阶中心矩(k th - central moment )k μ和k 阶绝对中心矩(k th -absolutely central moment )k υ分别定义为1()()()kkk E X EX x dF x μα+∞-∞=-=-⎰1||||()kkk E X EX x dF x να+∞-∞=-=-⎰我们称二阶中心矩为方差(variance ),记为V a r X 或D X ,显然有22221VarX μναα===-关于数学期望,容易验证下列的性质:(1)若.r v .X ,Y 的期望E X 和E Y 存在,则对任意实数,αβ,()E X Y αβ+也存在,且()E X Y EX EY αβαβ+=+(2)设A ∈F ,用A I 表示集A 的示性函数,若E X 存在,则()A E XI 也存在,且()A AE XI XdP =⎰(3)若{}k A 是Ω的一个划分,即()i j A A i j =Φ≠ ,且i iA Ω= ,则iA i EX XdP XdP Ω==∑⎰⎰关于矩的存在性,有如下的必要条件和充分条件定理1.1 设对.r v X 存在0p >,使||pE X <∞,则有lim (||)0px x P X x →∞≥=定理1.2 设对.r v X 0(.)a s ≥,它的.d f 为()F x ,那么E X <∞的充要条件是(1())F x dx ∞-<∞⎰此时EX =(1())F x dx ∞-⎰推论1.1 ||E X <∞的充要条件是0()F x dx -∞⎰与0(1())F x dx +∞-⎰均有限,这时有EX =(1())F x dx ∞-⎰()F x dx -∞-⎰推论 1.2 对于0,||pp E X <<∞<∞的充要条件是11(||)p n P X n ∞=≥<∞∑,也等价于11(||)p n nP X n ∞-=≥<∞∑1.4 特征函数和母函数特征函数是研究随机变量分布又一个很重要的工具,用特征函数求分布律比直接求分布律容易得多,而且特征函数有良好的分析性质.定义 1.6 设X 是n 维随机变量(随机向量),分布函数为()F x ,称()F x 的Fourier Stieltjes -变换()()(),itXitxg t E ee dF x t ∞-∞==-∞<<∞⎰为X 的特征函数(characteristic function ).简记.c f从本质上看,特征函数是实变量t 的复值函数,随机变量的特征函数一定是存在的. 当X 是离散型随机变量,分布列(),1,2,k k p P X x k === ,则1()kitx k k g t ep ∞==∑当X 是连续型随机变量,概率密度函数为()f x ,则()(),itxg t ef x dx t ∞-∞=-∞<<∞⎰从定义,我们能够看出特征函数有如下性质: (1)(0)1;g =(2)(有界性)|()|1;g t ≤ (3)(共轭对称性)()();g t g t -=(4)(非负定性)对于任意正整数n 及任意实数12,,,n t t t 和复数12,,,n z z z ,有,1()0nk l k l k l g t t z z =-≥∑(5)(连续性)()g t 为n R 上一致连续函数;(6)有限多个独立随机变量和的特征函数等于各自特征函数的乘积,即随机变量12,,,n X X X 相互独立,12n X X X X =+++ 的特征函数为:12()()()()n g t g t g t g t =其中()i g t 为随机变量i X 的特征函数;(7)(特征函数与矩的关系)若随机变量X 的n 阶矩n EX 存在,则X 的特征函数()g t 可微分n 次,且当k n ≤时,有()(0)k k k g i EX =;(8)随机变量的分布函数由其特征函数唯一确定.定理1.3 (B ocher 定理) n R 上函数()g t 是某个随机变量特征函数当且仅当()g t 连续非负定且(0)1g =.定理1.4 (逆转公式) 设()F x 是随机变量X 的分布函数,相应的特征函数为()g t 若12,x x 为()F x 的连续点,则12211()()lim()2itx itx TT Tee F x F x g t dt itπ--→∞---=-⎰很显然,具有相同特征函数的两个分布函数是恒等的.由此还可推出一个事实:一个随机变量是对称的,当且仅当它的特征函数是实的. 事实上,由X 的对称性知X 和X -有相同的分布函数,根据定义()()()itX itXg t E e E eg t g t -===-=,也就是说()g t 是实的;反之,从()()()itX itXg t Ee g t g t Ee -===-=知X 和X -有相同的特征函数,因此,它们的分布函数相等,这说明X 是对称的.例1.1 设X 服从(,)B n p ,求X 的特征函数()g t 及2,,EX EX D X解 X 的分布列为{},1,0,1,2,,k k n kn P X k C p q q p k n -===-=()()()n nitxk k n kk it k n kit nnnk k g t eC p qCpe qpe q --=====+∑∑因此 0(0)()|itt d E X ig ipe qnp dt='=-=-+=22222202()(0)()()|it t d EXi g i pe q npq n p dt=''=-=-+=+故 22()D X EX EX npq =-= 例1.2 设~(0,1)X N ,求X 的特征函数()g t解 22()itx xg t edx ∞--∞=由于2222||||itx xxixe xe--=221||xx edx ∞--∞<∞⎰,可对上式两边求导,得2222()()itx xitx xg t ixedx e de∞∞---∞-∞'==-⎰2222()x x itx itx edx tg t ∞∞---∞-∞=--=-于是得到微分方程 ()()g t t g t '+=. 这是变量可分离型方程,有()()dg t tdt g t =-两边积分得 2l n ()2g t tc=-+,得方程的通解为 22()tcg t e -+=.由于(0)1g =,因此,0c =.于是X 的特征函数为22()tg t e -=例1.3 设,X Y 相互独立,~(,),~(,)X B n p Y m p ,证明:~(,)X Y n m p ++ 证明 ,X Y 的特征函数分别为()(),()(),1itnitmX Y g t q pe g t q pe q p =+=+=-X Y +的特征函数为()()()(),1it n mX Y X Y g t g t g t q pe q p ++==+=-即X Y +的特征函数是服从参数为,n m p +二项分布的特征函数,由唯一性定理~(,)X Y n m p ++附表一给出了常用分布的均值、方差和特征函数.在研究只取非负整数值的随机变量时,以母函数代替特征函数比较方便.定义1.7 设随机变量X 的分布列为(),0,1,2,k p P X k k === 其中01k k p ∞==∑,称()()kk k k P s E s p s ∞===∑为X 的母函数(或称概率生成函数)(p r o b a b i l i t y generating function ).母函数具有下列性质:(1)非负整数值随机变量的分布列由其母函数唯一确定; (2)(1)1P =,()P s 在||1s ≤绝对且一致收敛;(3)若随机变量X 的l 阶矩存在,则可以用母函数在1s =的导数值来表示,特别地, 有2(1),(1)(1)EX P EXP P ''''==+;(4)独立随机变量之和的母函数等于母函数的积.证明 (1)01(),0,1,2,nkkkk k k k k k n P s p s p s p s n ∞∞===+==+=∑∑∑两边对s 求n 阶导数,得到()1()!(1)(1)n k nn k k n Ps n p k k k n p s∞-=+=+--+∑令0s =,则()(0)!n n p n p =,因此()(0),0,1,!n n pp n n ==(3)由0()kk k P s p s ∞==∑,得到11()k kk P s kps∞-='=∑,令1s ↑,得到1(1)kk EX kpP ∞='==∑,类似可得到 2(1)(1)E X PP '''=+ 例1.4 从装有号码为1,2,3,4,5,6的小球的袋中,有放回地抽取5个球,求所得号码总和为15的概率.解 令i X 为第i 次取得的小球的号码,且i X 相互独立,125X X X X =+++ 为所取的球的号码的总和.i X 的母函数为261()()6i P s s s s =+++X 的母函数为 5265655551()()(1)(1)66s P s s s s s s -=+++=--所求概率为()P s 展开式的15s 的系数,因此,5651{15}6P X ==1.5 随机变量列的收敛性定义 1.8设{},;1n X X n ≥概率空间(,ΩF ,P )上随机变量,如果存在集A ∈F ,()0P A =,当cA ω∈时,有lim ()()n n X X ωω→∞=,则称n X 几乎处处收敛(convergencealm ost everywhere )到X ,简称n X ..a s 收敛到X ,记为n X X → ..a s下面我们给出..a s 收敛的一个判别准则.定理1.5 n X X → ..a s 的充分必要条件是任一ε>0,有lim (||)0m n m n P X X ε∞→∞=⎧⎫-≥=⎨⎬⎩⎭下面给出定理1.3的一个应用.例1.5 设{}n X 是..r v 列,且11()()2n n n P X n P X n +===-=,1111122n n n P X P X n n ⎧⎫⎧⎫⎛⎫===-=-⎨⎬⎨⎬ ⎪⎩⎭⎩⎭⎝⎭对于给定的ε>0,考虑1n ε>,有 1(||)0,2m mm nm n P X n ε∞∞==⎧⎫≥≤→→∞⎨⎬⎩⎭∑,因此 0n X →,..a s定义1.9 设{},;1n X X n ≥概率空间(,ΩF ,P )上随机变量,如果对任一0ε>,{}lim ||0n n P X X ε→∞-≥=则称n X 依概率收敛(convergence in probability )到X ,简记Pn X X −−→. 由定义,n X 依概率收敛到X ,那么极限随机变量X ..a s 是唯一的.定义 1.10 设{},;1n X X n ≥概率空间(,ΩF ,P )上随机变量,若||rn E X (0r >)存在,且lim ||0rn n E X X →∞-=,则称 n X r 阶平均收敛(convergence in mean oforder r )到X ,特别地,当2r =时,称为均方收敛.定义1.11 设{},;1n X X n ≥概率空间(,ΩF ,P )上随机变量,其分布函数序列()n F x 满足lim ()()n n F x F x →∞=在每个()F x 连续点处成立,则称n X 依分布收敛(convergence indistribution )到X .简记dn X X −−→.这里()F x 为X 的分布函数.下面我们不加证明地给出几种收敛之间的关系.a sPn n X X X X −−→⇒−−→dn X X ⇒−−→⇓..k a s n X X −−→且11(||)2kn kk P X X ∞=-≥<∞∑⇑,r rn n X X X X '−−→⇒−−→ 0r r '<< 1.6 条件数学期望设,X Y 是离散型随机变量,对一切使{}0P Y y =>的y ,定义给定Y y =时,X 的条件概率为 {,}{|}{}P X x Y y P X x Y y P Y y ======;给定Y y =时,X 的条件分布函数为(|){|}F x y P X x Y y =≤=; 给定Y y =时,X 的条件期望为(|)(|){|}xE X Y y xdF x y xP Xx Y y =====∑⎰设,X Y 是连续型随机变量,其联合密度函数为(,)f x y ,对一切使()0Y f y ≥,给定Y y =时,X 的条件密度函数为(,)(|)()Y f x y f x y f y =;给定Y y =时,X 的条件分布函数(|){|}F x y P X x Y y =≤==(|)xf x y dx ⎰; 给定Y y =时,X 的条件期望定义为 (|)(|)(|)E X Y y x d F x y x f x y d x===⎰⎰由定义可以看出,条件概率具有无条件概率的所有性质.(|)E X Y y =是y 的函数,y 是Y 的一个可能值,若在Y 已知的条件下,全面考察X 的均值,需要用Y 替代y ,(|)E X Y y =是Y 的函数,显然,它也是随机变量,称为X 在Y 条件下的条件期望(conditional expectation ).条件期望在概率论、数理统计和随机过程中是一个十分重要的概念,下面我们列举以下性质:设,,X Y Z 为随机变量,()g x 在R 上连续,且,,,[()]EX EY EZ E g Y Z ⋅都存在. (1) 当X 和Y 相互独立时,(|)E X Y EX =; (2) [(|)]EX E E X Y =;(3) [()|]()(|)E g Y X Y g Y E X Y ⋅=; (4) (|)E c Y c =,c 为常数;(5) (线性可加性)[()|](|)(|)E aX bY Z aE X Z bE Y Z +=+ (,a b 为常数); (6) 若0,X ≥则(|)0,..E X Y a s ≥ 下面只对(2)和(3)证明:证明 (2)离散型情况.设(,)X Y 的联合分布列为{,},,1,2,i j ij P X x Y y p i j ====则 [(|)](|){}jj j y E E X Y E XY y P Y y ===∑{|}{}ji i i j j y x x P X x Y y P Y y ⎡⎤====⎢⎥⎣⎦∑∑ {,}{}ji ii i j i y x x x P X x Y y P Xx EX ⎡⎤======⎢⎥⎣⎦∑∑∑由此可见,E X 是给定j Y y =时X 条件期望的一个加权平均值,每一项(|)j E X Y y =所加的权数是作为条件事件的概率,称(|){}jj j y EX E XY y P Y y ===∑为全期望公式.连续型情形:设(,)X Y 的联合密度函数为(,)f x y ,则[](|)(|)()(|)()Y Y E E X Y E X Y y f y dy xf x y dx f y dy ∞∞∞-∞-∞-∞⎡⎤===⎢⎥⎣⎦⎰⎰⎰(,)(,)x f x y d x d yx f x y dy d x∞∞∞∞-∞-∞-∞-∞⎡⎤⎡⎤==⎢⎥⎢⎥⎣⎦⎣⎦⎰⎰⎰⎰()X xf x dx EX ∞-∞==⎰(|)()Y EX E X Y y f y dy ∞-∞==⎰也称为全期望公式.全期望公式表明:条件期望的期望是无条件期望. (3)只需证明对任意使[]()|E g Y X Y y ⋅=存在的y 都有[]()|()(|)E g y X Y y g y E X Y y ⋅===因为[|](|)E X Y y xdF x y ∞-∞==⎰,因此,当y 固定时,[]()|()(|)()(|)E g y X Y y g y xdF x y g y xdF x y ∞∞-∞-∞⋅===⎰⎰()[|]g y E X Y y ==例1.6 设在某一天走进商店的人数是期望为1000的随机变量,又设这些顾客在该商店所花钱数都为期望为100元的相互独立的随机变量,并设一个顾客花钱数和进入该商店的总人数独立,问在给定的一天内,顾客们在该商店所花钱数的期望是多少?解 设N 表示这天进入该商店的总人数,i X 表示第i 个顾客所花的钱数,则N 个顾客所花的总数为1Ni i X =∑.由于 11|N N i i i i E X E E X N ==⎡⎤⎡⎤⎛⎫=⎢⎥ ⎪⎢⎥⎣⎦⎝⎭⎣⎦∑∑而 1111||N n n i i i i i i E X N n E X N n E X nEX ===⎡⎤⎡⎤⎡⎤=====⎢⎥⎢⎥⎢⎥⎣⎦⎣⎦⎣⎦∑∑∑因此 11|,N i i E X N N E X =⎡⎤=⎢⎥⎣⎦∑[]111N i i E X E N E X E N E X =⎡⎤=⋅=⎢⎥⎣⎦∑由题设 11000,100EN EX == 于是11000100100000Ni i X ==⨯=∑即该天顾客花费在该商店的钱数的期望为100000元.。
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
g ( x)dF ( x) g ( x)dF ( x) (a c , b c ☆ g ( x)dF ( x) g ( x)dF ( x) ☆若g(x) 0 (a < b) 则 g ( x)dF ( x) 0
b a g ( x)dF ( x)
F (b) F (a) P(a X b)
☆ 若X是离散型随机变量,即P ( X =ci )= pi (i=1,2, ∙∙∙ ) ,则
F ( x) pi
ci x
c0 , X ~ p , 0
c1 , cn p1 , pn
1.4.2.1随机变量的数学期望( mathematical expectation or
mean)
定义1:设 X= X(ω)是定义在概率空间(Ω ,F, P)上的随机变量,
F (x)为其分布函数,若
|
x | dF ( x) 存在,则称
EX xdF ( x) 为随机变量X的数学期望(或称为X的均值(mean) ).
E (aX bY ) aEX bEY , a, b const
若X,Y相互独立
EXY EXEY
注意:数学期望是一个实数, 而非变量,它是 一种加权平均, 与一般的平均值不同,它从本 质上体现了随机变量 X 取可能值的真正的平 均值.
1.4.2.2随机变量的方差(variance)
| ( X , Y ) |2 1
推广: 设X1,X2 , ∙∙∙ ,Xn是n个随机变量,则
D( X i ) DX i 2 cov(X i , Y j )
i 1 i 1 1i j n
n
n
例:(配对问题)n个人将自己的帽子放在一起,充分混合后每 人随机取出一顶帽子,试求选中自己帽子的人数的均值和方差。 解:定义随机变量X
定义1 . 设X= X(ω)是定义在概率空间(Ω ,F, P)上随机变量,其 分布函数为F (x) ,定义 etX 的数学期望为
g X (t ) E (e )
tX
tx e dF ( x)
如果X= X(ω)为连续型的,概率密度函数为 f (x),那么
g X (t ) E (e )
g ( x)dF ( x)
—当X为离散型随机变量,即 P (X=xi)=pi(i N )时,则
EX xi pi
i 1
EX 是X所有可能值的加权平均
—当X为连续型随机变量,且有概率密度 f (x) 时,则
EX
xf ( x)dx
设 X,Y是定义在概率空间(Ω ,F, P)上的两个随机变量,
X Y
称
cov( X , Y ) cov( X , Y ) ( X ,Y ) XY DXDY
刻画随机变量(X,Y) 之间线性关系的密切 程度
为(X,Y)的相关系数(correlation coefficient)。 特别若 (X,Y) =0 X,Y不相关
二维正态随机变量( X ,Y ) 的概率密度曲面与 相关系数 XY 的关系.
单击图形播放/暂停 ESC键退出
性质:
☆ 协方差 cov(X,Y)=σXY和相关系数 (X,Y) 是刻画随机变量之 间相依性(interdependence)的数字特征,他们具有相同的符
号,且:
cov(X,Y)=σXY >0( (X,Y) >0)随机变量X,Y具有相同的变化趋势; cov(X,Y)=σXY <0( (X,Y) <0) 随机变量X,Y具有相反的变化趋势。
( X ) D( X ) ( X )
为标准差(standard deviation)
注意:方差是一个常用来体现随机变量 X 取值分散程度的量. 如果 D(X) 值大, 表示 X 取值分散程度大, E(X) 的代表性 差; 而如果 D(X) 值小, 则表示 X 的取值 比较集中, 以 E(X) 作为随机变量的代表 性好.
i 1 i 1
n
n
由 EX i
2
1 n
,得
2
DX i EX i
1 1 ( EX i ) 2 , i 1,2,, n n n
2
而当 i j 时,
1 E ( X i , X j ) P( X i 1, X j 1) P( X i 1) P( X j 1 X i 1) n(n 1)
1 Xi 0
其分布率为
第i个人选中自己的帽子; 否则;
X Xi
i 1 n
(i 1,2,, n)
1 n 1 P(Xi 1 ) ,P(Xi 0 ) n n
EX i 1 , i 1,2, n n
EX E ( X i ) EX i 1
tX
tx e
f ( x)dx
x1 , xn , p1 , pn ,
x0 , 如果X= X(ω)为离散型的,概率分布率为, ~ X p0 , txk 那么 g X (t ) e pk k
E| X |
|
x | dF ( x)
(2)对 k N , 若 E| X |k 存在,其k 阶原点矩(moment about origin )为 k k k E ( X ) x dF ( x) (2)对 m >1 N,若 E| X |m 存在,其m 阶中心矩(moment about center )为 m m E( X EX ) ( x EX )m dF ( x)
性质: 设 X= X(ω)是定义在概率空间(Ω ,F, P)上的随机变量, F (x)为其分布函数,随机变量X方差具有如下性质 ☆ ☆ D( X c) D( X ) , c const
D( 1, ∙∙∙ a D( X ) , a const ☆设XaX ) ,Xn是互相独立的随机变量
2
D( X i ) D( X i )
i 1 i 1
n
n
1.4.2.3随机变量的协方差和相关系数
定义3:设 X= X(ω), Y= Y (ω)是定义在概率空间(Ω ,F, P) 上的两个随机变量,若
0 DX ,0 DY 称 cov( X , Y ) E[( X EX )(Y EY )] E ( XY ) ( EX )( EY )
为(X,Y)的协方差(covariance)。简记为cov(X, Y)=σXY 特别X与 Y独立 cov(X, Y)=σXY=0
刻画随机变量X,Y取值存在 某种统计上的线性相关关系
Hale Waihona Puke 2 X2 Y定义4:设 X= X(ω), Y= Y (ω)是定义在概率空间(Ω ,F, P)上的两 个随机变量,若 0 DX 2 ,0 DY 2
1 1 1 cov(X i , X j ) E ( X i , X j ) EX i EX j 2 2 n(n 1) n n (n 1)
DX D ( X i ) DX i 2 cov(X i , Y j )
i 1 i 1 1i j n
是一个跳跃型分布函数,即F(x)仅在c1 , c2 , ∙∙∙ 点作跃度pi的变化,
则R-S积分为
b
a
g ( x)dF ( x) g (ci )[ F (ci 0) F (ci 0)] g (ci ) pi
i 1 i 1
其R-S积分级数
1.4.2随机变量的数字特征
n
n
n 1
n 1 n
2
2 2C n
1 n 2 (n 1)
1.4.2.4 随机变量的矩
定义5 : 设 X= X(ω)是定义在概率空间(Ω ,F, P)上的随机变量, F (x)为其分布函数:
(1)对 >0R,其 阶绝对矩(absolute moment of order )为
☆设 X,Y是定义在概率空间(Ω ,F, P)上的两个随机变量,则:
(1)D( a
i 1
n
i Xi )
(2)若X1,X2 , ∙∙∙ ,Xn互相独立,则cov(Xi, Xj)=0 (ij) Xi,X j不相关
2 ai DX i i 1
n
2 ai a j cov( X i , X j )
i i i 1
n
S (a, b) lim
0
g (u )F ( x ) g ( x)dF ( x)
b i 1 a
称极限S(a,b)为g(x)关于F(x)在[a , b]上的R-S积分
关于R-S积分的说明 ☆λ 0 n且max{xi} 0 ☆特别当F(x)=x : R-S积分Riemann积分 R-S积分的性质 ☆ 当a < c1 < c2 < ∙∙∙ < cn < b时
i j
n n
(3)若X1, X2, ∙∙∙ ,Xn两两不相关,则 D( X i ) D( X i )
i 1 i 1
(4)施瓦茨(Schwarz)不等式,设随机变量X, Y存在二阶矩,则
[ E ( XY )]2 E ( X 2 ) E (Y 2 )
特别 | cov( X , Y ) |2 DXDY 2 2 X Y
1.5 矩母函数、特征函数和拉普拉 斯变换
• 1.5.1随机变量的矩母函数(moment generating function) • 1.5.2 随机变量的特征函数(characteristic function) • 1.5.3 随机变量的拉普拉斯变换-(自变量的取 值非负)