概率论与数理统计笔记

第一章 概率论的基本概念1 随机试验1.对随机现象的观察、记录、试验统称为随机试验.2.随机试验E 的所有结果构成的集合称为E 的样本空间，记为{}S e =， 称S 中的元素e 为基本事件或样本点.3.可以在相同的条件下进行相同的实验；每次实验的可能结果不止一个，并且能事先明确试验的所有可能结果；进行一次试验之前不能确定哪一个结果会实现.2.样本空间、随机事件1.对于随机试验，尽管在每次试验之前不能预知试验结果，但试验的所有可能结果组成的集合是已知的.我们将随机试验E 的所有可能结果组成的集合称为E 的样本空间，记为S 样本空间的元素，即E 的每个结果称为样本点.2.一般我们称S 的子集A 为E 的随机事件A ，当且仅当A 所包含的一个样本点发生称事件A 发生.如果将S 亦视作事件，则每次试验S 总是发生，故又称S 为必然事件。

为方便起见，记φ为不可能事件，φ不包含任何样本点.3.若A B ⊂，则称事件B 包含事件A ，这指的是事件A 发生必导致事件的发生。

若A B ⊂且B A ⊂，即A B =，则称事件A 与事件B 相等.4.和事件{}AB x x A x A A B =∈∈或：与至少有一发生.5.当AB φ=时，称事件A 与B 不相容的，或互斥的.这指事件A 与事件B 不能同时发生.基本事件是两两互不相容的. ,{,{,,AA S AA S A A AB AA AB ===∅=∅的逆事件记为若则称互逆，互斥.6.,A B A B AB AB 当且仅当同时发生时，事件发生.也记作.,A B AB AB AB 当且仅当同时发生时，事件发生,也记作.7. 事件 A 的对立事件：设 A 表示事件 “A 出现”, 则“事件 A 不出现”称为事件 A 的对立事件或逆事件. 事件间的运算规律：,,, A B C 设为事件则有,A B B A AB BA ==（１）交换律：()(),A B C A B C =（２）结合律：()()AB C A BC = ()()()A B C A C B C ACBC ==（３）分配律：,de Morgan AB AB AB AB ==（４）律：3.频率和概率1.记()An n f A n=()A n A f A A n --其中n 发生的次数（频数）；n 总试验次数.称为在这次试验中发生的频率.频率 反映了事件A 发生的频繁程度. 2.频率的性质：3.当重复试验次数n 逐渐增大时，频率 呈现出稳定性，逐渐稳定于某个常数.这种“频率稳定性”即通常所说的统计规律性.我们让试验重复大量次数，计算频率 以它来表征事件A 发生可能性的大小是合适的. 随n 的增大渐趋稳定，记稳定值为p . 的稳定值p 定义为A 的概率，记为()P A p =.4.概率定义：设E 是随机试验，S 是它的样本空间.对于E 的每一个事件A 赋予一个实数，记为()P A ，称为事件A 的概率. 满足下列条件:(1) 非负性：对于每一个事件A ,有()0;P A ≥ (2) 规范性：对于必然事件S ,有()1;P S = (3) 可列可加性：设12,,A A 是两两相互不相容的事件，即对于i j ≠，i j A A φ=，,1,2i j =，则有()()()1212P A A P A P A =++；5.概率定义推得的重要性质. （1）()0P φ=（2）有限可加性 若123A A A A n 是两两互不相容的事件 则有()()1212A A A ()()n n P P A P A P A =++（3）对于任一事件()P A ≤1（4）对于任一事件A 有 ()()1P A P A =- (5) ()()()()P AB P A P B P AB =+-4．等可能概型（古典概型）1.当试验的样本空间只含有有限个元素，并且试验中每个基本事件发生的可能性相同，具有这样特点的试验是大量存在的，则称这种试验为等可能概型.它在概率论发展初期曾是主要的研究对象，所以也称为等可能概型.2. (){}()1A jki j k A P P e n ====∑包含的基本事件数S 中基本事件的总数即是等可能概型中事件A 的概率的计算公式.5.条件概率1. 条件概率定义：设,A B 是两个事件,且()0P A >，称()()()P AB P B A P A =为在A 事件发生条件下B 事件发生的条件概率. 2.符合条件概率的三个条件，即：（1）非负性 对于每一事件B , 有 ()A 0P B ≥ （2）规范性 对于必然事件S ，有 ()A 1P S = （3）可列可加性 设12B B 是两两互不相容的事件，则有()11i i i i P B A P B A ∞∞==⎛⎫= ⎪⎝⎭∑ 3. 乘法定理：设()A 0P >，则有 ()()()AB P P B A P A = 推广: 一般设 12n A A A 为n 个事件，2n ≥，且()1210n P A A A ->有121211122211()()()()()n n n n n P A A A P A A A A P A A A A P A A P A ---=⨯.4.全概率公式：设试验E 的样本空间为S ，A 为E 的事件,12,,....,n B B B 为S 的一个划分，且()0(1,2,...,)i P B i n >=，则()()()()()()()1122n n P A P A B P B P A B P B P A B P B =+++5.贝叶斯公式：设试验E 的样本空间为S ，A 为E 的事件,12,,....,n B B B 为S 的一个划分，且()0(1,2,...,)i P B i n >=，则()()()()()1i i i njjj P A B P B P B A P A B P B ==∑6.独立性1.定义：设,A B 是两事件，如果满足等式()()()P AB P A P B =，则称事件,A B 相互独立，简称,A B 独立.若()0,()0P A P B >>,则,A B 相互独立与,A B 互不相容不能同时成立. 2. 定理一：设,A B 是两事件，且()A P >0，若,A B 相互独立，则()P B A =()P B .反之亦然.3.定理二：若事件A 与B 相互独立则A 与B ，A 与B ，A 与B 也相互独立.4.推广定义：设,,A B C 是三个事件，如果满足等式()()()P AB P A P B =,()()()P BC P B P C =，()()()P AC P A P C =,()()()()P ABC P A P B P C =则称事件,,A B C 相互独立. 5.第二章 随机变量及其分布1. 随机变量1.定义：设随机试验的样本空间{}{},S e X X e ==是定义在样本空间S 上的实值单值函数，称{}X X e =为随机变量.常见的两类随机变量{离散型连续型.2.本书中一般以大写字母如,,,,...X Y Z W 表示随机变量，而以小写字母,,,,...x y z w 表示实数.2. 离散型随机变量及其分布律1.定义：有些随机变量，它全部可能取到的不相同的值是有限个或可列无限多个，这种随机变量称为离散型随机变量.2.定义：取值可数的随机变量为离散量.X 一般地，设离散型随机变量所有可能取的值为(1,2,)kx k =⋅⋅⋅⋅x 取各个可能值的概率论，即事件的概率为{},1,2,k k P X x p k ===⋅⋅⋅称为离散型随机变量X 的分布律。

k p 满足如下两个条件：（1）0k p ≥ （2）11k k p ∞==∑3.（0－1）分布设随机变量X 只可能取0与1两个值,它的分布律是，则称 X 服从（0－1）分布或两点分布.)1,10(1,0,}{1=+<<===-q p p k q p k X P k k（0－1）分布的分布律也可写成4.设试验只有两个可能结果：A 及A , 则称E 为伯努利试验．设()(01)P A p p =<<，此时()1P A p =-,将E 独立重复地进行n 次，则称这一串重复的独立试验为n 重伯努利试验.k k n k n C p q -刚好是二项式()n p q +的展开式中出现k P 的那一项，故称随机变量X 服从参数,n p 的二项分布，记为~(,)X B n p .特别，当1n =时二项分布化为{}1,0,1k k P X k p q k -===，这就是（0-1）分布. 5.泊松分布设随机变量X 所有可能取值为0,1,2…..而取各个值的概率为0λ>其中是常数，.3.随机变量的分布函数1. 分布函数的定义设X 是一个连续随机变量，称()()()F x p X x x =≤-∞<<+∞为 X 的分布函数.X 是随机变量, x 是自变量.由定义，对任意实数 12x x <，随机点落在区间(]12,x x 的概率为：{}{}{}122121()()P x X x P X x P X x F x F x <<=≤-≤=-. 2. 分布函数性质{}！k k X P k λλ-==e ，，，， 210=k1212(1)0()1,(,)(2)()(),()()F x x F x F x x x ≤≤∈-∞∞≤<单调不减性00(3)()lim ()0,()lim ()1(4)lim (),()x x x x F F x F F x F x x +→-∞→∞→-∞==∞===-∞<<∞即任一分布函数处处右连续. 3.公式4.连续型随机变量及其概率密度1.如果对于随机变量X 的分布函数()F x ，存在非负函数()f x ，使对任意实数x 有()()xF x f t dt -∞=⎰，则称X 为连续型随机变量，其中函数()f x 称为X 的概率密度函数简称概率密度。

在实际应用中遇到的基本上是离散型或连续型随机变量. 2.概率密度()f x 性质： （1）()0f x ≥（2）()1f x dx ∞-∞=⎰（3）对于任意实数12,x x ，()12x x ≤，{}()()()211221x x P x X x F x F x f x dx <≤=-=⎰（4）若()f x 在点x 处连续则有 ()F x '=()f x3.均匀分布：设连续型随机变量X 具有概率密度()f x =1,0,a x b b a ⎧<<⎪=-⎨⎪⎩其他，则称X 在区间(),a b 上服从均匀分布.记为).(1}{)2(a F a X P -=>(),XU a b .易知-()0,()=1f x f x dx ∞∞≥⎰且.4指数分布：设连续型随机变量X 具有概率密度()/1,00,x e x f x θθ-⎧>⎪=⎨⎪⎩其他，其中0θ>为常数，则称X 服从参数为θ的指数分布.易知-()0,()=1f x f x dx ∞∞≥⎰且.5 正态分布：设连续型随机变量X 具有概率密度()()222,x f x x μσ--=-∞<<∞， 则称X 服从参数为,μσ的正态分布.特别的，当0,1μσ==时，称X 服从标准正态分布.5.随机变量的函数分布定理：设随机变量X 具有概率密度()X f x ，x -∞<<∞，又设函数()g x 处处可导且恒有''()0(()0)g x g x ><或恒有，则Y=g(X)是连续型随机变量，其概率密度为 ()[]{()()X f h y h y y Y f x αβ'<<=其它.第三章 多维随机变量及其分布1.二维随机变量1.设随机试验E 的样本空间为：{}()(),S e X e Y e =、 为定义在S 上的随机变量，由它们构成一个随机向量 ()X Y 、,叫二维随机向量或二维随机变量.2.定义：设二维随机变量()X Y 、，对任意实数x y 、,二元函数{}(),F X Y P X x Y y =≤≤,,称为()X Y 、的(联合)概率分布函数.二维随机变量分布函数的性质：（1）(),F x y 是变量x 和y 的不减函数，即对任意固定的y ，当21x x >时()2,F x y ≥()1,F x y ;对于任意固定的x ，当21y y >时()2,F x y ≥()1,F x y .（2）()0,1F x y ≤≤，且对于任意固定的y ，(),0F y -∞=，对于任意固定的x ,(),0F x -∞=,(),0F -∞-∞=,(), 1.F ∞∞=(3) (),F x y =()0,F x y +，(),F x y =(),0F x y +，即(),F x y 关于x 右连续，关于y 也右连续.(4) 对于任意()11,x y ，()22,x y ，21x x >，21y y >，下述不等式成立: ()()()()22211112,,,,0F x y F x y F x y F x y -+-≥.如果二维随机变量(,)X Y 全部可能取到的不相同的值是有限对或可列无限多对，则称(,)X Y 是离散型的随机变量.3. 对于二维随机变量(),X Y 的分布函数(),F x y .如果存在非负的函数(),f x y 使对于任意()X Y 、有()(),,y xF x y f d d μυμυ-∞-∞=⎰⎰,则称(),X Y 是连续型的二维随机变量，函数(),f x y 称为二维随机变量(),X Y 的概率密度，或称为随机变量X 和Y 的联合概率密度. 概率密度(),f x y 具有以下性质： （1）(,)0f x y ≥ （2） (,)(,)1f x y dxdy F ∞∞-∞-∞=∞∞=⎰⎰(3) 设G 是xOy 平面上的区域，点()X Y 、落在G 内的概率为{}(,)(,)GP X Y G f x y dxdy ∈=⎰⎰(4) 若(),f x y 在点()X Y 、连续 则有2(,)(,)F x y f x y x y∂=∂∂4. 两个常用的分布（1）均匀分布：定义设D 为闭区域面积为A ，若随机变量()X Y 、 的(联合)密度为： 则称: ()X Y 、服从D 上的均匀分布.(2)二维正态分布：若二维随机变量 ()X Y 、的概率密度为：则称: ()X Y 、服从参数为1、2、1、2、的二维正态分布.其中1>0，2>0，||1是常数.记为：()X Y 、~N (1、2、12、22、) .2.边缘分布1.二维随机变量(),X Y 作为一个整体，具有分布函数(),F x y ，而X 和Y 都是随机变量，也有也有分布函数，将他们分别记为()X F x ，()Y F y ，依次称为二维随机变量(),X Y 关于X 和Y 的边缘分布函数。