概率论与数理统计小结

概率论与数理统计主要内容小结概率部分1、全概率公式与贝叶斯公式 全概率公式：)()|()(11B P B A P A P = ++)()|(22B P B A P )()|(n n B P B A P +其中n B B B ,,,21 是空间S 的一个划分。

贝叶斯公式：∑==nj jji i i B A P B P B A P B P A B P 1)|()()|()()|(其中n B B B ,,,21 是空间S 的一个划分。

2、互不相容与互不相关B A ,互不相容0)(,==⇔B A P B A φ事件B A ,互相独立))(()(B A P B A P =⇔ ; 两者没有必然联系3、几种常见随机变量概率密度与分布律:两点分布，二项分布，泊松分布，均匀分布，二项分布，指数分布，正态分布。

),,1(~p b X 即二点分布，则分布律为.1,0,)1(}{1=-==-k p p k x P k k),,(~p n b X 即二项分布，则分布律为.,...,1,0,)1(}{n k p p C k x P k n kk n =-==-),(~λπX 即泊松分布，则分布律为,......1,0,!}{===-k k e k x P k λλ),,(~b a U X 即均匀分布，则概率密度为.,0),(,1)(⎪⎩⎪⎨⎧∈-=其它b a x a b x f),(~θE X 即指数分布，则概率密度为.,00,1)(⎪⎩⎪⎨⎧>=-其它x e x f x θθ),,(~2σμN X 即正态分布，则则概率密度为+∞<<-∞=-x ex f x ,21)(22π.连续性随机变量X 分布函数性质：（i ）1)(=+∞F ，0)(=-∞F , (ii)分布函数连续 对连续性随机变量X ，已知概率密度)(x f ，则分布函数为⎰∞-=xdt t f x F )()(；已知分布函数为)(x F ，则概率密度)()(x F x f '=.对连续性随机变量X ，已知概率密度)(x f , 区间概率⎰=∈Ldx x f L x P )(}{4、连续函数随机变量函数的概率密度设连续随机变量X 的概率密度为)(),(X g Y x f X =也是连续型随机变量，求Y 的概率密度 求法(i) 利用以下结论计算：如果函数)(x g 处处可导，且恒有0)(>'x g （或0)(<'x g ），则Y 概率密度为：⎩⎨⎧<<'=其他,0|,)(|)]([)(βαy y h y h f y f X Y 其中，)(y h 是)(x g 的反函数，且有)},(),(min{+∞-∞=g g α)}.(),(max{+∞-∞=g g β (ii) 利用分布函数计算：先求)(x g y =值域，再在该值域求Y 的分布函数=≤=≤=})({}{)(y X g P y Y P y F =∈}{B X P dx x fBx X)(⎰∈则有)()(y F y f Y '=. 常用求导公式)())(()())(()()()()()(y y f y y f dx x f y F y f y y Y ααβββα'-'=='=⎰5、二维随机变量分布律对于二维连续性随机变量),(Y X ，其联合概率密度为),,(y x f 其联合分布函数为),,(y x F 则,),(),(⎰⎰∞-∞-=x ydvdu v u f y x F概率密度性质：（i ）,0),(≥y x f (ii)⎰⎰+∞∞-+∞∞-=1),(dvdu v u f已知概率密度),,(y x f 求区域概率有,),(}),{(⎰⎰=∈Ddydx y x f D y x P边缘分布函数为,),()(⎰⎰∞-+∞∞-=x X dvdu v u f x F ,),()(⎰⎰∞-+∞∞-=y X dudv v u f y F边缘概率密度为,),()(⎰+∞∞-=dy y x f x f X .),()(⎰+∞∞-=dx y x f y f Y条件分布函数为,)(),()|(|⎰∞-=xY Y X du y f y u f y x F ,)(),()|(|⎰∞-=y X X Y dv x f v x f x y F条件概率密度为,)(),()|(|y f y x f y x f Y Y X =.)(),()|(|x f y x f x y f X X Y = 对于离散情形，设联合分布律为ij j i p y Y x X P ===},{ 边缘概率密度为.1}{i j iji p px X P ===∑∞=，j i ij j p p y Y P .1}{===∑∞=条件概率密度为.}|{i ij i j p p x X y Y P ===，jij j i p p y Y x X P .}|{===6、二维随机变量函数的分布设二维随机变量),(Y X 概率密度为),(y x f ，分布函数为),(y x F (i) Z=X+Y, 则Z 的概率密度为⎰+∞∞-=-=dy y y z f z f Z ),()(⎰+∞∞--dx x z x f ),(当Y X ,相互独立时，⎰+∞∞-=-=dy y f y z f z f Y X Z )()()(⎰+∞∞--dx x z f x f Y X )()((ii) M=max{X,Y}与N=min{X,Y}当Y X ,相互独立时，)()()(z F z F z F Y X M =，))(1))((1(1)(z F z F z F Y X N ---= 7、数学期望(i) 求法：连续随机变量X 概率密度为)(x f ，则⎰+∞∞-=dx x xf X E )()(；若)(X g Y =, 则⎰+∞∞-=dx x f x g Y E )()()(.离散随机变量分布律为k k p x x P ==}{，则∑∞==1)(k k kp xX E ;若)(X g Y =, 则k k k p x g X E )()(1∑∞==.若有二维的随机变量),(Y X ,其联合概率密度为),(y x f ，若),(Y X g Y =, 则⎰⎰+∞∞-+∞∞-=dydx y x f y x g Y E ),(),()(.(ii) 性质：)()()(),()(,)(Y E X E Y X E X CE CX E C C E +=+==)()()()(22112211n n n n X E k X E k X E k X k X k X k E +++=+++Y X ,相互独立，则有).()()(Y E X E XY E =8、方差定义：2)]([)(X E X E X D -=，标准差（均方差）：)(X D . 计算：22)]([)()(X E X E X D -=性质：).()(),()(,0)(2X D C CX D X D C X D C D ==+=)].)([(2)()()(EY Y EX X E Y D X D Y X D --±+=±常见分布的数学期望和方差：两点分布：).1()(,)(p p X D p X E -==),,(~p n b X 即二项分布，则).1()(,)(p np X D np X E -== ),(~λπX 即泊松分布，则.)(,)(λλ==X D X E),,(~b a U X 即均匀分布，则.12)()(,2)(2a b X D b a X E -=+= ),(~θE X 即指数分布，则.)(,)(2θθ==X D X E),,(~2σμN X 即正态分布，则.)(,)(2σμ==X D X E9、协方差与相关系数定义：协方差: ).()()()]}()][({[),(Y E X E XY E Y E Y X E X E Y X Cov -=--= 相关系数：.)()(),(Y D X D Y X Cov XY =ρ则有)()(),(Y D X D Y X Cov XY ρ=.性质：0),(),(),(),,(),(===a X Cov X D X X Cov X Y Cov Y X Cov),(),(),(),,(),(2121Y X Cov Y X Cov Y X X Cov Y X abCov bY aX Cov +=+=),(2)()()(Y X Cov Y D X D Y X D ±+=±如果Y X ,相互独立，则有)()()(Y D X D Y X D +=±,1||≤XY ρ且1||=XY ρ1}{,,=+=∃⇔bX a Y P b a 使.10、独立与不相关关系Y X XY ,0⇔=ρ不相关)()(),(0),(Y E X E Y X E Y X Cov =⇔=⇔Y X ,相互独立)()(),()()()()(),(Y E X E Y X E y f x f y F x F y x F =⇒==⇔F 为分布函数，而f 为概率密度一般情况下，Y X ,相互独立Y X ,⇒不相关，但反之不成立；特殊情况，当);,;,(~),(222121ρσσμμN Y X 时，Y X ,相互独立Y X ,⇔不相关并且此时21222121),(,;)(,)(;)(,)(σρσρρσσμμ======Y X Cov Y D X D Y E X E XY .11、切比雪夫(Chebyshev)不等式：设随机变量X 的期望与方差为2)(,)(σμ==X D X E ，则对任意正数0>ε，有2)(}|)({|εεX D X E X P ≤≥-, 即22}|{|εσεμ≤≥-X P .进一步有：,)(1}|)({|2εεX D X E X P -≥<-即.1}|{|22εσεμ-≥<-X P12、两个中心极限定理定理1（独立同分布的中心极限定理）设随机变量 ,,,,21n X X X 相互独立，服从同一分布，有相同的数学期望和方差： ,2,1,0)(,)(2=>==k X D X E k k σμ，则当n 充分大时，)1,0()()(~~~~~~~~1111N n n XX D X E XY ni knk k nk nk k kn 近似σμ∑∑∑∑====-=-=.定理2（棣莫弗-拉普拉斯定理）设随机变量 2,1,=n n η服从参数为)10(,<<p p n 的二项分布，则当n 充分大时，)1,0()1(~~~~~~~~N p np npn 近似--η统计部分1、常用统计量设X 为总体，n X X X ,,21是来自总体X 的样本，定义样本平均值：∑==ni i X n X 11,样本方差：212)(11X X n S n i i --=∑= )(11212X n X n ni i --=∑=，样本标准差（均方差）：∑=--=ni i X X n S 12)(11 样本k 阶矩： ,2,1,11==∑=k X n A n i ki k2、常用正态总体相关的统计量 （1）2χ分布定义：设n i N X i ,2,1),1,0(~=，则)(~2122n X ni i χχ∑==，特别)1(~22χi X . 性质 (i) 可加性：设),(~),(~2212n Y n X χχ则)(~212n n Y X ++χ.(ii) 设),(~n X χ则n X D n EX 2)(,==. (iii) 特例：设),,(~2σμN X i 则).(~)(1212n Xni iχμσ-∑=(2) t 分布定义：设)(~),1,0(~n Y N X χ, 且Y X ,相互独立，则统计量).(~/n t nY X t =性质(i) 概率密度为偶函数，关于y 轴对称；当n 趋于无穷大，该统计量趋于标准的正态分布； (ii) 对于分位点有：)()(1n t n t αα-=-. (3) F 分布 定义：设)(~),(~21n V n U χχ, 且V U ,相互独立，则统计量).,(~2121n n F n V n U F =性质 (i) 对于分位点有：.),(1),(12211n n F n n F αα=-3、正态总体样本均值与样本方差分布单个总体情形：设X 为总体，且服从),,(~2σμN X n X X X ,,21是来自总体X 的样本，2,S X 分别是样本均值与样本方差，有以下结论：(i) ,)()(,)()(,)()(222σσμ======X D S E nn X D X D X E X E 而且有),(~21211i ni i i n i i ini i C C N XC σμ∑∑∑===.(ii) ),(~2nN X σμ, 即)1,0(~/N nX σμ-；且=-∑=212)(1X Xni iσ)1(~)1(222--n S n χσ两个正态总体情形：设1,,21n X X X 是来自),(~211σμN X 的样本，2,,21n Y Y Y 是来自),(~222σμN Y 的样本, 且两样本相互独立，Y X ,为两样本均值，2221,S S 为两样本方差，则有(i) ),(~22212121n n N Y X σσμμ+±±.(ii) 当22221σσσ==时，)2(~11)(212121-++---n n t n n S Y X wμμ，2)1()1(21222211-+-+-=n n S n S n S w (iii) )1,1(~//2122212221--n n F S S σσ 4. 点估计 (1) 矩估计法设概率密度),,;(21k x f θθθ 或分布律),,;(}{21k x p x X P θθθ ==中含k θθθ ,,21个参数需要估计。