特征函数和矩母函数
特征函数与矩函数
根据概率分布的性质和公式,计算相应的矩函数。例如,对于离散型随机变量,可以使用概率质量函数和概率分布函 数来计算;对于连续型随机变量,可以使用概率密度函数和概率分布函数来计算。
数值法
对于一些复杂的概率分布,可以使用数值方法来近似计算矩函数。例如,蒙特卡洛方法可以用来模拟随 机变量的样本值,然后通过样本值的数学期望来近似计算矩函数。
05 特征函数与矩函数的扩展
广义特征函数与矩函数
定义
广义特征函数与矩函数是相对于经典的特征 函数与矩函数的扩展,它们在更广泛的意义 下描述了数据的统计特性。
性质
广义特征函数与矩函数具有更强的灵活性和适应性 ,能够更好地处理复杂的数据分布和异常值。
应用
在统计学、机器学习、数据分析等领域,广 义特征函数与矩函数被广泛应用于数据建模 、特征提取和异常检测。
03 特征函数与矩函数的应用
在概率论中的应用
特征函数用于描述随机变量的概率分布, 可以表示为复平面上的函数。通过计算特 征函数的导数,可以得到随机变量的各阶 矩,如均值、方差、偏度、峰度等。
特征函数还可以用于研究随机变量的 变换性质,例如,通过特征函数可以 推导出随机变量的变换规律,以及随 机变量的独立性、相关性等性质。
特征函数与矩函数
目录
• 特征函数 • 矩函数 • 特征函数与矩函数的应用 • 特征函数与矩函数的区别与联系 • 特征函数与矩函数的扩展
01 特征函数
定义与性质
定义
特征函数是概率论和统计学中的一个 概念,用于描述随机变量或随机过程 的特性。
性质
特征函数具有一些重要的性质,如实 部和虚部都是单调递减的,且实部和 虚部都是偶函数。
特征函数的性质
唯一性
矩母函数
因而
Y |Xx x 1 y f fY Y||X X y y||x xd y 1/1 1- 1 -x x x 1 y d y1 2 x
Y|X 1 X/2
fY|X y|x 1/ 1-x
注意: Y|X 1 X/2是随机变量,当X x 时, 其值为
Y|X x 1 x/2
思考题:当X与Y独立时, X |Y y 的值?
定义:X的矩母函数(MGF),或Laplace变换定义为
Xt
etX
其中t在实数上变化。
etxdF Xx
若MGF是有定义的,可以证明可以交换微分操作和求期 望操作,所以有:
0 de tX
d t
t0
d e tX d t t0
X e tX t0
X
取k阶导数,可以得到 k 0
Xk 方便计算分布的矩
.
.
6
X ~ U n ifo r m 0 ,1 , Y |X ~ U n ifo r m x ,1
怎样计算 Y ? 一种方法是计算联合密度 f x , y ,然后计算
Y yf x,ydxdy
另一种更简单的方法是分两步计算
计算 Y| X =1 X
计算 Y =
2 Y|X =
1
X
1+ X
2
2
= 1+
Y |X Y Y |X Y |X Y|X Y 0 0
所以
Y Y |X Y |X
.
10
二、混合分布
在一个分布族中,分布族由一个/一些参数决定, 如 f x,| 这些参数 通常又是一个随机变量 (贝叶斯学派的观点,参数也是随机变量), 则最终的分布称为混合分布(mixture distribution)
特征函数和矩母函数概要
P ( s) pk s pk s
k k k 0 k 0
n
k n 1
p s
k
k
, n n! pn
k n 1
k (k 1)(k n 1) p s
令s 0, 则P ( n ) (0) n! pn 故pn P
k 0 l 0
P{ N l} P{Y k}s
l 0 k 0
k
l k P{N l} P X j k s l 0 k 0 j 1
k P{N l} P{ X j k}s l 0 j 1 k 0
k 0 k 0
PZ ( s) ck s k
k 0
PX ( s ) PY ( s ) pk s
k 0
k
q s
l 0 l
l
k ,l 0
p qs
k l r
k l
r pk q r k s r 0 k 0
r
c r s PZ ( s )
4. 母函数
定义:设X是非负整数值随机变量,分布律
P{X=k}=pk,k=0,1, 则称
P ( s) E ( s ) pk s
X k 0
k
为X的母函数。
性质: (1)非负整数值随机变量的分布律pk由其母 函数P(s)唯一确定 (k ) P (0) pk , k 0,1,2, k! (2)设P(s)是X的母函数, 若EX存在,则EX=P(1) 若DX存在,则DX= P(1) +P(1)- [P(1)]2
考研数学概率论重要考点总结
考研数学概率论重要考点总结概率论是考研数学中的重要考点之一。
下面是概率论中的一些重要考点总结。
一、概率基本概念1. 随机试验与样本空间2. 事件与事件的关系3. 概率的定义、性质和运算法则4. 条件概率及其性质二、随机变量与概率分布1. 随机变量的概念及其分类2. 离散型随机变量与连续型随机变量3. 随机变量的分布函数和密度函数4. 两个随机变量的独立性5. 随机变量的函数及其分布三、数学期望与方差1. 数学期望的概念及其性质2. 数学期望的计算3. 方差的概念及其性质4. 方差的计算5. 协方差和相关系数四、大数定律与中心极限定理1. 大数定律的概念及其性质2. 切比雪夫不等式3. 中心极限定理的概念及其性质4. 泊松定理5. 极限定理的应用五、随机变量的常见分布1. 二项分布、泊松分布2. 均匀分布、指数分布3. 正态分布4. 伽马分布、贝塔分布5. t分布、F分布、卡方分布六、矩母函数与特征函数1. 矩母函数的概念及性质2. 矩母函数的计算3. 特征函数的概念及性质4. 特征函数的计算5. 中心极限定理的特征函数证明七、样本与抽样分布1. 随机样本的概念及其性质2. 样本统计量的概念及其性质3. 样本均值和样本方差4. 正态总体抽样分布5. t分布,x^2分布,F分布的定义及其应用八、参数估计与假设检验1. 点估计的概念及性质2. 极大似然估计3. 置信区间的概念及计算4. 参数假设检验的概念及流程5. 正态总体均值的假设检验九、回归与方差分析1. 回归分析的概念及方法2. 多元回归模型、回归模型的检验3. 方差分析的概念及方法4. 单因素方差分析、双因素方差分析以上是概率论中的一些重要考点总结。
在备考过程中,需要对这些知识点有一定的掌握,并进行大量的练习和习题训练,只有充分理解和掌握这些知识,并能运用到实际问题中,才能在考试中取得好成绩。
1.4.11.4特征函数的定义
,
i
则
MY
t
M n
i1 Xi
ait
20 X
X1,, X n 为n维实值随机向量,
t
M
t
t1,, E
tn e(
Rn,X的 矩 E X1t1 X ntn )
母 e
函数
X ,t
定
义
为
,
X
30 矩母函数与分布函数也是一一对应关系 .
13
E e i X ,t
n维实值随机向量的特征函数为n元函数.
10
矩母函数
概率空间,F , P 上实值随机变量X ,密度函数 为p x,t R,矩母函数定义为
MX t
E etX
etx p x dx
t 2 x2
1
tx
2!
t n xn
n!
p
x
dx
1 tEX t 2 E X 2 t n E X n
50 X t 一致连续.
0,
X t h X t eitx eihx 1 p x dx
a
e ihx 1 p x dx e ihx 1 p x dx 2 p x dx
a
x a
1) 取 a 充 分 大 ,使 得 2 p x dx
2) x a , 取 h x a
目录
条件期望 特征函数
1
目录
1.4 特征函数的定义
从傅里叶变换到特征函数,再到矩母函数
2
特征函数前传
一 、卷积
如果随机变量X 与Y 相互独立,则它们的和 Z X Y的密度函数等于X 与Y 密度函数的 卷积:
fZ z f X x * fY y
f Z z f X x fY z x dx
概率论的随机变量
概率论的随机变量概率论是数学中一门重要的学科,研究的是随机事件的概率性质和规律。
随机变量是概率论中的重要概念,它是描述随机现象的数值特征的变量。
本文将从概率论的角度出发,全面介绍随机变量及其相关概念和性质。
一、随机变量的定义和分类随机变量是概率论中的一种数值变量,它的取值由随机试验的结果决定。
一般来说,随机变量可以分为离散型随机变量和连续型随机变量两类。
离散型随机变量是只能取有限或可列无穷多个值的随机变量,其取值通常是整数。
例如,抛一枚硬币,用X表示正面朝上的次数,X可以取0、1这两个值。
连续型随机变量是能够取得某个区间内所有可能值的随机变量,其取值可以是实数。
例如,测量一个人的身高X,X可以是区间[150, 200]内的任意一个值。
二、随机变量的分布函数和密度函数对于任意一个随机变量,都可以通过分布函数或密度函数来描述其概率分布情况。
1. 分布函数(累积分布函数,Cumulative Distribution Function,简称CDF):对于随机变量X,其分布函数F(x)定义为F(x) = P(X ≤ x),表示X取值小于等于x的概率。
分布函数具有以下性质:(1)F(x)是一个非降函数;(2)对于任意的实数x1 < x2,有F(x1) ≤ F(x2);(3)当x→-∞时,F(x)→0;当x→+∞时,F(x)→1。
2. 密度函数(Probability Density Function,简称PDF):对于连续型随机变量X,其密度函数f(x)定义为在某个数轴区间内,随机变量落在该区间内的概率密度。
具体来说,密度函数f(x)满足以下性质:(1)f(x) ≥ 0,即密度函数非负;(2)∫f(x)dx = 1,即密度函数的积分等于1;(3)对于任意实数a ≤ b,有P(a ≤ X ≤ b) = ∫[a,b] f(x)dx。
三、随机变量的期望和方差随机变量的期望和方差是描述随机变量性质的两个重要指标。
第2章 随机变量-特征函数
例1.1 设随机变量X 服从退化分布, 即 P { X c } 1 求X 的特征函数.
( t ) E( e
jtX
) e
k
jtxk
pk
pk
( t ) e
k
jtxk
e jtC 1
e
jtC
例1.2 设随机变量X 服从参数为p 的0-1分布(两点分布), 求其特征函数.
e
jtX
cos tX j sin tX
( t ) E (e jtX ) E(cos Xt )+jE(sin Xt )
2. 特征函数的计算
e
jtX
cos( tX ) j sin( tX )
( t ) E (e
jtX
) e jtX dF ( x )
1 1 2
2 t n X n )
]
为n 维随机变量 ( X 1 , X 2 ,, X n ) 的特征函数. 其中t= (t1, t2, , tn) Rn
二、二维随机变量特征函数的性质 性质2.1 设随机变量 ( X ,Y ) 的特征函数为 ( t1 , t 2 ) ,则有
(1) (0,0) 1, 且对任意 t1 , t 2 R, | ( t1 , t 2 ) | (0,0) 1. (2) ( t1 , t 2 ) ( t1 , t 2 );
一、定义及例
1. 特征函数的定义
定义1.1 设X 是定义在概率空间 ( , F , P )上的随机变量, 它
jtX
的分布函数为 F ( x ), 称 e jtX 的数学期望 E (e
) 为X 的特征函数.
概率统计:矩母函数
et (12
)(12
2 2
)t2
/
2
因而 X
Y
~
N (1
2 ,12
2 2
).
M X (t) E(etX ), M (n) (0) EX n, M X (t) etM X (t),
X1, , Xn 独立 M X1 Xn (t) M X1 (t) M Xn (t),
X 和Y 有相同分布 M X (t) MY (t).
定义 5.1 设 X 为随机变量,I 是一个包含0的(有限或无限的)
开区间,对任意t I ,期望EetX 存在,则称函数
M X (t) E(etX )
etxdF (x), t I
为 X 的矩母函数,常把M X (t)简记为M (t).因此
(离散型)
M X (t)
etxi P( X
i
xi ) ,
10
矩母函数(10)
例 5.4 设 X ~ N (, 2),求 X 的矩母函数.
解 设Y ( X ) / ,则Y ~ N (0,1),MY (t) et2 / 2.因为
X Y ,故
M X (t) et MY ( t) et 2t2 / 2 .
11
作业
• 习题三: 34,35,36
12
命题 6.2
设 X ,Y 独立, X
~ N (1,12 ),
Y
~
N
(2,
2 2
)
,则
X
Y
~
N (1
2
,
2 1
2 2
)
证 M X (t) et112t2 / 2, MY (t) et2 22t2 / 2 ,故
M
特征函数和矩母函数.
分布律为P(X=xk)=pk(k=1,2,)的离散 型随机变量X,特征函数为
(t ) eitx pk
k
k 1
概率密度为f(x)的连续型随机变量X,特征 函数为 (t ) eitx f ( x)dx 对于n维随机向量X=(X1, X2, , Xn),特 征函数为
g (t ) e
,由g (0) 1, 得C 0,从而g (t ) e
1 t2 2
例5 :设随机变量X的特征函数为gX(t) , Y=aX+b,其中a, b为任意实数,证明Y的 itb 特征函数gY(t)为 gY (t ) e g X (at) 。
it ( aX b ) 证:gY (t ) E e i ( at ) X itb itb i ( at ) X E e e e E e
itk k 0 k n k n n k
C
k 0
n
k n
pe
it k
q
n k
pe q
it
n
n d it EX ig (0) i pe q t 0 np dt 2 n d 2 2 2 it EX i g (0) i 2 pe q dt
r 0
(4) H ( s ) P{Y k}s k
k 0 k P Y k , { N l} s k 0 l 0
P{Y k , N l}s
k 0 l 0
k
P{Y k}P{ N l}s k
4. 母函数
定义:设X是非负整数值随机变量,分布律
P{X=k}=pk,k=0,1, 则称
多项分布的数学期望、协方差阵、特征函数及母函数
多项分布的数学期望、协方差阵、特征函数及母函数多项分布的数学期望、协方差阵、特征函数及母函数 1一、定义与性质设 X 为随机变量, I 是一个包含 0 的 ( 有限或无限的 ) 开区间,对任意t ∈ I ,期望 E e t x 存在设X为随机变量,I是一个包含0的(有限或无限的)开区间,对任意t∈I,期望Ee^{tx}存在设X为随机变量,I是一个包含0的(有限或无限的)开区间,对任意t∈I,期望Eetx存在则称函数M X ( t ) = E ( e t X ) = ∫ − ∞ + ∞ e t x d F ( x ) , t ∈ I 为 X 的矩母函数则称函数M_{X}(t)=E(e^{tX})=\int_{-\infin}^{+\infin}e^{tx}dF(x),t∈I为X的矩母函数则称函数MX(t)=E(etX)=∫−∞+∞etxdF(x),t∈I为X的矩母函数设 X 为任意随机变量,称函数φ X ( t ) = E ( e i t X ) = ∫ − ∞ + ∞ e i t x d F ( x ) 为 X 的特征函数设X为任意随机变量,称函数\varphi_{X}(t)=E(e^{itX})=\int_{-\infin}^{+\infin}e^{itx}dF(x)为X的特征函数设X为任意随机变量,称函数φX(t)=E(eitX)=∫−∞+∞eitxdF(x)为X 的特征函数一个随机变量的矩母函数不一定存在,但是特征函数一定存在。
一个随机变量的矩母函数不一定存在,但是特征函数一定存在。
一个随机变量的矩母函数不一定存在,但是特征函数一定存在。
随机变量与特征函数存在一一对应的关系随机变量与特征函数存在一一对应的关系随机变量与特征函数存在一一对应的关系二、离散型随机变量的分布0、退化分布(Degenerate distribution)若 X 服从参数为 a 的退化分布,那么 f ( k ;a ) = { 1 , k = a 0 , k ≠ a 若X服从参数为a的退化分布,那么f(k;a)=\left\{\begin{matrix} 1,k=a \\ 0,k\neq a \end{matrix}\right. 若X服从参数为a的退化分布,那么f(k;a)={1,k=a0,k=a M ( t ) = e t a M(t)=e^{ta}M(t)=eta φ ( t ) = e i t a \varphi(t)=e^{ita}φ(t)=eita M ′ ( t ) = a e t a M'(t)=ae^{ta}M′(t)=aeta E X = M ′ ( 0 ) = a EX=M'(0)=aEX=M′(0)=a M ′ ′ ( t ) = a 2 e t a M''(t)=a^2e^{ta} M′′(t)=a2eta E X 2 = M ′ ′ ( 0 ) = a 2EX^2=M''(0)=a^2 EX2=M′′(0)=a2 D X = E X 2 − ( E X ) 2 = 0 DX=EX^2-(EX)^2=0 DX=EX2−(EX)2=01、离散型均匀分布(Discrete uniform distribution)若 X 服从离散型均匀分布 D U ( a , b ) , 则 X 分布函数为 F ( k ; a , b ) = ⌊ k ⌋− a + 1 b −a + 1 若X服从离散型均匀分布DU(a,b) ,则X分布函数为F(k;a,b)=\frac{\lfloor k\rfloor -a+1}{b-a+1} 若X服从离散型均匀分布DU(a,b),则X分布函数为F(k;a,b)=b−a+1⌊k⌋−a+1 则矩母函数M ( t ) = ∑ k = a b e t k P ( x = k ) 则矩母函数M(t)=\sum_{k=a}^{b} e^{tk}P(x=k) 则矩母函数M(t)=k=a∑betkP(x=k) = ( ∑ k = a b e t k ) 1 b − a + 1 =(\sum_{k=a}^{b} e^{tk})\frac{1}{b-a+1} =(k=a∑b etk)b−a+11 = e a t − e ( b + 1 ) t ( 1 − e t ) ( b − a + 1 ) =\frac{e^{at}-e^{(b+1)t}}{(1-e^{t})(b-a+1)} =(1−et)(b−a+1)eat−e(b+1)t 特征函数φ ( t ) = ∑k = a b e i t k P ( x = k ) 特征函数\varphi(t)=\sum_{k=a}^{b} e^{itk}P(x=k) 特征函数φ(t)=k=a∑beitkP(x=k) = ( ∑ k = a b e i t k ) 1 b −a + 1 =(\sum_{k=a}^{b} e^{itk})\frac{1}{b-a+1}=(k=a∑beitk)b−a+11 = e a i t − e ( b + 1 ) i t ( 1 − e i t ) ( b − a + 1 ) =\frac{e^{ait}-e^{(b+1)it}}{(1-e^{it})(b-a+1)}=(1−eit)(b−a+1)eait−e(b+1)it M ′ ( t ) = 1 b − a + 1 ( a e a t − ( b + 1 ) e ( b + 1 ) t ) ( 1 − e t ) + ( e a t − e ( b + 1 ) t ) e t ( e t − 1 ) 2M'(t)=\frac{1}{b-a+1}\frac{(ae^{at}-(b+1)e^{(b+1)t})(1-e^t)+(e^{at}-e^{(b+1)t})e^t}{(e^{t}-1)^{2}} M′(t)=b−a+11(et−1)2(aeat−(b+1)e(b+1)t)(1−et)+(eat−e(b+1)t)et t = 0 为M ′ ( t ) 的可去间断点,补充定义M ′ ( 0 ) = lim t → 0 M ′ ( t ) t=0为M'(t)的可去间断点,补充定义M'(0)=\lim_{t\rightarrow0}M'(t) t=0为M′(t)的可去间断点,补充定义M′(0)=t→0limM′(t) E X = M ′ ( 0 ) = lim t → 0 1 b − a + 1 ( a 2 e at − ( b + 1 ) 2 e ( b + 1 ) t ) ( 1 − e t ) + ( e at − e ( b + 1 ) t ) e t 2 ( e t − 1 ) e tEX=M'(0)=\lim_{t\rightarrow0}\frac{1}{b-a+1}\frac{(a^2e^{at}-(b+1)^2e^{(b+1)t})(1-e^t)+(e^{at}-e^{(b+1)t})e^t}{2(e^{t}-1)e^t}EX=M′(0)=t→0limb−a+112(et−1)et(a2eat−(b+1)2e(b+1)t)(1−et)+(eat−e(b+1)t) et = lim t → 0 1 b − a + 1 ( a 2 e a t − ( b +1 )2 e ( b + 1 ) t ) ( e − t − 1 ) + ( e a t − e ( b + 1 ) t ) 2 ( e t − 1 )=\lim_{t\rightarrow0}\frac{1}{b-a+1}\frac{(a^2e^{at}-(b+1)^2e^{(b+1)t})(e^{-t}-1)+(e^{at}-e^{(b+1)t})}{2(e^{t}-1)} =t→0limb−a+112(et−1)(a2eat−(b+1)2e(b+1)t)(e−t−1)+(eat−e(b+1)t) = lim t → 0 1 b − a + 1 ( a 3 e a t − ( b + 1 ) 3 e ( b + 1 ) t ) ( e − t − 1 ) − ( a 2 e a t −( b + 1 ) 2 e ( b + 1 ) t ) e − t + ( a e a t − ( b + 1 ) e ( b + 1 ) t ) 2 e t=\lim_{t\rightarrow0}\frac{1}{b-a+1}\frac{(a^3e^{at}-(b+1)^3e^{(b+1)t})(e^{-t}-1)-(a^2e^{at}-(b+1)^2e^{(b+1)t})e^{-t}+(ae^{at}-(b+1)e^{(b+1)t})}{2e^{t}} =t→0limb−a+112et(a3eat−(b+1)3e(b+1)t)(e−t−1)−(a2eat−(b+1)2e(b+1)t)e−t+(aeat−(b+1)e(b+1)t) = − a 2 + ( b + 1 ) 2 +a − (b + 1 ) 2 ( b − a + 1 ) =\frac{-a^2+(b+1)^2+a-(b+1)}{2(b-a+1)} =2(b−a+1)−a2+(b+1)2+a−(b+1) = − a 2 + ( b + 1 ) 2 2 ( b − a + 1 ) − 1 2 =\frac{-a^2+(b+1)^2}{2(b-a+1)}-\frac{1}{2}=2(b−a+1)−a2+(b+1)2−21 = ( b + 1 − a ) ( b + 1 +a ) 2 (b − a + 1 ) − 1 2 =\frac{(b+1-a)(b+1+a)}{2(b-a+1)}-\frac{1}{2}=2(b−a+1)(b+1−a)(b+1+a)−21 = b + 1 + a 2 − 1 2=\frac{b+1+a}{2}-\frac{1}{2} =2b+1+a−21 = b + a 2=\frac{b+a}{2} =2b+a 由于对M ′ ( t ) 求导得到M ′ ′ ( t ) ,再求M ′ ′ ( 0 ) 的方法比较繁琐,而我们只需要 t = 0 时 M 的二阶导数值,由于对M'(t)求导得到M''(t),再求M''(0)的方法比较繁琐,而我们只需要t=0时M的二阶导数值,由于对M′(t)求导得到M′′(t),再求M′′(0)的方法比较繁琐,而我们只需要t=0时M的二阶导数值,因此可以考虑使用 T a y l o r 公式计算M ′ ′ ( 0 ) 因此可以考虑使用Taylor公式计算M''(0) 因此可以考虑使用Taylor公式计算M′′(0) 令 1 − e t = u , t = 0 时 , u = 0 令1-e^t=u,t=0时,u=0 令1−et=u,t=0时,u=0 M ( t ) = e a t − e ( b + 1 ) t ( 1 − e t ) ( b − a + 1 )M(t)=\frac{e^{at}-e^{(b+1)t}}{(1-e^{t})(b-a+1)}M(t)=(1−et)(b−a+1)eat−e(b+1)t = 1 b − a + 1 u a −u b + 1 u =\frac{1}{b-a+1}\frac{u^a-u^{b+1}}{u}=b−a+11uua−ub+1 = 1 b − a + 1 1 + a 1 ! ( − u ) + a ( a − 1 ) 2 ! u 2 + a ( a − 1 ) ( a − 2 ) 3 ! ( − u 3 ) + o ( u 3 ) − 1 − b + 1 1 ! ( − u ) −( b + 1 ) b 2 ! u 2 − ( b + 1 ) b ( b − 1 ) 3 ! ( −u 3 ) − o ( u 3 ) u =\frac{1}{b-a+1}\frac{1+\frac{a}{1!}(-u)+\frac{a(a-1)}{2!}u^2+\frac{a(a-1)(a-2)}{3!}(-u^3)+o(u^3)-1-\frac{b+1}{1!}(-u)-\frac{(b+1)b}{2!}u^2-\frac{(b+1)b(b-1)}{3!}(-u^3)-o(u^3)}{u} =b−a+11u1+1!a (−u)+2!a(a−1)u2+3!a(a−1)(a−2)(−u3)+o(u3)−1−1!b+1(−u)−2!(b+1)bu2−3!(b+1)b(b−1) (−u3)−o(u3) = 1 b − a + 1 a 1 ! ( − u ) + a ( a −1 ) 2 ! u 2 + a ( a − 1 ) ( a − 2 ) 3 ! ( − u 3 ) + o ( u 3 ) − b + 1 1 ! ( − u ) − ( b + 1 ) b 2 ! u 2 − ( b + 1 ) b ( b − 1 ) 3 ! ( − u 3 ) u=\frac{1}{b-a+1}\frac{\frac{a}{1!}(-u)+\frac{a(a-1)}{2!}u^2+\frac{a(a-1)(a-2)}{3!}(-u^3)+o(u^3)-\frac{b+1}{1!}(-u)-\frac{(b+1)b}{2!}u^2-\frac{(b+1)b(b-1)}{3!}(-u^3)}{u} =b−a+11u1!a(−u)+2!a(a−1)u2+3!a(a−1)(a−2)(−u3)+o(u3)−1!b+1 (−u)−2!(b+1)bu2−3!(b+1)b(b−1)(−u3) = 1 b − a + 1 ( ( b + 1 − a ) + a ( a − 1 ) 2 ! u + a ( a − 1 ) ( a − 2 ) 3 ! ( − u 2 ) + o ( u 2 ) − ( b + 1 ) b2 ! u − ( b + 1 ) b ( b − 1 )3 ! ( − u 2 ) )=\frac{1}{b-a+1}((b+1-a)+\frac{a(a-1)}{2!}u+\frac{a(a-1)(a-2)}{3!}(-u^2)+o(u^2)-\frac{(b+1)b}{2!}u-\frac{(b+1)b(b-1)}{3!}(-u^2)) =b−a+11((b+1−a)+2!a(a−1)u+3!a(a−1)(a−2)(−u2)+o(u2)−2!(b+1)bu−3!(b+1)b(b−1)(−u2)) = 1 + a ( a − 1 ) − ( b + 1 ) b 2 ! ( b − a + 1 ) u + ( b +1 ) b ( b − 1 ) − a ( a − 1 ) ( a −2 )3 ! ( b −a + 1 ) u 2 + o ( u 2 ) =1+\frac{a(a-1)-(b+1)b}{2!(b-a+1)}u+\frac{(b+1)b(b-1)-a(a-1)(a-2)}{3!(b-a+1)}u^2+o(u^2) =1+2!(b−a+1)a(a−1)−(b+1)bu+3!(b−a+1)(b+1)b(b−1)−a(a−1)(a−2)u2+o(u2) 而 u = 1 − e t = − t − t 2 2 ! + o ( t 2 ) 而u=1-e^t=-t-\frac{t^2}{2!}+o(t^2) 而u=1−et=−t−2!t2+o(t2) 因此M ( t ) = 1 − a ( a − 1 ) − ( b + 1 ) b 2 ! ( b −a + 1 ) t − a ( a − 1 ) − (b + 1 ) b 2 ! ( b − a + 1 ) t 2 2 ! + ( b + 1 ) b ( b − 1 ) − a ( a − 1 ) ( a − 2 ) 3 ! ( b − a + 1 ) t 2 + o ( t 2 ) 因此M(t)=1-\frac{a(a-1)-(b+1)b}{2!(b-a+1)}t-\frac{a(a-1)-(b+1)b}{2!(b-a+1)}\frac{t^2}{2!}+\frac{(b+1)b(b-1)-a(a-1)(a-2)}{3!(b-a+1)}t^2+o(t^2) 因此M(t)=1−2!(b−a+1)a(a−1)−(b+1)bt−2!(b−a+1)a(a−1)−(b+1)b2!t2+3!(b−a+1)(b+1)b(b−1)−a(a−1)(a−2)t2+o(t2) 又因为M ( t ) = M ( 0 ) + M ′ ( 0 ) t + M ′ ′ ( 0 ) 2 ! t 2 + o ( t 2 ) 又因为M(t)=M(0)+M'(0)t+\frac{M''(0)}{2!}t^2+o(t^2) 又因为M(t)=M(0)+M′(0)t+2!M′′(0)t2+o(t2) 因此M ′ ( 0 ) = − a ( a − 1 ) − ( b + 1 ) b 2 ! ( b − a + 1 ) = a + b 2 因此M'(0)=-\frac{a(a-1)-(b+1)b}{2!(b-a+1)}=\frac{a+b}{2} 因此M′(0)=−2!(b−a+1)a(a−1)−(b+1)b=2a+b E X = M ′( 0 ) = a + b 2 EX=M'(0)=\frac{a+b}{2} EX=M′(0)=2a+b 而M ′ ′ ( 0 ) = 2 ! ∗ ( − a ( a − 1 ) − ( b +1 ) b 4 ( b − a + 1 ) + ( b + 1 ) b ( b − 1 ) − a ( a − 1 ) ( a −2 )3 ! ( b − a + 1 ) ) 而M''(0)=2!*(-\frac{a(a-1)-(b+1)b}{4(b-a+1)}+\frac{(b+1)b(b-1)-a(a-1)(a-2)}{3!(b-a+1)}) 而M′′(0)=2!∗(−4(b−a+1)a(a−1)−(b+1)b+3!(b−a+1)(b+1)b(b−1)−a(a−1)(a−2)) = a + b 2 + ( b + 1 − a ) ( b 2 + a b − b + a 2 − 2 a ) 3 ( b − a + 1 ) =\frac{a+b}{2}+\frac{(b+1-a)(b^2+ab-b+a^2-2a)}{3(b-a+1)} =2a+b+3(b−a+1)(b+1−a)(b2+ab−b+a2−2a) = a + b 2 + b 2 + a b − b + a 2 − 2 a 3=\frac{a+b}{2}+\frac{b^2+ab-b+a^2-2a}{3} =2a+b+3b2+ab−b+a2−2a = 2 a 2 + 2 b 2 + 2 a b + b − a 6 =\frac{2a^2+2b^2+2ab+b-a}{6} =62a2+2b2+2ab+b−a D X = E X 2 − ( E X ) 2 = M ′ ′ ( 0 ) − ( E X ) 2DX=EX^2-(EX)^2=M''(0)-(EX)^2DX=EX2−(EX)2=M′′(0)−(EX)2 = 2 a 2 + 2 b 2 + 2 a b + b − a 6 − a 2 + 2 a b + b 2 4=\frac{2a^2+2b^2+2ab+b-a}{6}-\frac{a^2+2ab+b^2}{4}=62a2+2b2+2ab+b−a−4a2+2ab+b2 = ( b − a + 1 ) 2 − 1 12 =\frac{(b-a+1)^2-1}{12} =12(b−a+1)2−12、伯努利分布/两点分布(Bernoulli distribution)若 X 服从伯努利分布 B ( 1 , p ) , 则 X 满足 P ( x = 1 ) = p , P ( x = 0 ) = 1 − p = q 若X服从伯努利分布B(1,p) ,则X满足P(x=1)=p, P(x=0)=1-p=q 若X服从伯努利分布B(1,p),则X满足P(x=1)=p,P(x=0)=1−p=q M ( t ) = p e t + 1 − p M(t)=pe^{t}+1-p M(t)=pet+1−p φ ( t ) = p e i t + 1 − p \varphi(t)=pe^{it}+1-pφ(t)=peit+1−p M ′ ( t ) = p e t M'(t)=pe^{t}M′(t)=pet E X = M ′ ( 0 ) = p EX=M'(0)=p EX=M′(0)=pM ′ ′ ( t ) = p e t M''(t)=pe^{t} M′′(t)=pet E X 2 = M ′ ′ ( 0 ) = p EX^{2}=M''(0)=p EX2=M′′(0)=p D X = E X 2 − ( E X ) 2 = p ( 1 − p ) DX=EX^{2}-(EX)^{2}=p(1-p) DX=EX2−(EX)2=p(1−p)3、二项分布(Binomial distribution)若 X 服从二项分布 B ( n , p ) , 则 X 满足 f ( k ; n , p ) = P ( x = k ) = C n k p k ( 1 − p ) n − k ( n 为整数 ) 若X服从二项分布B(n,p) ,则X满足f(k;n,p)=P(x=k)=C_{n}^{k}p^k(1-p)^{n-k} (n为整数) 若X 服从二项分布B(n,p),则X满足f(k;n,p)=P(x=k)=Cnkpk(1−p)n−k(n为整数) 因为服从二项分布的变量可以看作 n 个独立相同的服从伯努利分布的变量之和因为服从二项分布的变量可以看作n个独立相同的服从伯努利分布的变量之和因为服从二项分布的变量可以看作n个独立相同的服从伯努利分布的变量之和因此M ( t ) = ( p e t + 1 − p ) n 因此M(t)=(pe^{t}+1-p)^{n} 因此M(t)=(pet+1−p)n φ ( t ) = ( p e i t + 1 − p ) n \varphi(t)=(pe^{it}+1-p)^{n}φ(t)=(peit+1−p)n M ′ ( t ) = n p ( p e t + 1 − p ) n − 1 e t M'(t)=np(pe^{t}+1-p)^{n-1}e^{t}M′(t)=np(pet+1−p)n−1et E X = M ′ ( 0 ) = n pEX=M'(0)=np EX=M′(0)=np M ′ ′ ( t ) = n ( n − 1 )p 2 ( p e t + 1 − p ) n − 2 e 2 t + n p ( p e t + 1 − p ) n − 1 e t M''(t)=n(n-1)p^{2}(pe^{t}+1-p)^{n-2}e^{2t}+np(pe^{t}+1-p)^{n-1}e^{t}M′′(t)=n(n−1)p2(pet+1−p)n−2e2t+np(pet+1−p)n−1et E X 2 = M ′ ′ ( 0 ) = n ( n − 1 ) p 2 + n pEX^{2}=M''(0)=n(n-1)p^{2}+np EX2=M′′(0)=n(n−1)p2+npD X =E X 2 − ( E X ) 2 = n p ( 1 − p ) DX=EX^{2}-(EX)^{2}=np(1-p) DX=EX2−(EX)2=np(1−p)4、几何分布(Geometric distribution)若 X 服从几何分布 G e ( p ) , 则 X 满足 f ( k ; p ) = P ( x = k ) = ( 1 − p ) k − 1 p ( k = 1 , 2 , 3...... ) 若X服从几何分布Ge(p), 则X满足f(k;p)=P(x=k)=(1-p)^{k-1}p (k=1,2,3......) 若X服从几何分布Ge(p),则X满足f(k;p)=P(x=k)=(1−p)k−1p(k=1,2,3......) M ( t ) = ∑ k = 1 ∞ ( 1 − p ) k − 1 p e t kM(t)=\sum_{k=1}^{\infin}(1-p)^{k-1}pe^{tk}M(t)=k=1∑∞(1−p)k−1petk = p e t ∑ k = 1 ∞ ( ( 1 − p ) e t ) k − 1 =pe^{t}\sum_{k=1}^{\infin}((1-p)e^t)^{k-1} =petk=1∑∞((1−p)et)k−1 = p e t 1 −( 1 − p ) e t =\frac{pe^{t}}{1-(1-p)e^{t}}=1−(1−p)etpet φ ( t ) = ∑ k = 1 ∞ ( 1 − p ) k −1 p e i t k \varphi(t)=\sum_{k=1}^{\infin}(1-p)^{k-1}pe^{itk} φ(t)=k=1∑∞(1−p)k−1peitk = p e i t ∑ k = 1 ∞ ( ( 1 − p ) e i t ) k − 1=pe^{it}\sum_{k=1}^{\infin}((1-p)e^{it})^{k-1}=peitk=1∑∞((1−p)eit)k−1 = p e i t 1 − ( 1 − p ) e i t =\frac{pe^{it}}{1-(1-p)e^{it}} =1−(1−p)eitpeit M ′ ( t ) = p e t ( 1 − ( 1 − p ) e t ) 2M'(t)=\frac{pe^t}{(1-(1-p)e^t)^2}M′(t)=(1−(1−p)et)2pet E X = M ′ ( 0 ) = 1 pEX=M'(0)=\frac{1}{p} EX=M′(0)=p1 M ′ ′ ( t ) = p e t ( e t − p e t + 1 ) ( 1 − ( 1 − p ) e t ) 3M''(t)=\frac{pe^t(e^t-pe^t+1)}{(1-(1-p)e^t)^3}M′′(t)=(1−(1−p)et)3pet(et−pet+1) E X 2 = M ′ ′( 0 ) = 2 − p p 2 EX^{2}=M''(0)=\frac{2-p}{p^2}EX2=M′′(0)=p22−p D X = E X 2 − ( E X ) 2 = 1 − p p 2 DX=EX^{2}-(EX)^{2}=\frac{1-p}{p^2}DX=EX2−(EX)2=p21−p5、负二项分布(Negative binomial distribution)若 X 服从负二项分布 N B ( r , p ) , 则 X 满足 f ( k ; r , p ) = ( k + r − 1 k ) p k ( 1 − p ) r , k = 0 , 1 , 2 , 3...... 若X服从负二项分布NB(r,p), 则X满足f(k;r,p)=\binom{k+r-1}{k}p^{k}(1-p)^{r} ,k=0,1,2,3...... 若X服从负二项分布NB(r,p),则X满足f(k;r,p)=(kk+r−1)pk(1−p)r,k=0,1,2,3...... ( r 可以为实数,此时的分布称为波利亚分布 ) (r可以为实数,此时的分布称为波利亚分布) (r可以为实数,此时的分布称为波利亚分布) M ( t ) = ∑ k = 0 ∞ ( k +r − 1 k ) p k ( 1 − p ) r e t kM(t)=\sum_{k=0}^{\infin}\binom{k+r-1}{k}p^k(1-p)^re^{tk} M(t)=k=0∑∞(kk+r−1)pk(1−p)retk = ∑ k = 0 ∞ ( − 1 ) k ( − r k ) p k ( 1 − p ) r e t k=\sum_{k=0}^{\infin}(-1)^k\binom{-r}{k}p^k(1-p)^re^{tk} =k=0∑∞(−1)k(k−r)pk(1−p)retk = ∑ k = 0 ∞ ( − p e t ) k ( − r k ) ( 1 − p ) r =\sum_{k=0}^{\infin}(-pe^t)^k\binom{-r}{k}(1-p)^r =k=0∑∞(−pet)k(k−r)(1−p)r = ( 1 − p ) r ∑ k = 0 ∞ ( − p e t ) k( − r k ) 1 − r − k =(1-p)^r\sum_{k=0}^{\infin}(-pe^t)^k\binom{-r}{k}1^{-r-k} =(1−p)rk=0∑∞(−pet)k(k−r)1−r−k = ( 1 − p ) r ( 1 − p e t ) −r =(1-p)^r(1-pe^t)^{-r} =(1−p)r(1−pet)−r φ ( t ) = ∑ k = 0 ∞ ( k + r − 1 k ) p k ( 1 − p ) r e i t k \varphi(t)=\sum_{k=0}^{\infin}\binom{k+r-1}{k}p^k(1-p)^re^{itk} φ(t)=k=0∑∞(kk+r−1)pk(1−p)reitk = ∑ k = 0 ∞ ( − 1 ) k ( − r k ) p k ( 1 − p ) r e i t k =\sum_{k=0}^{\infin}(-1)^k\binom{-r}{k}p^k(1-p)^re^{itk} =k=0∑∞(−1)k(k−r)pk(1−p)reitk = ∑ k = 0 ∞ ( − p e i t ) k ( − r k ) ( 1 − p ) r=\sum_{k=0}^{\infin}(-pe^{it})^k\binom{-r}{k}(1-p)^r=k=0∑∞(−peit)k(k−r)(1−p)r = ( 1 − p ) r ∑ k = 0 ∞ ( − p e i t ) k ( − r k ) 1 − r − k =(1-p)^r\sum_{k=0}^{\infin}(-pe^{it})^k\binom{-r}{k}1^{-r-k} =(1−p)rk=0∑∞(−peit)k(k−r)1−r−k = ( 1 − p ) r ( 1 − p e i t ) − r =(1-p)^r(1-pe^{it})^{-r}=(1−p)r(1−peit)−r M ′ ( t ) = ( 1 − p ) r ( − r ) ( 1 − p e t ) − r − 1 ( − p e t ) M'(t)=(1-p)^r(-r)(1-pe^{t})^{-r-1}(-pe^t)M′(t)=(1−p)r(−r)(1−pet)−r−1(−pet) = r p ( 1 −p ) r e t ( 1 − p e t ) − r − 1 =rp(1-p)^re^t(1-pe^t)^{-r-1} =rp(1−p)ret(1−pet)−r−1 E X = M ′( 0 ) = r p 1 − p EX=M'(0)=\frac{rp}{1-p}EX=M′(0)=1−prp M ′ ′ ( t ) = r p ( 1 − p ) r e t ( 1 − p e t ) − r − 1 + r p ( 1 − p ) r e t ( − r − 1 ) ( 1 − p e t ) − r − 2 ( − p e t )M''(t)=rp(1-p)^re^t(1-pe^t)^{-r-1}+rp(1-p)^re^t(-r-1)(1-pe^t)^{-r-2}(-pe^t)M′′(t)=rp(1−p)ret(1−pet)−r−1+rp(1−p)ret(−r−1) (1−pet)−r−2(−pet) E X 2 = r p ( 1 − p ) − 1 + r ( r + 1 ) p 2 ( 1 − p ) − 2 EX^2=rp(1-p)^{-1}+r(r+1)p^2(1-p)^{-2}EX2=rp(1−p)−1+r(r+1)p2(1−p)−2 = r p ( 1 − p ) + r ( r + 1 ) p 2 ( 1 − p ) 2 =\frac{rp(1-p)+r(r+1)p^2}{(1-p)^2} =(1−p)2rp(1−p)+r(r+1)p2 = r p + r 2 p 2 ( 1 − p ) 2 =\frac{rp+r^2p^2}{(1-p)^2}=(1−p)2rp+r2p2 D X = E X 2 − ( E X ) 2 = p r ( 1 −p ) 2 DX=EX^2-(EX)^2=\frac{pr}{(1-p)^2}DX=EX2−(EX)2=(1−p)2pr6、泊松分布(Poisson distribution)若 X 服从泊松分布P ( λ ) , 则 P ( X = k ) = e− λ λ k k ! , k = 0 , 1 , 2...... 若X服从泊松分布P(\lambda),则P(X=k)=\frac{e^{-\lambda}\lambda^k}{k!},k=0,1,2...... 若X服从泊松分布P(λ),则P(X=k)=k!e−λλk,k=0,1,2...... M ( t ) = ∑k = 0 ∞ e − λ λ k k ! e t kM(t)=\sum_{k=0}^{\infin}\frac{e^{-\lambda}\lambda^k}{k!}e^{tk} M(t)=k=0∑∞k!e−λλketk = e − λ ∑ k = 0 ∞ ( λ e t ) k k ! =e^{-\lambda}\sum_{k=0}^{\infin}\frac{(\lambda e^t)^k}{k!} =e−λk=0∑∞k!(λe t)k = e − λ e λ e t =e^{-\lambda}e^{\lambda e^t} =e−λeλet= e λ ( e t − 1 ) =e^{\lambda (e^t-1)} =eλ(et−1) φ ( t ) = ∑ k = 0∞ e − λ λ k k ! e i t k\varphi(t)=\sum_{k=0}^{\infin}\frac{e^{-\lambda}\lambda^k}{k!}e^{itk} φ(t)=k=0∑∞k!e−λλk eitk = e − λ ∑ k = 0 ∞ ( λ e i t ) k k ! =e^{-\lambda}\sum_{k=0}^{\infin}\frac{(\lambdae^{it})^k}{k!} =e−λk=0∑∞k!(λe it)k = e − λ e λ e i t =e^{-\lambda}e^{\lambda e^{it}} =e−λeλeit = e λ ( e i t − 1 ) =e^{\lambda (e^{it}-1)} =eλ(eit−1) M ′ ( t ) = e λ ( e t − 1 ) λ e t M'(t)=e^{\lambda (e^t-1)}\lambda e^t M′(t)=eλ(et−1)λe t E X = M ′ ( 0 ) = λ EX=M'(0)=\lambda EX=M′(0)=λM ′ ′ ( t ) = e λ ( e t − 1 ) λ e t + e λ ( e t − 1 ) λ e tλ e t M''(t)=e^{\lambda (e^t-1)}\lambdae^t+e^{\lambda (e^t-1)}\lambda e^t\lambda e^tM′′(t)=eλ(et−1)λe t+eλ(et−1)λe tλe t E X 2 =M ′ ′ ( 0 ) = λ + λ 2EX^2=M''(0)=\lambda+\lambda^2 EX2=M′′(0)=λ+λ2 D X = E X 2 − ( E X ) 2 = λ DX=EX^2-(EX)^2=\lambdaDX=EX2−(EX)2=λ三、连续型随机变量的分布1、连续型均匀分布(Uniform distribution (continuous))若 X 服从连续型均匀分布 U ( a , b ) , 则 f( x ) = 1 b − a I [ a , b ] ( x ) 若X服从连续型均匀分布U(a,b),则f(x)=\frac{1}{b-a}I_{[a,b]}(x) 若X服从连续型均匀分布U(a,b),则f(x)=b−a1I[a,b](x) M ( t ) = ∫ a b 1 b − a e t x d x M(t)=\int_{a}^{b}\frac{1}{b-a}e^{tx}dx M(t)=∫abb−a1etxdx = 1 b − a ∫ a b e t x d x =\frac{1}{b-a}\int_{a}^{b}e^{tx}dx =b−a1∫abetxdx = 1 b − a ( 1 t e t x ∣ a b ) =\frac{1}{b-a}(\frac{1}{t}e^{tx}\mid_{a}^{b}) =b−a1(t1etx∣ab) = e t b − e t a t ( b − a ) =\frac{e^{tb}-e^{ta}}{t(b-a)} =t(b−a)etb−eta φ ( t ) = ∫ a b 1 b − a e i t x d x \varphi(t)=\int_{a}^{b}\frac{1}{b-a}e^{itx}dxφ(t)=∫abb−a1eitxdx = 1 b − a ∫ a b e i t x d x=\frac{1}{b-a}\int_{a}^{b}e^{itx}dx =b−a1∫abeitxdx = 1 b − a ( 1 i t e i t x ∣ a b ) =\frac{1}{b-a}(\frac{1}{it}e^{itx}\mid_{a}^{b}) =b−a1(it1eitx∣ab) = e i t b − e i t a i t ( b − a ) =\frac{e^{itb}-e^{ita}}{it(b-a)} =it(b−a)eitb−eita M ′ ( t ) = 1 b − a ( b e t b − a e t a ) t − ( e t b − e t a ) t 2 M'(t)=\frac{1}{b-a}\frac{(be^{tb}-ae^{ta})t-(e^{tb}-e^{ta})}{t^2} M′(t)=b−a1t2(betb−aeta)t−(etb−eta) t = 0 为M ′ ( t ) 的可去间断点,补充定义M ′ ( 0 ) = lim t → 0 M ′ ( t ) t=0为M'(t)的可去间断点,补充定义M'(0)=\lim_{t\rightarrow0}M'(t) t=0为M′(t)的可去间断点,补充定义M′(0)=t→0limM′(t) E X = M ′ ( 0 ) = lim t → 0 ( b e t b − a e t a ) + ( b 2 e t b − a 2 e t a ) t − ( b e t b − a e ta ) 2 t (b − a )EX=M'(0)=\lim_{t\rightarrow0}\frac{(be^{tb}-ae^{ta})+(b^2e^{tb}-a^2e^{ta})t-(be^{tb}-ae^{ta})}{2t(b-a)} EX=M′(0)=t→0lim2t(b−a)(betb−aeta)+(b2etb−a2eta)t−(betb−aeta) = lim t → 0 ( b 2 e t b − a 2 e t a ) 2 ( b − a ) =\lim_{t\rightarrow0}\frac{(b^2e^{tb}-a^2e^{ta})}{2(b-a)} =t→0lim2(b−a)(b2etb−a2eta) = b 2 − a 2 2 ( b − a ) =\frac{b^2-a^2}{2(b-a)} =2(b−a)b2−a2 = a + b 2 =\frac{a+b}{2} =2a+b M ′ ′ ( t ) = 1 b − a ( ( b 2 e t b − a 2 e t a ) t + ( b e t b − a e t a ) −( b e t b − a e t a ) ) t − 2 ( ( b e t b − a e ta ) t − ( e tb − e t a ) ) t 3 M''(t)=\frac{1}{b-a}\frac{((b^2e^{tb}-a^2e^{ta})t+(be^{tb}-ae^{ta})-(be^{tb}-ae^{ta}))t-2((be^{tb}-ae^{ta})t-(e^{tb}-e^{ta}))}{t^3} M′′(t)=b−a1t3((b2etb−a2eta)t+(betb−aeta)−(betb−aeta))t−2((be tb−aeta)t−(etb−eta)) = 1 b − a t 2 ( b 2 e t b −a 2 e t a ) − 2 t (b e t b − a e t a ) + 2 ( e t b − e t a ) t 3 =\frac{1}{b-a}\frac{t^2(b^2e^{tb}-a^2e^{ta})-2t(be^{tb}-ae^{ta})+2(e^{tb}-e^{ta})}{t^3} =b−a1t3t2(b2etb−a2eta)−2t(betb−aeta)+2(etb−eta) t = 0 为M ′ ′ ( t ) 的可去间断点,补充定义M ′ ′ ( 0 ) = lim t → 0 M ′ ′ ( t ) t=0为M''(t)的可去间断点,补充定义M''(0)=\lim_{t\rightarrow0}M''(t) t=0为M′′(t)的可去间断点,补充定义M′′(0)=t→0limM′′(t) E X 2 =M ′ ′ ( 0 ) = lim t → 0 1 b − a t 2 ( b 3 e t b − a 3 e t a ) + 2 t ( b 2 e t b − a 2 e t a ) − 2 t ( b 2 e t b − a 2 e t a ) − 2 ( b e t b − a e t a ) + 2 ( b e t b − a e t a ) 3 t 2EX^2=M''(0)=\lim_{t\rightarrow0}\frac{1}{b-a}\frac{t^2(b^3e^{tb}-a^3e^{ta})+2t(b^2e^{tb}-a^2e^{ta})-2t(b^2e^{tb}-a^2e^{ta})-2(be^{tb}-ae^{ta})+2(be^{tb}-ae^{ta})}{3t^2}EX2=M′′(0)=t→0limb−a13t2t2(b3etb−a3eta)+2t(b2etb−a2eta)−2t(b2etb−a2eta)−2(betb−aeta)+2(betb−aeta) = 1 b − a lim t → 0 t 2 ( b 3 e t b − a 3 e t a ) 3 t 2 =\frac{1}{b-a}\lim_{t\rightarrow0}\frac{t^2(b^3e^{tb}-a^3e^{ta})}{3t^2} =b−a1t→0lim3t2t2(b3etb−a3eta) = 1 b − a lim t → 0 ( b 3 e t b − a 3 e t a ) 3=\frac{1}{b-a}\lim_{t\rightarrow0}\frac{(b^3e^{tb}-a^3e^{ta})}{3} =b−a1t→0lim3(b3etb−a3eta) = 1 b − a ( b 3 − a 3 ) 3 =\frac{1}{b-a}\frac{(b^3-a^3)}{3}=b−a13(b3−a3) = b 2 + a b + a 2 3=\frac{b^2+ab+a^2}{3} =3b2+ab+a2 D X = E X 2 − ( E X ) 2 = ( b − a ) 2 12 DX=EX^2-(EX)^2=\frac{(b-a)^2}{12} DX=EX2−(EX)2=12(b−a)22、指数分布(Exponential distribution)若 X 服从指数分布 E ( λ ) ,则 f ( x ) = λ e− λ x I [ 0 , + ∞ ) ( x ) 若X服从指数分布E(\lambda),则f(x)=\lambda e^{-\lambdax}I_{[0,+\infin)}(x) 若X服从指数分布E(λ),则f(x)=λe−λx I[0,+∞)(x) M ( t ) = ∫ 0 + ∞ λ e −λ x e t x d x M(t)=\int_{0}^{+\infin} \lambda e^{-\lambda x}e^{tx}dx M(t)=∫0+∞λe−λx etxdx = λ ∫ 0 + ∞ e ( t − λ ) x d x =\lambda \int_{0}^{+\infin} e^{(t-\lambda)x}dx =λ∫0+∞e(t−λ)xdx = λ t − λ ( e ( t − λ ) x ∣ 0 + ∞ ) =\frac{\lambda}{t-\lambda}(e^{(t-\lambda)x}\mid_{0}^{+\infin}) =t−λλ(e(t−λ)x∣0+∞) t < λ 时,M ( t ) = λ t − λ ( 0 − 1 ) t<\lambda时,M(t)=\frac{\lambda}{t-\lambda}(0-1) t<λ时,M(t)=t−λλ(0−1) = λ λ − t =\frac{\lambda}{\lambda-t} =λ−tλφ ( t ) = λ λ − i t \varphi(t)=\frac{\lambda}{\lambda-it}φ(t)=λ−itλM ′ ( t ) = λ ( λ − t ) 2M'(t)=\frac{\lambda}{(\lambda-t)^2} M′(t)=(λ−t)2λE X = M ′ ( 0 ) = 1 λ EX=M'(0)=\frac{1}{\lambda}EX=M′(0)=λ1 M ′ ′ ( t ) = 2 λ ( λ − t ) 3M''(t)=\frac{2\lambda}{(\lambda-t)^3}M′′(t)=(λ−t)32λ E X 2 = M ′ ′ ( 0 ) = 2 λ 2 EX^2=M''(0)=\frac{2}{\lambda^2} EX2=M′′(0)=λ22 D X = E X 2 − ( E X ) 2 = 1 λ 2 DX=EX^2-(EX)^2=\frac{1}{\lambda^2} DX=EX2−(EX)2=λ213、正态分布(Normal distribution)若 X 服从正态分布N ( μ , σ 2 ) , 则 f ( x ) = 1 2 π σ e − ( x − μ ) 2 2 σ 2 若X服从正态分布N(\mu,\sigma^2),则f(x)=\frac{1}{\sqrt{2\pi}\sigma}e^{-\frac{(x-\mu)^2}{2\sigma^2}} 若X服从正态分布N(μ,σ2),则f(x)=2πσ1e−2σ2(x−μ)2 引理 1 :∫ − ∞ + ∞ e − t 2 2 d t = 2 π 引理1:\int_{-\infin}^{+\infin}e^{-\frac{t^2}{2}}dt=\sqrt{2\pi} 引理1:∫−∞+∞e−2t2dt=2π证明:( ∫ − ∞ + ∞ e − t 2 2 d t ) 2 = ∫ − ∞ + ∞ ∫ − ∞ + ∞ e − x 2 + y 2 2 d x d y 证明:(\int_{-\infin}^{+\infin}e^{-\frac{t^2}{2}}dt)^2=\int_{-\infin}^{+\infin}\int_{-\infin}^{+\infin}e^{-\frac{x^2+y^2}{2}}dxdy 证明:(∫−∞+∞e−2t2dt)2=∫−∞+∞∫−∞+∞e−2x2+y2dxdy = ∫ 0 2 π d θ ∫ 0 + ∞ e − r 2 2 r d r=\int_{0}^{2\pi}d\theta \int_{0}^{+\infin}e^{-\frac{r^2}{2}}rdr =∫02πdθ∫0+∞e−2r2rdr = 2 π ∫ 0 + ∞ e − r 2 2 r d r =2\pi \int_{0}^{+\infin}e^{-\frac{r^2}{2}}rdr =2π∫0+∞e−2r2rdr = 2 π ( − e −r 2 2 ∣0 + ∞ ) =2\pi (-e^{-\frac{r^2}{2}}\mid_{0}^{+\infin}) =2π(−e−2r2∣0+∞) = 2 π =2\pi =2π因此∫ − ∞ + ∞ e − t 2 2 d t = 2 π 因此\int_{-\infin}^{+\infin}e^{-\frac{t^2}{2}}dt=\sqrt{2\pi} 因此∫−∞+∞e−2t2dt=2πM ( t ) = ∫ − ∞ + ∞ 1 2 π σ e − ( x − μ ) 2 2 σ 2 e t x d x M(t)=\int_{-\infin}^{+\infin}\frac{1}{\sqrt{2\pi}\sigma}e^{-\frac{(x-\mu)^2}{2\sigma^2}}e^{tx}dx M(t)=∫−∞+∞2πσ1e−2σ2(x−μ)2etxdx = 1 2 π σ ∫ − ∞ + ∞ e −( x − μ ) 2 2 σ 2 + t x d x=\frac{1}{\sqrt{2\pi}\sigma}\int_{-\infin}^{+\infin}e^{-\frac{(x-\mu)^2}{2\sigma^2}+tx}dx =2πσ1∫−∞+∞e−2σ2(x−μ)2+txdx 令 w = x − μ σ 令w=\frac{x-\mu}{\sigma} 令w=σx−μ原式= 1 2 π ∫ − ∞ + ∞ e − w 2 2 + t ( w σ + μ ) d w 原式=\frac{1}{\sqrt{2\pi}}\int_{-\infin}^{+\infin}e^{-\frac{w^2}{2}+t(w\sigma+\mu)}dw 原式=2π1∫−∞+∞e−2w2+t(wσ+μ)dw = e μ t 1 2 π ∫ − ∞ + ∞ e − w 2 2 + t σ w d w =e^{\mut}\frac{1}{\sqrt{2\pi}}\int_{-\infin}^{+\infin}e^{-\frac{w^2}{2}+t\sigma w}dw=eμt2π1∫−∞+∞e−2w2+tσw dw = e μ t 1 2 π ∫ − ∞ + ∞ e − ( w − t σ ) 2 − t 2 σ 2 2 d w =e^{\mut}\frac{1}{\sqrt{2\pi}}\int_{-\infin}^{+\infin}e^{-\frac{(w-t\sigma)^2-t^2\sigma^2}{2}}dw=eμt2π1∫−∞+∞e−2(w−tσ)2−t2σ2dw = e μ t + t 2 σ 2 2 1 2 π ∫ − ∞ + ∞ e − ( w − t σ ) 2 2 d w=e^{\mut+\frac{t^2\sigma^2}{2}}\frac{1}{\sqrt{2\pi}}\int_{-\infin}^{+\infin}e^{-\frac{(w-t\sigma)^2}{2}}dw=eμt+2t2σ22π1∫−∞+∞e−2(w−tσ)2dw = e μ t + t 2 σ 2 2 1 2 π 2 π =e^{\mut+\frac{t^2\sigma^2}{2}}\frac{1}{\sqrt{2\pi}}\sqrt{2\p i} =eμt+2t2σ22π12π= e μ t + t 2 σ 2 2 =e^{\mu t+\frac{t^2\sigma^2}{2}} =eμt+2t2σ2 φ ( t ) = ∫ − ∞ + ∞ 1 2 π σ e −( x − μ ) 2 2 σ 2 e i t x d x \varphi(t)=\int_{-\infin}^{+\infin}\frac{1}{\sqrt{2\pi}\sigma}e^{-\frac{(x-\mu)^2}{2\sigma^2}}e^{itx}dx φ(t)=∫−∞+∞2πσ1e−2σ2(x−μ)2eitxdx = 1 2 π σ ∫ − ∞ + ∞ e − ( x − μ ) 2 2 σ 2 + i t x d x=\frac{1}{\sqrt{2\pi}\sigma}\int_{-\infin}^{+\infin}e^{-\frac{(x-\mu)^2}{2\sigma^2}+itx}dx=2πσ1∫−∞+∞e−2σ2(x−μ)2+itxdx 令 w = x − μ σ 令w=\frac{x-\mu}{\sigma} 令w=σx−μ原式= 1 2 π ∫ − ∞ + ∞ e − w 2 2 + i t ( w σ + μ ) d w 原式=\frac{1}{\sqrt{2\pi}}\int_{-\infin}^{+\infin}e^{-\frac{w^2}{2}+it(w\sigma+\mu)}dw 原式=2π1∫−∞+∞e−2w2+it(wσ+μ)dw = e i μ t 1 2 π ∫ −∞ + ∞ e − w 2 2 + i t σ w d w =e^{i\mut}\frac{1}{\sqrt{2\pi}}\int_{-\infin}^{+\infin}e^{-\frac{w^2}{2}+it\sigma w}dw=e iμt2π1∫−∞+∞e−2w2+itσw dw = e i μ t 1 2 π ∫ − ∞ + ∞ e − ( w − i t σ ) 2 + t 2 σ 2 2 d w =e^{i\mut}\frac{1}{\sqrt{2\pi}}\int_{-\infin}^{+\infin}e^{-\frac{(w-it\sigma)^2+t^2\sigma^2}{2}}dw=e iμt2π1∫−∞+∞e−2(w−itσ)2+t2σ2dw = e i μ t − t 2 σ 2 2 1 2 π ∫ − ∞ + ∞ e − ( w − i t σ ) 2 2 d w =e^{i\mu t-\frac{t^2\sigma^2}{2}}\frac{1}{\sqrt{2\pi}}\int_{-\infin}^{+\infin}e^{-\frac{(w-it\sigma)^2}{2}}dw=e iμt−2t2σ22π1∫−∞+∞e−2(w−itσ)2dw = e i μ t − t 2 σ 2 2 12 π 2 π =e^{i\mu t-\frac{t^2\sigma^2}{2}}\frac{1}{\sqrt{2\pi}}\sqrt{2\pi} =e iμt−2t2σ22π12π= e i μ t − t 2 σ 2 2 =e^{i\mu t-\frac{t^2\sigma^2}{2}} =e iμt−2t2σ2 M ′ ( t ) = eμ t + t 2 σ 2 2 ( μ + σ 2 t ) M'(t)=e^{\mut+\frac{t^2\sigma^2}{2}}(\mu+\sigma^2t)M′(t)=eμt+2t2σ2(μ+σ2t) E X = M ′ ( 0 ) = μEX=M'(0)=\mu EX=M′(0)=μM ′ ′ ( t ) = e μ t + t 2 σ 2 2 ( μ + σ 2 t ) 2 + e μ t + t 2 σ 2 2 σ 2M''(t)=e^{\mut+\frac{t^2\sigma^2}{2}}(\mu+\sigma^2t)^2+e^{\mut+\frac{t^2\sigma^2}{2}}\sigma^2 M′′(t)=eμt+2t2σ2 (μ+σ2t)2+eμt+2t2σ2σ2 E X 2 = M ′ ′ ( 0 ) = μ 2 + σ 2 EX^2=M''(0)=\mu^2+\sigma^2 EX2=M′′(0)=μ2+σ2 D X = E X 2 − ( E X ) 2 = σ 2 DX=EX^2-(EX)^2=\sigma^2 DX=EX2−(EX)2=σ2 特别地 , X 服从标准正态分布 N ( 0 , 1 ) 时特别地,X服从标准正态分布N(0,1)时特别地,X服从标准正态分布N(0,1)时 M ( t )= e t 2 2 M(t)=e^{\frac{t^2}{2}} M(t)=e2t2 φ ( t ) = e − t 2 2 \varphi(t)=e^{-\frac{t^2}{2}} φ(t)=e−2t2 E X = 0 , D X = 1 EX=0,DX=1 EX=0,DX=14、伽马分布(Gamma distribution)若 X 服从伽马分布Γ ( α , β ) ( α , β > 0 ) , 则 f ( x ) = β α Γ ( α ) x α − 1 e − β x I( 0 , + ∞ ) ( x ) 若X服从伽马分布\Gamma(\alpha,\beta)(\alpha,\beta>0),则f(x)=\frac{\beta^\alpha}{\Gamma(\alpha)}x^{\alpha-1}e^{-\beta x}I_{(0,+\infin)}(x) 若X服从伽马分布Γ(α,β)(α,β>0),则f(x)=Γ(α)βαxα−1e−βx I(0,+∞)(x) 其中,Γ ( α ) = ∫ 0 + ∞ t α − 1 e − t d t , α > 0 其中,\Gamma(\alpha)=\int_{0}^{+\infin}t^{\alpha-1}e^{-t}dt,\alpha>0 其中,Γ(α)=∫0+∞tα−1e−tdt,α>0 指数分布 E ( λ ) 是伽马分布Γ ( 1 , λ ) , χ 2 分布χ n 2 是伽马分布Γ ( n 2 , 1 2 ) 指数分布E(\lambda)是伽马分布\Gamma(1,\lambda),\chi^2分布\chi^2_n是伽马分布\Gamma(\frac{n}{2},\frac{1}{2}) 指数分布E(λ)是伽马分布Γ(1,λ),χ2分布χn2是伽马分布Γ(2n,21) M ( t ) = ∫ 0 + ∞ β α Γ ( α ) x α −1 e − β x e t x d xM(t)=\int_{0}^{+\infin}\frac{\beta^\alpha}{\Gamma(\alp ha)}x^{\alpha-1}e^{-\beta x}e^{tx}dx M(t)=∫0+∞Γ(α)βαxα−1e−βx etxdx = ∫ 0 + ∞ β α Γ ( α ) x α − 1 e ( t − β ) x d x=\int_{0}^{+\infin}\frac{\beta^\alpha}{\Gamma(\alpha)} x^{\alpha-1}e^{(t-\beta) x}dx =∫0+∞Γ(α)βαxα−1e(t−β)xdx = β α ∫ 0 + ∞ 1 Γ ( α ) x α− 1 e ( t − β ) x d x=\beta^\alpha\int_{0}^{+\infin}\frac{1}{\Gamma(\alpha) }x^{\alpha-1}e^{(t-\beta) x}dx =βα∫0+∞Γ(α)1xα−1e(t−β)xdx t < β 时,令v = ( β − t ) x ,原式= β α β − t ∫ 0 + ∞ 1 Γ ( α ) ( v β −t ) α − 1 e − v d v t<\beta时,令v=(\beta-t)x,原式=\frac{\beta^\alpha}{\beta-t}\int_{0}^{+\infin}\frac{1}{\Gamma(\alpha)}(\frac{v}{ \beta-t})^{\alpha-1}e^{-v}dv t<β时,令v=(β−t)x,原式=β−tβα∫0+∞Γ(α)1(β−tv)α−1e−vdv = ( β β − t ) α 1 Γ ( α ) ∫ 0 + ∞ v α − 1 e − v d v =(\frac{\beta}{\beta-t})^\alpha\frac{1}{\Gamma(\alpha)}\int_{0}^{+\infin}v^ {\alpha-1}e^{-v}dv =(β−tβ)αΓ(α)1∫0+∞vα−1e−vdv = ( β β − t ) α 1 Γ ( α ) Γ ( α ) =(\frac{\beta}{\beta-t})^\alpha\frac{1}{\Gamma(\alpha)}\Gamma(\alpha)=(β−tβ)αΓ(α)1Γ(α) = ( β β − t ) α=(\frac{\beta}{\beta-t})^\alpha =(β−tβ)αφ ( t ) = ( β β − i t ) α \varphi(t)=(\frac{\beta}{\beta-it})^\alpha φ(t)=(β−itβ)αM ′ ( t ) = β α ( β − t ) − α − 1 α M'(t)=\beta^\alpha(\beta-t)^{-\alpha-1}\alpha M′(t)=βα(β−t)−α−1α E X = M ′ ( 0 ) = α β EX=M'(0)=\frac{\alpha}{\beta}EX=M′(0)=βαM ′ ′ ( t ) = β α ( β − t ) − α − 2 α ( α + 1 ) M''(t)=\beta^\alpha(\beta-t)^{-\alpha-2}\alpha(\alpha+1)M′′(t)=βα(β−t)−α−2α(α+1) E X 2 = α ( α + 1 ) β 2 EX^2=\frac{\alpha(\alpha+1)}{\beta^2}EX2=β2α(α+1) D X = E X 2 − ( E X ) 2 = α β 2。
北大随机过程课件:第 3 章 第 6 讲 特征函数与母函数
特征函数、母函数、矩母函数确定随机变量的概率密度函数/分布律 方便求解独立随机变量和的分布函数一类问题可以通过微分运算求随机变量的数字特征1.特征函数:设随机变量ξ的分布函数为F(x), 概率密度函数为f(x), 称:(){}()()jt jtx jtx t E e e dF x e f x dx ξ∞∞−∞−∞Φ===∫∫ 为随机变量ξ的分布函数的特征函数,或ξ的特征函数,特征函数是概率密度函数的付氏变换。
特征函数的性质:1.特征函数与概率密度函数相互唯一地确定;2.两个相互统计独立的随机变量和的特征函数等于各个随机变量特征函数的积;3.特征函数与随机变量的数字特征的关系:()0()|{}k k k t t j E ξ=Φ=典型随机变量的特征函数1. 两点分布的特征函数:()jt t q pe Φ=+2. 二项式分布的特征函数:()()n jt t q pe Φ=+3. 几何分布:()1jtjtpe t qe Φ=− 4. 泊松分布(λ):(1)()jt e t eλ−−Φ= 5. 正态分布2(,)N σ∂:22()exp{}2t t j t σΦ=∂−6. 均匀分布[0,1]:1()jt e t jt−Φ= 7. 负指数分布:()t jtλλΦ=−2.母函数研究分析非负整值随机变量时,可以采用母函数法:对于一个取非负整数值n=0,1,2,……,的随机变量x ,,其相应的矩生成函数定义为: 0()()n n z p x n z ∞=Φ==⋅∑(1/)z Φ是序列()p x n =的正常的z 变换母函数的性质:1. 两个相互统计独立的随机变量和的母函数等于各个随机变量的母函数的积。
2. 随机个独立同分布的非负整值随机变量和的矩生成函数是原来两个母函数的复合(见附合泊松过程的应用)3.()000(),()!1,2,k k z z z p z k p k ==Φ=Φ=="通过母函数有理分式的幂级数展开等方法,得到随机变量的概率分布表达式。
特征函数和矩母函数解剖
{N
l}s
k
k0
l 0
P{Y k, N l}sk k0 l0
P{Y k}P{N l}sk k0 l0
P{N l} P{Y k}sk
l 0
k 0
l P{N l} P
X
j
k
s
k
l0
k 0
j 1
l0
P{N
l}
l j 1
k 0
P{
X
j
k}s
k
则称
P(s) E(s X ) pk sk
k 0
为X的母函数。
性质:
(1)非负整数值随机变量的分布律pk由其母 函数P(s)唯一确定
pk
P (k) (0) ,
k!
k
0,1,2,
(2)设P(s)是X的母函数,
若EX存在,则EX=P(1)
若DX存在,则DX= P(1) +P(1)- [P(1)]2
P(s) k(k 1) pk sk1 k2
P(1) k(k 1) pk k(k 1) pk
k2
k 1
k 2 pk kpk EX 2 EX
k 1
k 1
DX EX 2 (EX )2 P(1) EX (EX )2
P(1) P(1) [P(1)]2
(3) 设离散型非负整数随机变量X,Y的分布律
例1 设随机变量X服从参数为 的泊松分布,
求X的特征函数。
解
由于
P(X
k)
k
k!e
所以
X (t) eitk k 0
k
k!e
e
k 0
(eit ) k
k!
麦克劳林公式
e eeit e (eit 1)
特征函数与矩母函数
特征函数与矩母函数
特征函数和矩母函数都是数学中的概念,主要用于描述随机变量的性质。
特征函数(Characteristic function)是随机变量的一个描述函数,它是随机变量的概率分布的Fourier变换。
特征函数的定
义是:对于任意实数t,特征函数φ(t)等于随机变量X的概率
密度函数或概率分布函数的Fourier变换。
特征函数能够完全
描述一个随机变量的分布,它包含了分布的所有信息。
特征函数具有一些重要性质,比如对于相互独立的随机变量,它们的特征函数的乘积等于它们特征函数的逐点相乘。
矩母函数(Moment generating function)是随机变量的另一个
描述函数,它是随机变量的概率分布的矩级数的生成函数。
矩母函数的定义是:对于任意实数t,矩母函数M(t)等于随机变
量X的概率密度函数或概率分布函数的矩级数的生成函数。
矩母函数可以用来计算随机变量的各阶矩(均值、方差等),因此可以用于推导随机变量的性质。
特征函数和矩母函数都是对随机变量的描述函数,它们在概率论和统计学中有着广泛的应用,比如用于计算随机变量的分布、矩以及推导各种统计性质。
1.2.3特征函数与矩函数的关系
若n个高斯变量的数学期望均为零, 称Y为中心 2分布.
Y的概率密度为:
fY ( y )
1 (2 ) (n 2)
2 n2
y
y n 1 2 2 2
e
y0
15
fY ( y )
1 (2 ) (n 2)
2 n2
x 1 t
y
y n 1 2 2 2
e
y0
( x ) t
d X ( ) E[ X ] j d 0
d n X ( ) n n n f ( x )( jx ) dx j E [ X ] X n d 0
n阶原点矩
说明矩函数可由特征函数唯一地确定
2
1 f ( x) f ( x0 ) f ' ( x0 )(x x0 ) f ' ' ( x0 )(x x0 ) 2 2 1 (n) 泰勒级数 f ( x0 )(x x0 ) n x 0 n!
cn 0
(n 2)
数学期望为零的高斯变量的前 三阶矩与相应阶的累积量相同
6
1.3 随机信号实用分布律
一、均匀分布
如果随机变量 X的概率密度满足 1 a xb f X ( x) b a 其它 0 则称X为在[a, b]区间内均匀分布 的随机变量 .
概率密度
7
概率密度
d X ( ) f X ( x)( jx) dx jE[ X ] d 0
数学期望或 一阶原点矩
1
d n X ( ) n jx f ( x )( jx ) e dx X n d
d X ( ) jE[ X ] d 0
n d X ( ) n n E[ X ] ( j ) d n 0
特征函数和矩母函数课件
特征函数和矩母函数课件
什么是特征函数?
特征函数是一种连续变量,用来表示给定概率分布的连续特征。
它们借助独特的函数结构来帮助理解该分布的性质。
一般情况下,特征函数被定义为概率密度函数的积分或积分的产物,其中使用的是一组实数序列λ1,λ2,...,λn,称为参数。
它也可以考虑为对概率密度函数的一种广义函数格式的描述。
矩母函数是一种特征函数,用于根据一定的参数描述和控制一组数据的变化模式。
它也被称为矩函数或越积函数,其基本定义为一个有限个参数的多项式,由此引出一组非负实数。
矩母函数拥有独特的性质和拓扑表示,对概率密度函数进行信息可视化具有重要意义。
它也常用于表示一个系统中细胞的状态等普遍现象。
现代精算风险理论01:损失分布
现代精算风险理论01:损失分布⽬录第⼀讲 损失分布第⼀节 随机变量的数字特征⼀、特征函数和矩母函数特征函数和矩母函数是对分布函数的变换,常⽤于确定独⽴随机变量之和的分布。
特征函数:对于随机变量 X ,其分布函数为 F (x ) ,其特征函数的定义为:ϕX (t )=E e i tX .定理:分布函数序列 F n (x ) 收敛于分布函数 F (x ) 的充分必要条件是 F n (x ) 的特征函数 ϕn (t ) 收敛于 F (x ) 的特征函数 ϕ(t ) 。
矩母函数:对于随机变量 X ,其分布函数为 F (x ) ,其矩母函数的定义为:m X (t )=E e tX .矩母函数⼀般要求 t >0 ,并且 t 的取值范围和参数分布的参数有关,使得矩母函数存在。
定理:随机变量 X 的 k 阶矩等于矩母函数的 k 阶导数在 t =0 处的取值,即E X k =d kd t km X (t )t =0.定理:如果随机变量 X 和 Y 相互独⽴,则有ϕX +Y (t )=E e i t (X +Y )=E e i tX E e i tY =ϕX (t )ϕY (t ).m X +Y(t )=E e t (X +Y )=E e tXE e tY=m X(t )m Y(t ).注意:随机变量的矩母函数可能存在,也可能不存在。
如果随机变量的矩母函数不存在,则该随机变量的分布被称为重尾分布或厚尾分布(这是重尾分布的⼀种定义)。
定理:假设随机变量 X n 和 X 的矩母函数存在,则 X n 的矩母函数 m n (t ) 收敛于 X 的矩母函数 m (t ) 的充分必要条件是 X n 的分布函数 F n (x ) 收敛于 X 的分布函数 F (x ) 。
⼆、概率母函数和累积量母函数概率母函数:对于随机变量 X ,其概率母函数的定义为:[][][]|[][][][][][]g X (t )=E t X =∞∑k =0t k Pr(X=k ).从定义可以看出,概率母函数仅⽤于取值为⾃然数的随机变量。
特征函数
具有尺度参数 θ 和形状参数 k 的伽玛分布的特征函数为:
。 现在假设我们有:
且 其中 X 和 Y 相互独立,我们想要知道 X + Y 的分布是什么。X 和 Y 特征函数分别为:
根据独立性和特征函数的基本性质,可得: 。
这就是尺度参数为 θ、形状参数为 k1 + k2的伽玛分布的特征函数,因此我们得出结论: ,
相关概念
相关概念有矩母函数和概率母函数。特征函数对于所有概率分布都存在,但矩母函数不是这样。
特征函数与傅里叶变换有密切的关系:一个概率密度函数 换的共轭复数(按照通常的惯例)。
的特征函数是
的连续傅里叶变
其中 表示概率密度函数 :
的连续傅里叶变换。类似地,从 可以通过傅里叶逆变换求出
。 确实,即使当随机变量没有密度时,特征函数仍然可以视为对应于该随机变量的测度的傅里叶变换。
期望值。另外,注意到 个独立的观测的样本平均值 具有特征函数 ,利用前一节的结果。这 就是标准柯西分布的特征函数;因此,样本平均值与总体本身具有相同的分布。 特征函数的对数是一个累积量母函数,它对于求出累积量是十分有用的;注意有时定义累积量母函 数为矩母函数的对数,而把特征函数的对数称为第二累积量母函数。
这个结果可以推广到 n 个独立、具有相同尺度参数的伽玛随机变量:
。
多元特征函数
如果 是一个多元随机变量,那么它的特征函数定义为: 。
这里的点表示向量的点积,而向量 位于 的对偶空间内。用更加常见的矩阵表示法,就是: 。
例子
如果
是一个平均值为零的多元高斯随机变量,那么:
其中 表示正定矩阵 Σ 的行列式。
参考文献
^ P. Levy, Calcul des probabilités, Gauthier-Villars, Paris, 1925. p. 166 ▪ Lukacs E. (1970) Characteristic Functions. Griffin, London. pp. 350 ▪ Bisgaard, T. M., Sasvári, Z. (2000) Characteristic Functions and Moment Sequences, Nova Science
应用随机过程
应用随机过程矩母函数:若随机变量X 的分布函数为F X (x),则称φX (t )=E[e tx ]= e tx dF x (x)+∞−∞为矩母函数 特征函数:F x (x)=Ee itX = e itx +∞−∞dF X (x) 随机过程:概率空间(Ω,F ,P )上的一族随机变量{X(t),t ∈T },其中t 是参数,它属于某个指标集T 。
简单地说,我们将研究无穷多个,相互有关的随机变量,称之为随机过程。
严平稳:如果随机过程X(t)对任意的t1,……,tn ∈T 和任意的h 有:(X(t1+h),X(t2+h),……X(tn+h))与(X(t1),……X (tn ))具有相同的联合分布宽平稳:如果随机过程的所有二阶矩都存在,并且E[X(t)]=µ,协方差γ(t,s )只与时间t-s 有关独立增量过程:如果对任何t 1,t 2,……t n ∈T ,t 1<t 2<……<t n ,随机变量X(t 2)-X(t 1),……X (t n )-X(t n-1)都是相互独立的。
平稳增量过程:对于任何t 1,t 2,有X(t 1+h)-X(t 1)同分布于 X(t 2+h)-X(t 2)泊松过程:计数过程{N (t ),t>=0}成为参数λ的泊松过程,如果N(0)=0;过程有独立增量;对任意的s,t>=0,P{N(t+s)-N(s)=n}=e −λt (λt)nn !,n=0,1,2,……马尔可夫链:随机过程{Xn},若有可列个或者有限个状态,并且状态之间的转移概率有P{X n+1=j ∣X 0=i 0,X 1=i 1,……X n =i n }=P{X n+1=j ∣X n =i}(马尔科夫性)布朗运动:随机过程X(t),如果满足X (0)=0;{Xt}有独立的平稳增量;对每个t ,X (t )符从正态分布N(0,σ2t )贝叶斯统计贝叶斯统计学:基于总体信息,样本信息和先验信息进行的统计推断。