概率论上的母函数
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
概率论上的母函数(genera t ing fucnc t ion )定义: 若随机变量ξ取非负整数值,且相应的分布列为: ( 0,1,2) ( p 0,p 1,p 2 )
则p k *s k
(k 从0到无穷)的和为s 的函数,此函数称为的母函数。
特征函数 (概率论)
在概率论中,任何随机变量的特征函数完全定义了它的概率分布。在实直线上,它由以下公式给出,其中X 是任何具有该分布的随机变量:
()()itX X t E e ϕ=
其中t 是一个实数,i 是虚数单位,E 表示期望值。
用矩母函数M X (t )来表示(如果它存在),特征函数就是iX 的矩母函数,或X 在虚数轴上求得的矩母函数。
()()()X iX X t M t M it ϕ==
与矩母函数不同,特征函数总是存在。
如果F X 是累积分布函数,那么特征函数由黎曼-斯蒂尔切斯积分给出:
()()itX
itx X E e e dF x ∞
-∞
=⎰
在概率密度函数f X 存在的情况下,该公式就变为:
()()itX
itx X E e e f x dx ∞
-∞
=⎰
如果X 是一个向量值随机变量,我们便取自变量t 为向量,tX 为数量积。
R 或R n 上的每一个概率分布都有特征函数,因为我们是在有限测度的空间上对一个有界函数进行
积分,且对于每一个特征函数都正好有一个概率分布。
一个对称概率密度函数的特征函数(也就是满足f X (x ) = f X (-x ))是实数,因为从x >0所获得的虚数部分与从x <0所获得的相互抵消。 性質 连续性
勒维连续定理
勒维连续定理说明,假设1()1n n X ∞
==为一个随机变量序列,其中每一个X n 都有特征函数ϕn ,那么
它依分布收敛于某个随机变量X :
D
n X X −−→当 n →∞
如果
pointwise n ϕϕ−−−−→ 当 n →∞
且ϕ (t )在t =0处连续,ϕ是X 的特征函数。 莱维连续定理可以用来证明弱大数定律。 反演定理
在累积概率分布函数与特征函数之间存在双射。也就是说,两个不同的概率分布不能有相同的特
征函数。
给定一个特征函数ϕ,可以用以下公式求得对应的累积概率分布函数F :
1
()()()lim
2itx ity
X X X e e E y E x t dt it
τ
τ
τϕπ
--+-
→+∞--=⎰
一般地,这是一个广义积分;被积分的函数可能只是条件可积而不是勒贝格可积的,也就是说,
它的绝对值的积分可能是无穷大。[1]
博赫纳-辛钦定理/公理化定義 博赫纳定理
任意一个函数ϕ是对应于某个概率律μ的特征函数,当且仅当满足以下三个条件:
1. ϕ (t )是连续的;
2. ϕ (0)=1;
3. ϕ (t )是一个正定函数(注意这是一个复杂的条件,与ϕ (t )>0不等价)。 計算性质
特征函数对于处理独立随机变量的函数特别有用。例如,如果X 1、X 2、……、X n 是一个独立(不一定同分布)的随机变量的序列,且
1
n
n i i i S a X ==∑
其中a i 是常数,那么S n 的特征函数为:
1
2
12()()()()n
n
S X X X n t a t a t a t ϕϕϕϕ=
特别地,()()()X Y X Y t t t ϕϕϕ+=。这是因为:
()()()()()()()()it X Y itX itY itX itY X Y X Y t E e E e e E e E e t t ϕϕϕ++====
注意我们需要X 和Y 的独立性来确立第三和第四个表达式的相等性。
另外一个特殊情况,是a i = 1 / n 且S n 为样本平均值。在这个情况下,用X 表示平均值,我们便有:
()
()()n
X X t t n ϕϕ=
特征函数的应用
由于连续定理,特征函数被用于中心极限定理的最常见的证明中。 矩
特征函数还可以用来求出某个随机变量的矩。只要第n 个矩存在,特征函数就可以微分n 次,得到:
()
()(0)()n n
n
n n
X
X n t d E X i i t dt ϕϕ--=⎡⎤
==⎢⎥⎣⎦
例如,假设X 具有标准柯西分布。那么| |
()t X t e
ϕ-=。它在t = 0处不可微,说明柯西分布没有
期望值。另外,注意到n 个独立的观测的样本平均值X 具有特征函,(
)
||| |()n
t n
t X t e
e ϕ--==利
用前一节的结果。这就是标准柯西分布的特征函数;因此,样本平均值与总体本身具有相同的分
布。
特征函数的对数是一个累积量母函数,它对于求出累积量是十分有用的;注意有时定义累积量母函数为矩母函数的对数,而把特征函数的对数称为第二累积量母函数。 一个例子
具有尺度参数θ和形状参数k 的伽玛分布的特征函数为:
(1)k it θ--
现在假设我们有:
1(,)X k Γθ~且2(,)Y k Γθ~