特征函数和矩函数
特征函数与矩函数
根据概率分布的性质和公式，计算相应的矩函数。例如，对于离散型随机变量，可以使用概率质量函数和概率分布函 数来计算；对于连续型随机变量，可以使用概率密度函数和概率分布函数来计算。
数值法
对于一些复杂的概率分布，可以使用数值方法来近似计算矩函数。例如，蒙特卡洛方法可以用来模拟随 机变量的样本值，然后通过样本值的数学期望来近似计算矩函数。
05 特征函数与矩函数的扩展
广义特征函数与矩函数
定义
广义特征函数与矩函数是相对于经典的特征 函数与矩函数的扩展，它们在更广泛的意义 下描述了数据的统计特性。
性质
广义特征函数与矩函数具有更强的灵活性和适应性 ，能够更好地处理复杂的数据分布和异常值。
应用
在统计学、机器学习、数据分析等领域，广 义特征函数与矩函数被广泛应用于数据建模 、特征提取和异常检测。
03 特征函数与矩函数的应用
在概率论中的应用
特征函数用于描述随机变量的概率分布， 可以表示为复平面上的函数。通过计算特 征函数的导数，可以得到随机变量的各阶 矩，如均值、方差、偏度、峰度等。
特征函数还可以用于研究随机变量的 变换性质，例如，通过特征函数可以 推导出随机变量的变换规律，以及随 机变量的独立性、相关性等性质。
特征函数与矩函数
目录
• 特征函数 • 矩函数 • 特征函数与矩函数的应用 • 特征函数与矩函数的区别与联系 • 特征函数与矩函数的扩展
01 特征函数
定义与性质
定义
特征函数是概率论和统计学中的一个 概念，用于描述随机变量或随机过程 的特性。
性质
特征函数具有一些重要的性质，如实 部和虚部都是单调递减的，且实部和 虚部都是偶函数。
特征函数的性质
唯一性
特征函数及其应用
特征函数及其应用
特征函数是概率论中一种重要的工具，用于描述随机变量的分布。
它是一个复数函数，定义为随机变量的各个值对应的指数函数的期望值。
特征函数具有许多有用的性质，例如可以用它来计算随机变量的矩、导数和卷积等。
特征函数在统计学、信号处理、物理学等领域中有着广泛的应用。
在统计学中，特征函数可以用于推导估计量的分布，检验假设以及构造置信区间等。
在信号处理中，特征函数可以用于对信号进行谱分析和滤波。
在物理学中，特征函数可以用于描述粒子的动力学特性和相互作用。
除了普通的特征函数，还有一些特殊的特征函数，例如矩母函数和累积分布函数的特征函数等，它们也具有广泛的应用。
在实际应用中，研究人员还可以根据需要构造自己的特征函数来解决特定的问题。
总之，特征函数是一种非常有用的工具，它不仅可以描述随机变量的分布，还可以用于推导估计量的分布、信号处理、粒子动力学等方面的应用。
- 1 -。
概率论特征函数
概率论特征函数
概率论中的特征函数是一个非常重要的概念，它可以通过数学函数的形式描述随机变量的特征。
特征函数的定义如下：对于任意一个随机变量X，它的特征函数φ(t)定义为：
φ(t) = E(e^(i*t*X))
其中，i是虚数单位，E表示数学期望。
特征函数的主要作用是描述一个随机变量的矩，特别是它的所有阶矩。
通过特征函数，我们可以轻松地求出一个随机变量的均值、方差、偏度和峰度等统计量。
特征函数还可以用于分析随机变量之间的独立性和相关性等问题，因此在概率论和统计学中得到了广泛的应用。
需要注意的是，特征函数是一个复数函数，通常用实部和虚部分别表示它的实部函数和虚部函数。
特征函数有许多重要的性质，例如它是连续的、有界的和解析的等等。
同时，特征函数还有许多重要的应用，例如它可以用于求解随机过程中的协方差函数和自相关函数等问题。
总之，特征函数在概率论和统计学中扮演着非常重要的角色，它是研究随机变量特征的有力工具。
概率论_特征函数
概率论_特征函数特征函数（characteristic function）是概率论中一个非常重要的工具，它能够完全描述一个随机变量的分布，并且可以用来推导和证明一系列的性质和定理。
特征函数具有许多重要的性质，如唯一决定定理、独立性的性质、收敛性的性质等。
特征函数的定义如下：对于一个随机变量X，它的特征函数$\varphi(t)$定义为$E[e^{itX}]$，其中 i 是复数单位，t 是实数。
特征函数是关于 t 的复数函数，其实部和虚部分别是 $\cos(tx)$ 和$\sin(tx)$。
特征函数的一个重要性质是唯一决定性（uniqueness），即对于一个分布，它的特征函数是唯一确定的，并且确定了分布的所有性质。
这一性质使得特征函数成为一种描述概率分布的有效工具。
对于连续分布，特征函数可以通过概率密度函数和积分的关系得到，对于离散分布，特征函数可以通过概率质量函数和求和的关系得到。
另一个重要的性质是独立性的性质。
如果两个随机变量 X 和 Y 是独立的，那么它们的特征函数的乘积等于它们各自的特征函数的乘积。
即$\varphi_{X+Y}(t)=\varphi_X(t)\varphi_Y(t)$。
这个性质可以用来推导和证明随机变量的和的分布。
特别地，如果 X 和 Y 是独立同分布的，那么它们的特征函数的乘积等于它们特征函数的平方。
特征函数还有一个重要的性质是收敛性的性质。
对于一个随机变量序列X₁,X₂,...，如果它们的特征函数逐点收敛于一个函数，那么这个函数也是一个随机变量的特征函数，且收敛到的分布是弱收敛的。
这个性质可以用来证明中心极限定理等重要的结果。
特征函数在概率论和统计学中有广泛的应用。
它被用来推导和证明许多重要的定理，如中心极限定理、大数定律、极限理论等。
它还可以用来计算随机变量的矩、协方差、相关系数等统计量，并且可以用来推导各种分布族的性质。
特征函数的计算通常比较简单，只需计算指数函数的期望。
矩母函数
因而
Y |Xx x 1 y f fY Y||X X y y||x xd y 1/1 1- 1 -x x x 1 y d y1 2 x
Y|X 1 X/2
fY|X y|x 1/ 1-x
注意： Y|X 1 X/2是随机变量，当X x 时， 其值为
Y|X x 1 x/2
思考题：当X与Y独立时， X |Y y 的值？
定义：X的矩母函数（MGF），或Laplace变换定义为
Xt
etX
其中t在实数上变化。
etxdF Xx
若MGF是有定义的，可以证明可以交换微分操作和求期 望操作，所以有：
0 de tX
d t
t0
d e tX d t t0
X e tX t0
X
取k阶导数，可以得到 k 0
Xk 方便计算分布的矩
.
.
6
X ～ U n ifo r m 0 ,1 ， Y |X ～ U n ifo r m x ,1
怎样计算 Y ？ 一种方法是计算联合密度 f x , y ，然后计算
Y yf x,ydxdy
另一种更简单的方法是分两步计算
计算 Y| X =1 X
计算 Y =
2 Y|X =
1
X
1+ X
2
2
= 1+
Y |X Y Y |X Y |X Y|X Y 0 0
所以
Y Y |X Y |X
.
10
二、混合分布
在一个分布族中，分布族由一个/一些参数决定， 如 f x，| 这些参数 通常又是一个随机变量 （贝叶斯学派的观点，参数也是随机变量）， 则最终的分布称为混合分布(mixture distribution)
特征函数和矩母函数概要
P ( s) pk s pk s
k k k 0 k 0
n
k n 1
p s
k
k
, n n! pn
k n 1
k (k 1)(k n 1) p s
令s 0, 则P ( n ) (0) n! pn 故pn P
k 0 l 0
P{ N l} P{Y k}s
l 0 k 0
k
l k P{N l} P X j k s l 0 k 0 j 1
k P{N l} P{ X j k}s l 0 j 1 k 0
k 0 k 0
PZ ( s) ck s k
k 0
PX ( s ) PY ( s ) pk s
k 0
k
q s
l 0 l
l
k ,l 0
p qs
k l r
k l
r pk q r k s r 0 k 0
r
c r s PZ ( s )
4. 母函数
定义：设X是非负整数值随机变量，分布律
P{X=k}=pk，k=0,1, 则称
P ( s) E ( s ) pk s
X k 0
k
为X的母函数。
性质： (1)非负整数值随机变量的分布律pk由其母 函数P(s)唯一确定 (k ) P (0) pk , k 0,1,2, k! (2)设P(s)是X的母函数， 若EX存在，则EX=P(1) 若DX存在，则DX= P(1) +P(1)- [P(1)]2
常见分布的特征函数
常见分布的特征函数特征函数概述特征函数是概率论和数理统计中的常用概念，它是一个复数函数，描述了随机变量的特征信息。
对于一个随机变量X，它的特征函数f(t)定义为：f(t) = E[e^(itX)]，其中i为虚数单位，E为期望运算符。
特征函数不仅对概率密度函数具有很好的描述和表达作用，还可以描述随机变量的各种性质，比如分布、矩和相关系数等。
下面将具体介绍几种常见的分布的特征函数。
1.正态分布正态分布是自然界中多种现象的分布模式，其概率密度函数在数学上也能很好地描述为高斯函数。
其特征函数如下：f(t) = e^(-t^2/2)该特征函数具有良好的解析性质和奇偶性质，能很好地反映正态分布的对称性和峰态。
2.泊松分布泊松分布是描述单位时间内某个随机事件发生次数的概率分布，例如单位时间内打进一个电话亭电话而来的电话数量、在网球场内接到的球的数量等。
其特征函数如下：f(t) = e^(λ(e^(it)-1))其中λ为单位时间内事件发生的平均次数。
3.指数分布指数分布是描述随机事件发生的时间间隔的概率分布，例如寿命、等待时间、顾客到达时间等。
其特征函数如下：f(t) = 1 / (1-it/λ)，其中λ为事件发生的平均速率。
4.卡方分布卡方分布是应用最广泛的概率分布之一，常用于分析样本差异性和偏离程度，例如方差分析、偏度分析、正态性检验等。
其特征函数如下：f(t) = (1-2it)^(-k/2)其中k为自由度。
5. beta分布beta分布是应用广泛的概率分布之一，常用于贝叶斯统计、假设检验、数据挖掘等领域。
其特征函数如下：f(t) = B(a+it,b-it) / B(a,b)其中B(a,b)表示beta函数，a,b为形状参数。
上述几种分布是常见的概率分布，它们的特征函数形式各不相同，但都能很好地反映分布的各种性质和特点，为进一步分析和研究提供了便利。
特征函数和矩母函数
解
X的概率密度为
所以
X
(t )
e
b
e
itx
1 b a
dx
a
itb
e
ita
it ( b a )
例3：设X服从二项分布B(n, p)，求X的特 征函数g(t)及EX、EX2、DX。 解: X的分布律为P(X=k)= C p q ， q=1-p，k=0,1,2,,n
k k nk n
N k k 1
的母函数H(s)=G(P(s)) , EY=ENEX1 其中G(s),P(s)分别是N, X1的母函数。
证明：(1)
n
P (s)
k 0
pk s
k
k 0
pk s
k
k n 1
p k s , n 0 ,1 ,
kn
k
P
(n)
( s ) n! p n
r0
cr s
PZ ( s )
(4)
H (s)
k 0
P {Y k } s
k
k 0
k P Y k , { N l } s l0
k 0 l0
P {Y k , N l } s
k
k 0 l0
P {Y k } P { N l } s
e
itb
it ( a X b )
itb
i ( at ) X
e
e
itb
E e
特征函数与矩母函数
特征函数和矩母函数
特征函数和矩母函数是概率论和数理统计中常用的概念。
特征函数是一个随机变量的唯一标识函数，它以复数形式表示。
对于一个随机变量X，其特征函数定义为：
φ(t) = E(e^(itX))
其中，φ(t)是X的特征函数，t是一个实数变量，i是虚数单位，E是数学期望操作。
特征函数的主要作用是描述随机变量X的概率分布以及其性质。
通过特征函数，可以推导出随机变量的各阶矩、特征值、协方差等统计量。
矩母函数（也称为矩生成函数）是随机变量X的矩序列所组成的函数。
对于一个随机变量X，其矩母函数定义为：
M(t) = E(e^(tX))
其中，M(t)是X的矩母函数，t是一个实数变量，E是数学期望操作。
矩母函数可以用于计算随机变量的各阶矩，包括均值、方差、偏度、峰度等。
通过矩母函数，可以推导出随机变量的统计性质，并进行概率分布的分析和比较。
总结起来，特征函数用于描述随机变量的概率分布形态，而矩母函数则用于计算随机变量的各阶矩及统计性质。
它们都是在概率论和数理统计中广泛应用的工具。
1.4.11.4特征函数的定义
，
i
则
MY
t
M n
i1 Xi
ait
20 X
X1,, X n 为n维实值随机向量，
t
M
t
t1，, E
tn e(
Rn，X的 矩 E X1t1 X ntn )
母 e
函数
X ,t
定
义
为
，
X
30 矩母函数与分布函数也是一一对应关系 .
13
E e i X ,t
n维实值随机向量的特征函数为n元函数.
10
矩母函数
概率空间,F , P 上实值随机变量X ,密度函数 为p x，t R，矩母函数定义为
MX t
E etX
etx p x dx
t 2 x2
1
tx
2!
t n xn
n!
p
x
dx
1 tEX t 2 E X 2 t n E X n
50 X t 一致连续.
0,
X t h X t eitx eihx 1 p x dx
a
e ihx 1 p x dx e ihx 1 p x dx 2 p x dx
a
x a
1) 取 a 充 分 大 ，使 得 2 p x dx
2） x a , 取 h x a
目录
条件期望 特征函数
1
目录
1.4 特征函数的定义
从傅里叶变换到特征函数，再到矩母函数
2
特征函数前传
一 、卷积
如果随机变量X 与Y 相互独立，则它们的和 Z X Y的密度函数等于X 与Y 密度函数的 卷积：
fZ z f X x * fY y
f Z z f X x fY z x dx
利用特征函数求正态分布的中心矩
利用特征函数求正态分布的中心矩
正态分布是一种常见的概率分布，它可以用来描述一组数据的分布情况。
正态分布的中心矩是描述数据分布的重要指标，它可以反映数据的集中程度。
特征函数是一种用来求解正态分布中心矩的方法，它可以有效地求解正态分布的中心矩。
特征函数的基本原理是，通过求解正态分布的概率密度函数，可以得到正态分布的中心矩。
特征函数的求解步骤如下：首先，根据正态分布的概率密度函数，求出正态分布的均值μ和方差σ；其次，根据正态分布的概率密度函数，求出正态分布的中心矩；最后，根据正态分布的概率密度函数，求出正态分布的中心矩。
特征函数求解正态分布的中心矩的优点是，它可以有效地求解正态分布的中心矩，而且求解过程简单易行。
但是，特征函数求解正态分布的中心矩也有一定的局限性，比如，它不能求解非正态分布的中心矩。
总之，特征函数是一种有效的求解正态分布中心矩的方法，它可以有效地求解正态分布的中心矩，但也有一定的局限性。
特征函数和矩母函数课件
特征函数和矩母函数课件
什么是特征函数？
特征函数是一种连续变量，用来表示给定概率分布的连续特征。
它们借助独特的函数结构来帮助理解该分布的性质。
一般情况下，特征函数被定义为概率密度函数的积分或积分的产物，其中使用的是一组实数序列λ1，λ2，...，λn，称为参数。
它也可以考虑为对概率密度函数的一种广义函数格式的描述。
矩母函数是一种特征函数，用于根据一定的参数描述和控制一组数据的变化模式。
它也被称为矩函数或越积函数，其基本定义为一个有限个参数的多项式，由此引出一组非负实数。
矩母函数拥有独特的性质和拓扑表示，对概率密度函数进行信息可视化具有重要意义。
它也常用于表示一个系统中细胞的状态等普遍现象。
特征函数及其应用
特征函数及其应用1 引言在概率论和数理统计中，我们学习了特征函数，发现了它可以更高级、优越、方便的表示出一般的随机变量的统计规律．是研究随机变量的重要工具．本文将向大家详细的阐述特征函数的基本概念，性质以及特征函数的应用和一些相关定理的证明．2 特征函数2.1 特征函数的定义设ξ是定义在样本空间上的随机变量．称ξ的复值函数it eξ=cos ()t ξ+i sin ()t ξ的数学期望E ()it e ξ=E ()()cos t ξ+i E ()()sin t ξ t -∞<<+∞其中，i =ξ的特征函数，记为()t ϕ．特征函数()t ϕ一般为实变量t 的复值函数，它对一切t 有定义．事实上，当ξ是连续型随机变量时，对(),t ∀∈-∞+∞，总有()()1itx e dF x dF x +∞+∞-∞-∞==⎰⎰若ξ为离散型随机变量，则1kitx k kep =∑因此，任一随机变量ξ，必有特征函数存在．2.2 特征函数的性质()1 有界性：()()()01,,t t ϕϕ≤=∀∈-∞+∞ ()2 一致连续性：()t ϕ在(),-∞+∞上一致连续 ()3 非负定[]()1181P 性：对1n ∀>个实数1t ，，n t 及复数1z ，，n z ，总有()0s rs r rstt z z ϕ-≥∑∑()4 ()t ϕ-=()t ϕ，这里()t ϕ表示()t ϕ的共轭()5 若a b ηξ=+，a ，b ，为常数，则()t ηϕ=ibt e ()at ξϕ⋅()6 设12,ξξ的特征函数分别为()1t ϕ，()2t ϕ，又1ξ与2ξ相互独立，则12ξξξ=+的特征函数为()()()12t t t ϕϕϕ=⋅2.3 特征函数与矩的关系在以前的学习中，我们发现求随机变量的各阶矩往往需要作繁难的求无穷级数和或无穷积分的计算，有时应用一定的技巧方可计算出结果．现在我们有了特征函数这一优越的工具后，可以通过对特征函数()t ϕ求导的方法来计算随机变量的矩．设随机变量ξ有l 阶矩存在，则ξ的特征函数()t ϕ可微分l 次，且对k l ≤，有()()0k k k i E ϕξ=设ξ有密度函数()p x ，则()t ϕ=()itx e p x dx +∞-∞⎰由于ξ的l 阶矩存在，即有()lx p x dx +∞-∞<∞⎰从而()itx e p x dx +∞-∞⎰可以在积分号下对t 求导l 次，于是对0k l ≤≤，有()()k t ϕ=()()k k itx k k it i x e p x dx i E e ξξ+∞-∞=⎰令0t =即得()()0k k k i E ϕξ=当ξ是离散型随机变量时，证明也是类似的．由这个性质，在求ξ的各阶矩（如果他们存在的话），只要对ξ的特征函数求导即可．而从定义出发是要计算积分的，大家都知道，求导一般总是要比求积分简单的多，所以可以这样说：特征函数提供了一条求各阶矩的捷径[]()2175176P -．2.4 几种常见分布的特征函数()1 单点分布 设ξ服从单点分布，即()1P c ξ==，则()()()it itc itc t E e e P c e ξϕξ==⋅==()2 两点分布 设()~1,B p ξ，即 ()1P p ξ==，()01P p q ξ==-=，则()01it it it t e q e p q pe ϕ⋅⋅=⋅+⋅=+()3 二项分布 设()k k n k n P k p q C ξ-==，0k n ≤≤，则()t ϕ=0nikt k k n k n k e p q C -=∑()nitpe q=+()4 普哇松分布 设ξ为普哇松分布，即()!kP k e k λλξ-==，0k =，1，2则()t ϕ=0!itkikte k ee e e k λλλλ∞--==⋅∑()5 均匀分布 设ξ在[]0,1上均匀分布，即()011,0,x p x ≤≤⎧=⎨⎩其它则()t ϕ=()1itx itx e p x dx e dx +∞-∞=⎰⎰1it e it-=()6 指数分布 设ξ服从参数为λ的指数分布，即 ()0,0,x x e p x x λλ->⎧=⎨≤⎩故()t ϕ=itx x e e dx λλ∞-⎰由数学分析知道 220sin x ttxe dx t λλ∞-=+⎰22cos x txe dx tλλλ∞-=+⎰由此可得()t ϕ=11it λ-⎛⎫- ⎪⎝⎭()7 正态分布 设ξ服从()2,N μσ分布，把()2,N μσ分布的密度函数代入()t ϕ=()itx e p x dx +∞-∞⎰中，即有()t ϕ=()222x itx edx μσ--+∞-∞⎰222t i t eσμ-=22it zit edz σσ∞---∞-⎰222t i t e σμ-=其中22it zit edz σσ∞---∞-⎰=是利用复变函数中的围道积分求得的．例1 求()2,Nμσ分布的数学期望和方差解 已知()2,Nμσ分布的特征函数为()t ϕ=222t i t eσμ-于是由()()0k k k i E ϕξ= 有()0iE i ξϕμ'==()22220i E ξϕμσ''==--由此即得()222,E D E E ξμξξξσ==-=从这里我们可以看出用特征函数求正态分布的数学期望和方差，要比从定义去证更方便[]()31P ．2.5 特征函数与分布函数的关系逆转公[]()2177P 式 设随机变量ξ的分布函数为()F x ，特征函数为()t ϕ，又1x 与2x 为()F x 的任意两个连续点，则有()()()12121lim2itx itx TT T e e F x F x t dt it ϕπ---→∞--=⎰其中，当0t =时，按连续性延拓定义1221itx itx e e x x it---=- 由特征函数的定义可知，随机变量的分布函数唯一的确定了它的特征函数．反过来，由唯一性定理可知特征函数可以唯一地确定它的分布函数．从而由特征函数来确定分布函数的式子也常常称为“逆转公式”．唯一性定[]()2178P 理 随机变量的分布函数由其特征函数唯一确定．3 特征函数的应用3.1 特征函数在求独立随机变量和的分布上的应用设1ξ，2ξ的特征函数分别为()1t ϕ，()2t ϕ，又1ξ与2ξ相互独立，则12ξξξ=+的特征函数为()()()12t t t ϕϕϕ=⋅因为1ξ与2ξ相互独立，由以前的知识我们知道1it e ξ与2it eξ也相互独立，于是由数学期望的性质即得()t ϕ=()12it Ee ξξ+()12it it E e e ξξ=⋅12it it EeEe ξξ=⋅()()12t t ϕϕ=⋅利用归纳法，不难把上述性质推广到n 个独立随机变量的场合，若1ξ，2ξ，n ξ是n 个相互独立的随机变量，相应的特征函数为()1t ϕ，()2t ϕ，…，()n t ϕ 则ξ1ni i ξ==∑的特征函数为()t ϕ=()1ni i t ϕ=∏例2 设jξ(1j =，2，)n 是n 个相互独立的，且服从()2,j j N a σ分布的正态随机变量，试求ξ1nj j ξ==∑的分布．解 已知j ξ的分布为()2,j j N a σ，故相应的特征函数为()222j j t ia t j t eσϕ-=由特征函数的性质()t ϕ=()1nj j t ϕ=∏ 可知ξ的特征函数为()t ϕ=()1n j j t ϕ=∏2222111221nnj j j j j j t i a t t nia t j eeσσ==⎛⎫⎛⎫ ⎪ ⎪--⎪ ⎪⎝⎭⎝⎭=∑∑==∏而这是211,n n j j j j N a σ==⎛⎫ ⎪⎝⎭∑∑分布的特征函数，由分布函数与特征函数的一一对应关系即知ξ服从211,n n j j j j N a σ==⎛⎫⎪⎝⎭∑∑分布．这正是我们所熟知的可加性，这里用特征函数作为工具证明了这个可加性．3.2 在普哇松分布收敛于正态分布上的应用连续性定[]()2205P 理 分布函数列(){}n F x 弱收敛于分布函数()F x 的充要条件是相应的特征函数列(){}nx ϕ收敛于()F x 的特征函数()t ϕ．例3 若λξ是服从参数为λ的普哇松分布的随机变量，证明：22lim t xP x e dt λ--∞→∞⎫<=⎪⎭证明 已知λξ的特征函数为()x λϕ()1it e eλ-=，故λη= 的特征函数为()1g t e eλλλϕ⎛⎫⎪ ⎪-⎝⎭==对于任意的t ，有2112!t o λλ⎛⎫=-+ ⎪⎝⎭，λ→∞于是221122t t eo λλλ⎛⎫⎛⎫--=-+⋅→- ⎪ ⎪ ⎪⎝⎭⎝⎭，λ→∞ 从而对任意的点列n λ→∞，有()22lim n n t g t eλλ-→∞=但是22te-是()0,1N分布的特征函数，由连续性定理即知有22limntxP x e dtλξλ--∞→∞⎛⎫-<=⎪⎪⎭成立，因为nλ是可以任意选取的，这就意味着22limtxP x e dtλ--∞→∞⎫<=⎪⎭成立．即“普哇松分布收敛与正态分布”．3.3在证明辛钦大数定律上的应用若1ξ，2ξ…是独立同分布随机变量序列，且(iE a iξ==1，2，)则11npiianξ=−−→∑，n→∞证明因为1ξ，2ξ…有相同的分布，所以也有相同的特征函数，记这个特征函数为()tϕ，又因为iEξ存在，从而特征函数()tϕ有展开式()()0tϕϕ=+ϕ'()()0t o t+()1iat o t=++再由独立性知11niinξ=∑的特征函数为1n nt t tia on n nϕ⎡⎤⎡⎤⎛⎫⎛⎫=++⎪ ⎪⎢⎥⎢⎥⎝⎭⎝⎭⎣⎦⎣⎦对任意取定的t，有lim lim1n niatn nt t tia o en n nϕ→∞→∞⎡⎤⎡⎤⎛⎫⎛⎫=++=⎪ ⎪⎢⎥⎢⎥⎝⎭⎝⎭⎣⎦⎣⎦已知iate是退化分布的特征函数，相应的分布函数为()1,0,x aF xx a>⎧=⎨≤⎩由连续性定理知11niinξ=∑的分布函数弱收敛于()F x，因a是常数，则有11n pi i a n ξ=−−→∑ 故辛钦大数定律成立．3.4 在证明二项分布收敛于正态分布上的应用在n 重贝努里试验中，事件A 在每次试验中出现的概率为()01P p <<，n μ为n 次试验中事件A 出现的次数，则22lim t xn P x e dt --∞→∞⎛⎫<=⎪⎪⎭要证明这个式子我们只需证明下面的这个式子，因为它是下面的式子的一个特例，证明了下面的式子，也就证明了它．若1ξ，2ξ，…是一列独立同分布的随机变量， 且 k E a ξ=，()220k D ξσσ=>，k =1，2，…则有22lim n t k xn na P x e dt ξ--∞→∞⎛⎫- ⎪⎪<=⎪⎪⎝⎭∑证明 设k a ξ-的特征函数为()t ϕ，则nknk naξ=-=∑的特征函数为nϕ⎡⎤⎢⎥⎣⎦又因为()0k E a ξ-=，()2k D a ξσ-=，所以ϕ'()00=，ϕ''()20σ=-于是特征函数()t ϕ有展开式()()0t ϕϕ=+ϕ'()0t +ϕ''()()2202t o t +()222112t o tσ=-+从而对任意固定的t，有2212nnt ton nϕ⎡⎤⎡⎤⎛⎫=-+⎢⎥⎪⎢⎥⎝⎭⎣⎦⎣⎦22te-−−→，n→∞而22te-是()0,1N分布的特征函数，由连续性定理知22limntkxnnaP x e dtξ--∞→∞⎛⎫-⎪⎪<=⎪⎪⎝⎭∑成立，证毕．我们知道在22limtxnP x e dt--∞→∞⎛⎫<=⎪⎪⎭中nμ是服从二项分布()k k n kn nP k p qCμ-==，0k n≤≤的随机变量，如上3.2中称22limtxP x e dtλ--∞→∞⎫<=⎪⎭为“普哇松分布收敛与正态分布”，我们把上面证明的式子常常称为“二项分布收敛于正态分布”．[]()2210211P-通过上文的讨论，我们加深了对特征函数的认识，对于特征函数的应用也有了大概的了解，而随着理论和实践的不断发展，对特征函数的研究也将会不断深化．。
高斯分布moment generation function
高斯分布Moment Generating Function高斯分布（Gaussian distribution）是统计学中常见的一种概率分布，也被称为正态分布（normal distribution）。
它在自然界和社会现象中广泛出现，并且在实际生活中有着重要的应用。
高斯分布的研究对于理解数据集的分布、参数估计以及推断假设非常重要。
在统计学中，矩（moment）是描述概率分布的基本工具之一。
矩生成函数（moment generating function）是一种用来描述随机变量的矩的函数，在应用中经常被用来推导随机变量的矩，特别是求解方差和协方差等重要统计量。
在高斯分布的场景下，矩生成函数被称为高斯分布的矩生成函数。
高斯分布高斯分布是一种连续的概率分布，其特点是形成一个钟形曲线。
高斯分布的概率密度函数（probability density function，PDF）可以通过以下公式表示：[ f(x) = e^{-} ]其中，μ是均值，σ是标准差。
高斯分布的均值决定了曲线的位置，而标准差则决定了曲线的形状。
均值为μ的高斯分布将其峰值定位在μ处，标准差越大，曲线越平缓。
高斯分布在自然界和社会现象中的广泛存在具有重要的实际应用价值。
例如，在金融领域，股票价格的变化通常被假设为高斯分布，基于高斯分布的统计方法可以帮助投资者进行风险评估和投资决策。
矩生成函数矩生成函数是随机变量的矩的生成函数，对于随机变量X，其矩生成函数被定义为：[ M_X(t) = E(e^{tx}) = _{-}{}e{tx}f(x)dx ]其中，E(⋅)表示期望值运算符，f(x)是随机变量X的概率密度函数。
通过矩生成函数，我们可以推导出随机变量的矩，特别是可以求解高斯分布的方差和协方差等重要统计量。
对于高斯分布，其矩生成函数可以通过以下公式计算：[ M_X(t) = e^{t+ t^2 ^2} ]注意到，高斯分布的矩生成函数具有非常简洁的形式，这使得求解高斯分布的矩成为相对简单的任务。
1.2.3特征函数与矩函数的关系
Y的概率密度为：
fY ( y )
1 2
2
( )
y
n2 4
e
y 2 2
y I n 21 ( 2 )
y0
( x 2) n 2 m I n ( x) n阶修正贝塞尔函数 m 0 m!(n m 1)
2 m n Y Y的数学期望和方差为： 2 4 2 2 n 4 Y
2
分布
23
分别用不同的命令 产生两个正态随机 变量 X ~ N (0, 1) 和 Y ~ N (2, 0.5)每个变 是 量由1×6的随机数 构成。试用MATLAB 程序实现获得每个 随机变量的均值、 方差、标准差和这 两个随机变量的相 关系数，并分析这 两个随机变量的相 关性。
1 ( x1 m1 ) 2 ( x2 m2 ) 2 [ ] 2 2 2 1 2
13
3、多维高斯分布
12 12 C12 C1n X1 m1 2 2 X 2 m2 2 C21 2 C2 n X , m , s , C 2 X m 2 C C n n n2 n n n1
2
e
2 2
2
2 2
2
)
0
0
2 2
2
d 2 2 E[ X ] ( j ) X ( ) [( ) e 2 d 0 2 2
2 2
2
e
2
] 0 2
5
X ( ) e
2 2
指数分布的特征函数
指数分布的特征函数指数分布是概率论与统计学中常用的一种连续概率分布，它具有许多重要应用。
为了完整地理解指数分布，首先需要了解特征函数的概念。
特征函数是概率论中的一个重要工具，用于描述一个随机变量的分布。
对于一个随机变量X，其特征函数φX(t)定义为E[e^(itX)]，其中E表示期望，i表示虚数单位，t是一个实数。
特征函数是一个复数函数，它包含了随机变量X的所有统计信息。
对于指数分布而言，其概率密度函数为f(x;λ)=λe^(-λx)，其中λ是指数分布的一个参数，表示单位时间内事件发生的频率。
通过计算指数分布的特征函数，我们可以了解指数分布的一些重要特征。
首先，我们计算指数分布的特征函数。
根据定义，指数分布的特征函数为φX(t) = E[e^(itX)] = ∫e^(itx) λe^(-λx) dx，积分范围为0到正无穷。
通过简单的计算，可以得到φX(t) = λ / (λ - it)。
指数分布特征函数的重要性在于，它可以用来推导指数分布的各种特征性质。
以下是几个重要的示例：1. 矩生成函数：在概率论中，矩生成函数用于计算随机变量的各阶矩。
对于指数分布而言，矩生成函数即特征函数的负对数，即M(t) = -ln(φX(t)) = -ln(λ / (λ - it)) = -ln(λ) + ln(λ - it)。
通过对矩生成函数求导，我们可以得到指数分布的各阶矩。
2. 累积分布函数的瞬时率（hazard rate）：累积分布函数的瞬时率是指在给定时刻t下，随机变量X在t时刻还未发生事件的条件下，下一次事件发生的概率密度。
对于指数分布而言，累积分布函数的瞬时率可以通过特征函数进行导数计算得到，即h(t) = -d/dt(ln(φX(t))) = λ。
3.无记忆性：指数分布具有无记忆性的特点，即给定事件到达其中一时刻后继续等待的时间与先前已等待的时间没有关系。
这个特点可以通过指数分布的特征函数计算得到，即φX(s+t，s)=e^(-λt)=φX(t)。
用特征函数法证明x的中心矩
用特征函数法证明x的中心矩（1）定义中心矩：中心矩（central moment）是指随机变量X关于它的期望值或期望值的N次偏导，即：$$M_n=E[[X-E(X)]^n]$$其中，n为指定的正整数。
（2）特征函数法证明x的中心矩：特征函数法是借助特征函数$\varphi(t)$应用傅立叶变换实现的经典计算结果证明。
先看一下x的特征函数，$$\varphi(t) = E[e^{itX}]=\int_{-\infty}^{\infty}{e^{itx}f(x)dx}$$可以得出，x的中心矩为：$$M_n=\int_{-\infty}^{\infty}{(x-\mu)^nf(x)dx}$$利用变换公式：$$\int_{-\infty}^{\infty}{e^{itx}f(x)dx}=\frac{1}{2\pi}\int_{-\infty}^{\infty}{\varphi(t)e^{-itx}dt}$$由此可见，当t取值为-n时，x的中心矩M_n为：$$M_n=\frac{(-1)^n}{2\pi}\int_{-\infty}^{\infty}{\varphi(-n)e^{-int}dt}$$将上式代入中心矩表达式可有：$$M_n=\frac{(-1)^n}{2\pi}\int_{-\infty}^{\infty}{E[e^{in(X-\mu)}]e^{-int}dt}$$又因为期望值$E[X]=E[X-\mu + \mu]= \mu$，$$M_n=\frac{(-1)^n}{2\pi}\int_{-\infty}^{\infty}{E[e^{inX}]e^{-int}dt}$$综上所述，可以证明，x的中心矩M_n满足：$$M_n=\frac{(-1)^n}{2\pi}\int_{-\infty}^{\infty}{\varphi(t)e^{-int}dt}$$因此，x的中心矩可以用特征函数法证明。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
(6)随机变量的分布函数与特征函数是一一对 应且相互唯一确定。
如果随机变量X为连续型，且其特征函 数绝对可积，则有反演公式：
f (x) 1 eitx(t)dt （相差一个负号的傅立叶逆变换）
2
(t) eitx f (x)dx
E ei(at)X eitb eitbE ei(at)X eitb g X (at)
例6：设随机变量Y~N( , 2) ，求Y的特征
函数为gY(t)。
t2
解：X~N(0 , 1) ，X的特征函数为gX (t) e 2
设Y= X + ，则Y~N( , 2) ，
2
i 2
g(0)
i 2
d2 dt 2
peit q n t0 npq n2 p2
DX EX 2 EX 2 npq
例4：设X~N(0,1)，求X的特征函数。
解:
g(t)
1
eitx
e
x2 2
dx
2
g(t)
1
ixeitx
P(s) pk sk pk sk pk sk , n 0,1,
k 0
k 0
k n1
P (n) (s) n! pn k(k 1)(k n 1) pk skn k n1
令s 0,则P (n) (0) n! pn
故pn
P (n) (0) ，nБайду номын сангаасn!
g
2
g (t )
1t2 C
e2
,由g (0)
1, 得C
0，从而g (t )
1t2
e2
例5 ：设随机变量X的特征函数为gX(t) ， Y=aX+b，其中a, b为任意实数，证明Y的
特征函数gY(t)为 gY (t) eitb gX (at) 。 证：gY (t) E eit(aX b)
则Z=X+Y的分布律为P{Z=k}=ck,其中
ck= p0 qk +p1qk-1 + + pk q0
设X,Y,Z的母函数分别为PX(s), PY(s),
PZ(s)，即有
PX (s) pk sk , PY (s) qk sk
k 0
k 0
PZ (s) ck sk k 0
(3)独立随机变量之和的母函数等于母函数 之积。
(4)若X1,X2,是相互独立同分布的非负整
数值随机变量，N是与X1,X2,独立的非
负整数值随机变量，则
Y
N
Xk
k 1
的母函数H(s)=G(P(s)) , EY=ENEX1 其中G(s),P(s)分别是N, X1的母函数。
证明：(1)
n
0,1，
(2)
P(s) pk sk , P(s) kpk sk1
k 0
k 1
E( X ) kpk P(1) k 1
P(s) k(k 1) pk sk1 k2
P(1) k(k 1) pk k(k 1) pk
P{X=k}=pk，k=0,1,
则称
P(s) E(s X ) pk sk
k 0
为X的母函数。
性质：
(1)非负整数值随机变量的分布律pk由其母 函数P(s)唯一确定
pk
P (k) (0) ,
k!
k
0,1,2,
(2)设P(s)是X的母函数，
若EX存在，则EX=P(1)
若DX存在，则DX= P(1) +P(1)- [P(1)]2
PX (s)PY (s) pk sk ql sl
k 0
l 0
pkql skl r pkqrk sr
k ,l 0
r 0 k 0
cr sr PZ (s) r 0
(4) H (s) P{Y k}sk k 0
ds
s 1
dG dP G(P(1)) P(1) dP ds s1
G(1) P(1) EN EX1
(注P(1) 1)
二、特征函数
1 .特征函数
设X为随机变量，称复随机变量 e itX
的数学期望 X (t) E[eitX ]
为X的特征函数，其中t是实数。
e
x2 2
dx
2
i
2
eitxd
x2 e 2
i itx x2 e2
2
t
2
e e itx
x2 2
dx
tg(t),
g '(t) tg(t) 0, dg tdt, ln g(t) 1 t2 C
矩母函数和特征函数
一、矩母函数
1．定义
2．原点 矩的求法
称 etX 的数学期望 (t) E[etX ]
为随机变量X的矩母函数。
利用矩母函数可求得X的各阶矩，即对
(t)逐次求导，并计算在 t 0 点的
值：
(t) E[XetX ]
（n) (t) E[X netX ]
（n) (0) E[ X n ]
（相差一个负号的傅立叶变换）
例1 设随机变量X服从参数为 的泊松分布，
求X的特征函数。
解
由于
P（X
k）
k
k！e
所以
X (t) eitk k 0
k
k！e
e
k 0
(eit ) k
k！
麦克劳林公式
e eeit e (eit 1)
例2 设随机变量X服从[a，b]上的均匀分布，求X的 特征函数。
npq
q p2
q peit n (q +ps)n
e (eit 1)
pe it 1 qeit
e (s1)
ps 1 qs
分布 期望 方差 特征函数 矩母函数
均匀分布
N(, 2)
ab 2
b a 2 e ibt e iat
12 i(b a)t
ebt eat (b a)t
X (t) X (it)
欧拉公式：
ei cos i sin
还可写成
X (t) E[costX ] iE[sintX ]
分布律为P(X=xk)=pk（k=1,2,）的离散
型随机变量X，特征函数为
(t) eitxk pk k 1
概率密度为f(x)的连续型随机变量X，特征
函数为
(t) eitx f (x)dx
对于n维随机向量X=(X1, X2, , Xn)，特
征函数为
(t) (t1,t2,
, tn ) EeitX
E
exp
i
n
tk
X
k
k1
性质：
(1) (0) 1, (t) 1, (t) (t) 。 (2) (t)在（-， ）上一致连续。 (3)若随机变量X的n阶矩EXn存在，则
k2
k 1
k 2 pk kpk EX 2 EX
k 1
k 1
DX EX 2 (EX )2 P(1) EX (EX )2
P(1) P(1) [P(1)]2
(3) 设离散型非负整数随机变量X,Y的分布律
分别为P{X=k}=pk，P{Y=k}=qk，k=0,1, ，
3．和的矩母函数
定理1
设相互独立的随机变量 X1，X 2，，X r 的
矩母函数分别为 1 (t) ， 2 (t) ，…， r (t) ，
则其和 Y X1 X 2 X r 的矩母函数为
Y (t) 1(t) 2 (t) … r (t)
4. 母函数
定义：设X是非负整数值随机变量，分布律
(k) (0) ik EX k , k n 当k=1时，EX = (1) (0) / i ； 当k=2时，DX = (2) (0) ( (1) (0) / i)2 。
(4) (t)是非负定函数。
(5)若X1, X2, , Xn是相互独立的随机变量， 则X=X1+X2++Xn的特征函数为
C
k n
pk q nk
，
q=1-p，k=0,1,2,,n
n
n
g(t) eitkCnk pk qnk Cnk
peit k qnk
peit q n
k 0
k 0
EX ig(0) i d dt
peit q n t0 np
EX
解
X的概率密度为
1 f (x) b a
a xb
0 其它
所以
X (t)
b eitx 1 dx a ba
eitb eita it(b a)
例3：设X服从二项分布B(n, p)，求X的特
征函数g(t)及EX、EX2、DX。
解:
X的分布律为P(X=k)=
P Y
k,
{N
l}s