特征函数
概率论课件 特征函数
e jtX cos(tX ) j sin(tX )
(t ) E(e jtX )
cos(tx)dF( x) j sin(tx)dF( x)
e jtX dF ( x)
一、定义及例 1. 特征函数的定义 定义4.1.1 设X 是定义在概率空间(, F , P)上的随机变量, 它 的分布函数为F ( x), 称 e jtX 的数学期望 E(e jtX ) 为X 的特征函数. 有时也称为分布函数 F ( x) 的特征函数, 其中 j 1, t R.
( t ) E( e jtX ) e jtxk pk
k
( t
)
e itk
k0
ke
k!
e
(e it )k
k0 k!
e e eit
e(eit -1)
例4.1.5 设随机变量X 服从 [a,a]的均匀分布, 求其特征函数.
(t) E(e jtX )
记X 的特征函数为X (t), 在不会引起混乱的情况下简写为 (t).
e jtX cos tX j sintX
(t) E(e jtX ) E(cos Xt )+jE(sin Xt )
3. 特征函数的计算 e jtX cos(tX ) j sin(tX )
(t ) E(e jtX )
X的特征函数就是x的函数的期望,此时的函数是 由X 构造出来的复值随机变量的期望。
例4.1.1 设随机变量X 服从退化分布, 即
求X 的特征函数.
P{X c} 1
( t ) E( e jtX ) e jtxk k
特征函数及其应用
特征函数及其应用特征函数是一种在机器学习中常用的数学工具,用于将输入数据映射到一个新的表示形式,以便更好地描述和分析数据。
特征函数的应用非常广泛,涉及许多不同领域,包括自然语言处理、计算机视觉、生物信息学等。
本文将介绍特征函数的定义、性质和在不同领域中的应用。
特征函数是一种将输入数据映射到实数域的函数。
在机器学习中,我们通常将输入数据表示为向量的形式,特征函数将向量映射到一个实数。
特征函数的定义可以根据具体问题的需求而有所变化,可以使用原始数据本身的特性,也可以使用一些先验知识。
特征函数的目标是将输入数据映射为一组能够更好描述和区分数据的特征。
特征函数的定义可以采用不同的形式。
一种常用的方式是将特征函数定义为指标函数,即只有在满足其中一种条件时取值为1,否则为0。
例如,在文本分类中,可以使用特征函数表示一些词汇是否在文本中出现,如果词汇出现,则特征函数为1,否则为0。
此外,特征函数还可以采用连续的形式,例如使用激活函数对输入数据进行变换。
特征函数有一些特点,使其在机器学习中应用广泛。
首先,特征函数可以将输入数据映射为实数,这样可以方便地进行数值计算和分析。
其次,特征函数可以将高维数据映射为低维特征,从而简化问题的复杂度和计算难度。
此外,特征函数还可以提取数据的本质特征,去除噪声和冗余信息,从而更好地描述数据。
特征函数在机器学习中有许多应用。
首先,在分类和回归问题中,特征函数可以用于描述输入数据的特征,用于建立模型和进行预测。
例如,在图像分类中,可以使用特征函数描述图像的纹理、颜色等特征,以便进行分类。
其次,在聚类和降维问题中,特征函数可以用于从输入数据中提取主要特征,以便进行数据分析和可视化。
例如,在文本聚类中,可以使用特征函数提取文本的关键词和主题,以便进行聚类分析。
此外,在异常检测和推荐系统中,特征函数可以用于描述输入数据的异常性和用户偏好等特征。
特征函数的应用还包括自然语言处理、计算机视觉、生物信息学等领域。
概率论_特征函数
概率论_特征函数特征函数(characteristic function)是概率论中一个非常重要的工具,它能够完全描述一个随机变量的分布,并且可以用来推导和证明一系列的性质和定理。
特征函数具有许多重要的性质,如唯一决定定理、独立性的性质、收敛性的性质等。
特征函数的定义如下:对于一个随机变量X,它的特征函数$\varphi(t)$定义为$E[e^{itX}]$,其中 i 是复数单位,t 是实数。
特征函数是关于 t 的复数函数,其实部和虚部分别是 $\cos(tx)$ 和$\sin(tx)$。
特征函数的一个重要性质是唯一决定性(uniqueness),即对于一个分布,它的特征函数是唯一确定的,并且确定了分布的所有性质。
这一性质使得特征函数成为一种描述概率分布的有效工具。
对于连续分布,特征函数可以通过概率密度函数和积分的关系得到,对于离散分布,特征函数可以通过概率质量函数和求和的关系得到。
另一个重要的性质是独立性的性质。
如果两个随机变量 X 和 Y 是独立的,那么它们的特征函数的乘积等于它们各自的特征函数的乘积。
即$\varphi_{X+Y}(t)=\varphi_X(t)\varphi_Y(t)$。
这个性质可以用来推导和证明随机变量的和的分布。
特别地,如果 X 和 Y 是独立同分布的,那么它们的特征函数的乘积等于它们特征函数的平方。
特征函数还有一个重要的性质是收敛性的性质。
对于一个随机变量序列X₁,X₂,...,如果它们的特征函数逐点收敛于一个函数,那么这个函数也是一个随机变量的特征函数,且收敛到的分布是弱收敛的。
这个性质可以用来证明中心极限定理等重要的结果。
特征函数在概率论和统计学中有广泛的应用。
它被用来推导和证明许多重要的定理,如中心极限定理、大数定律、极限理论等。
它还可以用来计算随机变量的矩、协方差、相关系数等统计量,并且可以用来推导各种分布族的性质。
特征函数的计算通常比较简单,只需计算指数函数的期望。
14特征函数讲解
14特征函数讲解特征函数是机器学习与统计学中一种常用的工具,用于描述样本数据的特征或属性。
在机器学习中,特征函数通常是由特征工程师根据实际问题设计的,通过将原始数据转化为能够被机器学习算法所处理的形式,提取样本数据中的关键特征。
特征函数的设计需要结合具体问题领域的背景知识和对数据的理解,以下将介绍14种常见的特征函数。
1.数值特征:最常见的一类特征函数,用于处理连续型数据。
例如,平均值特征函数计算样本数据的平均值,标准差特征函数计算样本数据的标准差。
2. 类别特征:用于处理离散型数据,通常使用独热编码(one-hot encoding)将类别特征转化为二进制向量表示。
3.多项式特征:生成原始特征的高次项或交叉项,可以增加特征空间的维度,提高模型的拟合能力。
例如,二次多项式特征函数生成原始特征的平方项。
4.对数特征:将原始特征取对数,常用于对长尾分布的数据进行处理,使其近似服从正态分布。
5.傅里叶变换特征:通过傅里叶变换将时域信号转换为频域信号,常用于处理信号或时间序列数据。
6. 尺度变换特征:通过对原始特征进行线性或非线性的尺度变换,如归一化(Normalization)将特征缩放到一定范围内。
7.统计特征:计算样本数据的统计量,如最大值、最小值、中位数、众数等。
8.元素组合特征:将多个特征的值进行组合,生成新的特征。
例如,求和特征函数将多个特征的值相加。
9.离散化特征:将连续型特征离散化为若干个区间,可以减少特征空间的维度和计算复杂度。
10.时序特征:处理时间序列数据的特征函数,例如,移动平均特征函数计算时间序列数据的滑动平均值。
11.图像特征:处理图像数据的特征函数,如灰度特征函数将彩色图像转化为灰度图像。
12.文本特征:处理文本数据的特征函数,如词袋模型特征函数将文本转化为词频向量。
13.物理特征:针对一些特定领域的问题设计的特征函数,如声音信号处理中的声音强度特征函数。
14.模型特征:使用其他模型的输出作为特征,如使用预训练的深度神经网络模型提取图像特征。
概率论_特征函数
f ( t ) e dF ( x ) e itx dF ( x ) f ( t ).
- itx
9
【系1】 (唯一性定理) 两分布函数恒等的充要条 件是它们各自的特征函数恒等。
即:分布函数由其特征函数唯一确定
23
三、性质与定理的应用 例1 若X~B(n1 , p)、Y~B( n2 , p),且X与Y相互独立
性质3:设Y aX b, 这里a, b为常数,则fY (t ) ei bt f X (at ).
29
f ( t ) E (e ) e f ( x )dx
itX itx
这就是密度函数f(x)的傅里叶变换
5
常见分布的特征函数
【单点分布】
f ( t ) pk e
k 1
itxk
e
ita
【二项分布】
f (t ) C p q
k 0 k n k
n
nk
e
itk
C ( p e ) q
k 0 k n it k
n
n k
( pe q)
it
n
【泊松分布】
it k ( e ) itk eit (eit 1) f (t ) e e e e e k! k 0 k ! k 0
6
k
【均匀分布】X~U [a, b]
【注1】 e
itx
cos tx i sin tx (欧拉公式)
3
【注2】 f (t ) cos txdF ( x ) i sin txdF ( x )
【注3】
特征函数的计算中用到复变函数,为此注意:
特征函数篇
性质3 (t ) 为某随机变量X的特征函数,则Y=c1X+c2 的特征函数为
Y (t ) e (c1t )
ic2t
性质4 X (t ),Y (t ) 为某随机变量X,Y 的特征函数, 若X,Y 独立,则
X Y (t ) X (t ) Y (t )
l ( t ) 为随机变量X 的特征函数, EX 存在 性质5 X
特征函数
天擎国际
定义
设X为 , F , P
概率空间中的实随机变量, (t ) Ee e dF ( x) 其特征函数为
itX itX X X
注记: Euler公式为 e
ix
cos x i sin x
注记: 特征函数是关于实变量t的复值函数, 由于 itx
| e || cos(tx) i sin(tx) | 1,
所以特征函数对一切实数t 均有意义. 注记: 特征函数只与分布有关,因此亦称为某 分布的特征函数。
离散型:若随机变量的分布律为
P( X xi ) pi , i 1,2,
则其特征函数为 X (t ) Ee
则
EX
k
(0)
(k ) X k
i
, k 1, 2,
,l
逆转公式与唯一性定理
1
定理1(逆转公式)设分布函数F(x)的特征函数为 (t 且 x , x2 为 F(x)的连续点,则
1 F ( x2 ) F ( x1 ) lim T 2 eitx1 eitx2 T it d (t )dt
· 二项分布B(n,p)
X (t ) pe q
it
X (t ) ( pe q)
常见分布的特征函数
常见分布的特征函数特征函数概述特征函数是概率论和数理统计中的常用概念,它是一个复数函数,描述了随机变量的特征信息。
对于一个随机变量X,它的特征函数f(t)定义为:f(t) = E[e^(itX)],其中i为虚数单位,E为期望运算符。
特征函数不仅对概率密度函数具有很好的描述和表达作用,还可以描述随机变量的各种性质,比如分布、矩和相关系数等。
下面将具体介绍几种常见的分布的特征函数。
1.正态分布正态分布是自然界中多种现象的分布模式,其概率密度函数在数学上也能很好地描述为高斯函数。
其特征函数如下:f(t) = e^(-t^2/2)该特征函数具有良好的解析性质和奇偶性质,能很好地反映正态分布的对称性和峰态。
2.泊松分布泊松分布是描述单位时间内某个随机事件发生次数的概率分布,例如单位时间内打进一个电话亭电话而来的电话数量、在网球场内接到的球的数量等。
其特征函数如下:f(t) = e^(λ(e^(it)-1))其中λ为单位时间内事件发生的平均次数。
3.指数分布指数分布是描述随机事件发生的时间间隔的概率分布,例如寿命、等待时间、顾客到达时间等。
其特征函数如下:f(t) = 1 / (1-it/λ),其中λ为事件发生的平均速率。
4.卡方分布卡方分布是应用最广泛的概率分布之一,常用于分析样本差异性和偏离程度,例如方差分析、偏度分析、正态性检验等。
其特征函数如下:f(t) = (1-2it)^(-k/2)其中k为自由度。
5. beta分布beta分布是应用广泛的概率分布之一,常用于贝叶斯统计、假设检验、数据挖掘等领域。
其特征函数如下:f(t) = B(a+it,b-it) / B(a,b)其中B(a,b)表示beta函数,a,b为形状参数。
上述几种分布是常见的概率分布,它们的特征函数形式各不相同,但都能很好地反映分布的各种性质和特点,为进一步分析和研究提供了便利。
随机过程及应用:预备知识:特征函数
e
jtxφ(t
)dt
反演公式
注
因
φ(t)
e
jtx
f
(
x)dx
对于连续型随机变量X,概率密度与特征 函数互为富氏变换.
特征函数
推论3 随机变量X 是离散型的,其分布律为
pk PX k, k 0,1,2.
则 φ(t ) pke jkt , t R. k
1
pk 2π
π e j tkφ(t )dt
φ(t) e jt0(1 p) e jt1 p 1 p pe jt q pe jt , t R.
Ex.3 二项分布 φ(t) (q pe jt )n , t R
Ex.4 泊松分布 φ(t ) e(e jt 1) , t R
Hale Waihona Puke 特征函数Ex.5 指数分布
ex ,
f (x) 0,
e
jtxdF
(
x)
求随机变 量函数的 数学期望
注 1)t R, costx 和 sintx 均为有界函数, 故
E(e jtX ) 总存在.
2) E(e j是tX )实变量t 的函数.
特征函数
定义5.1 设X是定义在(Ω,F , P )上的随机变 量,称
φ(t ) E(e jtX )
e
jtxdF
π
反演公式
证 设 s 有N ,
πe jtsφ(t )dt π
π π
pk e jkte jtsdt
k
特征函数
π
π psdt
π π
pke
jt(k s)dt
2ps
0
k
ks
其中当k s时
π
e
jt(k s)dt
求特征函数的公式
求特征函数的公式特征函数是概率论中的一个重要概念,它是随机变量的一种表现形式。
特征函数能够描述随机变量不同的特性和属性,同时也是各种数学方法和统计学方法的基础。
在进行随机变量的分析和求解时,往往需要先求出其特征函数,根据特征函数来推导随机变量的概率分布函数、矩等基本性质。
因此,本文将详细介绍求特征函数的公式和相关知识。
一、什么是特征函数?特征函数是一种与随机变量(或者随机向量)相关的函数,它能够完整地描述该随机变量的全部性质和特征。
特征函数是唯一的,具有一致性、可加性、正定性、连续性等性质。
特别是对于连续性随机变量,它的特征函数具有很好的解析性质。
因此,特征函数被广泛应用于概率论、数学统计、信号处理、图像处理等领域。
特征函数是一个复值函数,定义为:$$\varphi_X(t)=\mathrm{E}\left(e^{itX}\right)$$ 其中,$t$是实数、$i$是虚数单位(即$i^2=-1)$,$X$是一个随机变量。
特征函数的实部和虚部分别对应着随机变量的余弦变换和正弦变换的性质。
如果随机变量$X$的概率密度函数为$f_X(x)$,那么特征函数可以用$f_X(x)$来表示:$$\varphi_X(t)=\int_{-\infty}^{+\infty}e^{itx}f_X(x)dx$$二、特征函数的性质1、一致性如果两个随机变量$X$和$Y$有相同的分布,则它们的特征函数是相同的,即$\varphi_X(t)=\varphi_Y(t)$。
2、可加性如果$X$和$Y$是两个独立的随机变量,则它们的和$Z=X+Y$的特征函数等于它们各自特征函数的乘积,即$\varphi_Z(t)=\varphi_X(t)\varphi_Y(t)$。
3、正定性对于特征函数$\varphi(t)$的任何一个复数系数$c_1,c_2,...,c_n$和任意实数$t_1,t_2,...,t_n$,有:$$\sum_{k,l=1}^nc_k\overline{c_l}\varphi(t_k-t_l)\geq0$$其中,$\overline{c_l}$表示$c_l$的共轭复数。
1.4.11.4特征函数的定义
,
i
则
MY
t
M n
i1 Xi
ait
20 X
X1,, X n 为n维实值随机向量,
t
M
t
t1,, E
tn e(
Rn,X的 矩 E X1t1 X ntn )
母 e
函数
X ,t
定
义
为
,
X
30 矩母函数与分布函数也是一一对应关系 .
13
E e i X ,t
n维实值随机向量的特征函数为n元函数.
10
矩母函数
概率空间,F , P 上实值随机变量X ,密度函数 为p x,t R,矩母函数定义为
MX t
E etX
etx p x dx
t 2 x2
1
tx
2!
t n xn
n!
p
x
dx
1 tEX t 2 E X 2 t n E X n
50 X t 一致连续.
0,
X t h X t eitx eihx 1 p x dx
a
e ihx 1 p x dx e ihx 1 p x dx 2 p x dx
a
x a
1) 取 a 充 分 大 ,使 得 2 p x dx
2) x a , 取 h x a
目录
条件期望 特征函数
1
目录
1.4 特征函数的定义
从傅里叶变换到特征函数,再到矩母函数
2
特征函数前传
一 、卷积
如果随机变量X 与Y 相互独立,则它们的和 Z X Y的密度函数等于X 与Y 密度函数的 卷积:
fZ z f X x * fY y
f Z z f X x fY z x dx
§1-4 特征函数
三、多元特征函数
多元特征函数的 性质
设随机向量(X1, …,Xn)的各个分量相互独立, 则
X ,, X (t1,, tn ) X (t1 ) X (tn )
1 n 1 n
二.特征函数的性质
二、特征函数的性质
特征函数的 性质
(1)有界性
X (t ) X (0) 1
(2)线性变换
aX b (t ) eibt X (at)
二、特征函数的性质
特征函数的 性质
(3)特征函数与原点矩的关系
(k) k k ( 0 ) i E ( X ) X
(k) E ( X k ) i k X (0)
1 n lim P {| X i μ | ε} 1 n n i 1
或
1 n lim P {| X i μ | ε} 0 n n i 1
二、特征函数的性质
例 题8
运用特征函数证明: Lindeberg – Levy 中心极限定理。
回顾:Lindeberg – Levy 中心极限定 理
(4)离散型随机变量 X 的特征函数为
(t ) E{eitX } pk eitx
k k
k
(costxk ) pk i (sin txk ) pk
k
一、特征函数的概念
(t ) E{eitX } pk eitx
k k
k
例 题1
(costxk ) pk i (sin txk ) pk
(2) X1 ,, X n (t1, , tn ) ei(t1x1 tn xn ) dFX1 ,, X n ( x1 ,, xn )
14特征函数
2) g(t ) g(t ).
性质2:设随机变量X的特征函数为 g X t ,则 Y=aX+b的特征函数是 gY (t ) e gX (at ).
ibt
Ex.6 设Y~N(μ,σ2 ),求其特征函数. 解:设X~N( 0,1),有Y =σX+μ, 且
问题
能否由X的特征函数唯一确定其分布函数?
φ(t ) F ( x )
φ(Байду номын сангаас )
F ( x ) ?
函数分别为 F x 和 t ,则对任意的 x1,x2 R1,有:
(1)
(逆转公式) 设随机变量 的分布函数和特征 定理1
F x2 0 F x2 0 2 1 e lim 2 l l
如果f ( t1 , t 2 , , t n )是(1 , 2 , , n )的特征函数 则 a11 a2 2 an n的特征函数为
f (t ) f (a1t , a2t ,, ant )
(3) 性质3
n
如果矩E( )存在,则 kn E (1k1 2k2 n )
T1
T2
T1 T2
Tn
Tn
k 1
n
e
i t k ak
e i tk
i t k bk
f ( t1 , t 2 , , t n )d t1 d t 2 d t n
其中ak 和bk 都是任意实数,但须满足唯一的要求: (1 , 2 ,, n )落在平行体ak xk bk , k 1, 2, , n 的面上的概率等于零
§4.4 特征函数
特征函数知识点总结归纳
特征函数知识点总结归纳一、定义及用处1. 定义特征函数是描述输入数据特征的函数,其作用是将输入数据映射到输出数据的过程中。
特征函数可以是简单的数学函数,也可以是复杂的复合函数,其形式通常由具体的问题和建模任务所决定。
特征函数在统计学和机器学习中有着广泛的应用,它是数据建模和分析中不可或缺的组成部分。
2. 用处特征函数在机器学习和统计建模中有着重要的作用,它可以用于描述输入数据的特征,帮助模型更好地理解和理解数据。
通过特征函数,我们可以将原始数据映射到模型可理解和可处理的特征空间中,从而提高模型的表达能力和泛化能力。
此外,特征函数还可以帮助模型更好地适应现实世界中复杂多变的数据分布,从而提高模型的预测精度和鲁棒性。
二、常见类型特征函数的类型多种多样,根据其在模型中的位置和作用不同,可以将其划分为输入特征函数、隐变量特征函数、输出特征函数等不同类型。
下面我们分别对这几种常见的特征函数进行介绍和分析。
1. 输入特征函数输入特征函数是描述输入数据特征的函数,其作用是将原始输入数据映射到模型可理解和可处理的特征空间中。
输入特征函数通常用于对原始数据进行预处理和特征提取,帮助模型更好地理解和利用数据。
输入特征函数的形式多种多样,可以是简单的数学函数,也可以是复杂的数据转换算法。
常见的输入特征函数包括多项式特征、核函数特征、傅立叶变换特征等。
2. 隐变量特征函数隐变量特征函数是描述隐变量特征的函数,其作用是将隐变量映射到模型可理解和可处理的特征空间中。
隐变量特征函数通常用于隐变量模型的建模和推断,帮助模型更好地理解和解释数据。
隐变量特征函数的形式多种多样,可以是简单的数学函数,也可以是复杂的变分推断算法。
常见的隐变量特征函数包括指数族分布特征、隐变量模型特征、潜在变量特征等。
3. 输出特征函数输出特征函数是描述输出数据特征的函数,其作用是将模型预测的输出数据映射到可观测的特征空间中。
输出特征函数通常用于对模型输出进行后处理和特征解释,帮助模型更好地理解和利用预测结果。
特征函数和特征值
特征函数和特征值特征函数和特征值是线性代数中的重要概念,它们在矩阵的理论和应用中都有着广泛的应用。
本文将围绕特征函数和特征值展开,介绍它们的定义、性质、求解方法及其在实际问题中的应用。
一、特征函数和特征值的定义1. 特征函数特征函数是指对于一个n阶方阵A,存在一个非零向量x,使得Ax=kx成立,其中k为一个标量。
这个方程称为矩阵A关于k的特征方程,而k则称为矩阵A的一个特征值。
由此可见,特征函数是与矩阵相关联的一个函数。
2. 特征值根据上述定义可知,矩阵A关于k的特征方程Ax=kx成立时,k即为矩阵A的一个特征值。
每个n阶方阵都有n个特征值。
二、特征函数和特征值的性质1. 特殊性质(1)如果一个n阶方阵A有n个不同的特征值,则它一定可以被对角化。
(2)如果两个n阶方阵A、B相似,则它们具有相同的特征值。
(3)如果一个n阶方阵A是实对称矩阵,则它的特征值都是实数。
(4)如果一个n阶方阵A是正定矩阵,则它的特征值都是正数。
2. 求解方法求解矩阵的特征值和特征向量有多种方法,下面介绍两种常用的方法。
(1)特征多项式法设A为n阶方阵,I为n阶单位矩阵,则其特征多项式为f(λ)=det(A-λI),其中λ为变量。
由于f(λ)是一个n次多项式,因此有n个根,即为A的n个特征值。
(2)幂法幂法是一种迭代算法,通过不断迭代矩阵与向量的乘积来逼近特征向量。
假设有一个初始向量x0,通过不断迭代可以得到x1=Ax0、x2=Ax1=AAx0、x3=Ax2=AAAx0……直到收敛为止。
此时,xk即为A的最大特征值所对应的特征向量。
三、特征函数和特征值在实际问题中的应用1. 特殊结构问题在计算机图形学中,对于一个三维物体进行旋转时,可以使用特征值和特征向量来计算旋转矩阵。
此外,在工程中,特征值和特征向量还可以用于求解桥梁、建筑物等结构的振动频率和振动模态。
2. 数据分析问题在数据分析领域,特征值和特征向量可以用于PCA(Principal Component Analysis)降维算法。
特征函数
it n
= k = ) • Poisson分布的特征函数 P ( X
λk
k!
e−λ
ϕ (t ) = e
λ ( e it −1)
• 均匀分布的特征函数
it
X ~ U [0,1]
n
e −1 ϕ (t ) = it
一些特殊分布的特征函数:
• 指数分布的特征函数 f ( x ) = e
θ
1
− x
θ
ϕ (t ) = (1 − iθ t )
性质4: 设 r.v. ξ 的n阶矩存在,则 ξ 的特征 函数可微分n次,且对任意 k ≤ n ,有
ϕ
即
(k )
(0) = i
ϕ
k
Εξ
k
Εξ =
k
(k )
(0)
i
k
特征函数的定理
定理1 逆转公式.
设分布函数F(x)的特征函数为g(t),又x1,x2是 F(x)的两个连续点,则
1 F ( x1 ) − F ( x2 ) = lim T →∞ 2π e −itx1 − e −itx2 ∫−T it g (t )dt
这里ϕ(t) 表示ϕ (t )的共轭
性质2: η = aξ + b 的特征函数,
ibt ( ) ϕ η t = e ϕ ξ (at )
性质3: 设
ξ1 , ξ 2 的特征函数分别为 ϕ1 (t ), ϕ 2 (t )
,
又 ξ1 , ξ 2 相互独立,则 η = ξ1 + ξ 2 的特征函数为
ϕη (t ) = ϕ1 (t )ϕ 2 (t )
= eitx cos(tx) + i sin(tx) (1) 欧拉公式:
(2) 复数的共轭: a + bi =a − bi (3) 复数的模:
特征函数讲解
1 T ei t ( x x1 ) ei t ( x x2 ) dt {0 2π it i z ( x x1 ) 0e e i z ( x x2 ) d z }d F ( x )(换元z - t ) T iz 1 T ei t ( x x1 ) e i t ( x x1 ) ei t ( x x2 ) e i t ( x x2 ) d t }d F ( x ) {0 2π it 1 T sin t ( x x1 ) sin t ( x x2 ) { [ ]d t }d F ( x ) π 0 t t
为的特征函数(characteristic function)
由于 | eitx || cos tx i sin tx | 1,因而此积分是绝 对收敛的,因而对一切t 都有意义.
3. 离散情形与连续情形下的特征函数
设随机变量的分布列为P { xk } pk , k 1, 2, , n, 则其特征函数为 f ( t ) pk e itxk .
ix 0 0
因此
|
e
i tx1
e it
i tx2
e
i tx
| x2 x1
经过交换积分次序我们可以得到
1 T e i tx1 e i tx2 i tx IT {T i t e d t }d F ( x ) 2π
1 T ei t ( x x1 ) ei t ( x x2 ) dt {0 2π it i t ( x x1 ) 0 e e i t ( x x2 ) d t }d F ( x ) T it
2. 定义
定义 4.5.1 如果与都是概率空间 (,F,P)上的 实值随机变量,则称=+i的复随机变量. 复随机变量=+i的数学期望为E()=E()+iE()
特征函数
具有尺度参数 θ 和形状参数 k 的伽玛分布的特征函数为:
。 现在假设我们有:
且 其中 X 和 Y 相互独立,我们想要知道 X + Y 的分布是什么。X 和 Y 特征函数分别为:
根据独立性和特征函数的基本性质,可得: 。
这就是尺度参数为 θ、形状参数为 k1 + k2的伽玛分布的特征函数,因此我们得出结论: ,
相关概念
相关概念有矩母函数和概率母函数。特征函数对于所有概率分布都存在,但矩母函数不是这样。
特征函数与傅里叶变换有密切的关系:一个概率密度函数 换的共轭复数(按照通常的惯例)。
的特征函数是
的连续傅里叶变
其中 表示概率密度函数 :
的连续傅里叶变换。类似地,从 可以通过傅里叶逆变换求出
。 确实,即使当随机变量没有密度时,特征函数仍然可以视为对应于该随机变量的测度的傅里叶变换。
期望值。另外,注意到 个独立的观测的样本平均值 具有特征函数 ,利用前一节的结果。这 就是标准柯西分布的特征函数;因此,样本平均值与总体本身具有相同的分布。 特征函数的对数是一个累积量母函数,它对于求出累积量是十分有用的;注意有时定义累积量母函 数为矩母函数的对数,而把特征函数的对数称为第二累积量母函数。
这个结果可以推广到 n 个独立、具有相同尺度参数的伽玛随机变量:
。
多元特征函数
如果 是一个多元随机变量,那么它的特征函数定义为: 。
这里的点表示向量的点积,而向量 位于 的对偶空间内。用更加常见的矩阵表示法,就是: 。
例子
如果
是一个平均值为零的多元高斯随机变量,那么:
其中 表示正定矩阵 Σ 的行列式。
参考文献
^ P. Levy, Calcul des probabilités, Gauthier-Villars, Paris, 1925. p. 166 ▪ Lukacs E. (1970) Characteristic Functions. Griffin, London. pp. 350 ▪ Bisgaard, T. M., Sasvári, Z. (2000) Characteristic Functions and Moment Sequences, Nova Science
特征函数
e ikxx (k )dk
也就是说,概率密度函数 f(x) 与其特征 函数 x (k ) 是等价的。
4
为什么引入特征函数
问题:既然概率密度函数与特征函数一一对应, 给出任意一个都可以完全确定概率密度函数的 所有性质,为什么还需要引入特征函数?
很多问题直接用概率密度函数不易处理, 但用特征函数处理则非常方便。比如, 1)求独立随机变量之和的分布的卷积变为 乘法运算; 2)求n阶代数矩变为求n阶微分 ......
i 1 n
( xi i ) 2
i2
服从自由度为n的 2分布。
证:首先容易证明yi 概率密度函数为
xi i
i
服从标准高斯分布, 并且z yi 2的
dy 1 g ( z ) 2 ( yi ) e z / 2 f ( z; n 1) dz 2 z 即z服从ndf =1的 2分布,其特征函数为z (k ) (1 2ik ) 1/ 2。 若z yi2,显然特征函数为z (k ) (1 2ik ) n / 2 ,
2
(1 2ik ) n / 2 e |k |
柯西分布
1 1 f ( x) 1 x 2
柯西分布在k=0处不问题:既然概率密度函数与特征函数一一对应, 给出任意一个都可以完全确定概率密度函数的 所有性质,为什么还需要引入特征函数?
很多问题直接用概率密度函数不易处理, 但用特征函数处理则非常方便。比如, 1)求独立随机变量之和的分布的卷积变为 乘法运算; 2)求n阶代数矩变为求n阶微分 ......
i n
此即ndf =n的 2分布的特征函数。
14
中心极限定理(1)
特征函数
e cos t j sin t
(t ) E (e jt )
jt
E(cos t )+jE(sin t )
上页
下页
返回
3. 特征函数的计算
e jt cos t j sin t
cos( tx )dF ( x ) j sin( tx )dF ( x )
E ( Z ) E ( X ) jE (Y )
e jt cos(t ) j sin( t )
(t ) E(e jt )=E[ cos(t )] jE[sin( t )]
cos( tx )dF ( x ) j sin( tx )dF ( x )
下页
返回
注 意 点(1)
特征函数的计算中用到复变函数,为此注意: (1) 欧拉公式:
eitx cos(tx) i sin(tx)
(2) 复数的共轭: a bi a bi (3) 复数的模:
a bi a 2 b2
上页
下页
返回
例4.1.1 设随机变量ξ 服从退化分布, 即 P{ c} 1 求X 的特征函数.
定理4.1.2(反演公式) 设随机变量ξ 的分布函数和特征函 数分别为F ( x ) 和 ( t ), 则对于F ( x ) 的任意连续点 x1 和x2 ( x1 x2 ) , 有
1 F ( x2 ) F ( x1 ) lim T 2
x1 x 2 x 2 x1 ,h , 若记 a 2 2
e jtx dF ( x )
上页
下页
返回
一、定义及例
1. 特征函数的定义 定义4.1.1 设ξ 是定义在概率空间 (, F , P )上的随机变量, 它 的分布函数为 F ( x ), 称 e jt 的数学期望 E(e jt ) 为ξ 的特征函数. 有时也称为分布函数 F ( x ) 的特征函数, 其中 j 1, t R. 记ξ 的特征函数为 ( t ), 在不会引起混乱的情况下简写为 ( t ).
第一节.特征函数
常用分布的特征函数 (1)单点分布: P ( X a ) 1
特征函数 ( t ) E (e ) e 1 (2)0 1分布 : X 0 P 1 p p 特征函数 (t ) E (e itX ) e it 0 (1 p) e it 1 p (1 p) pe it
n
n
j
)zk z j 0
定理3(逆转公式) 设F ( x )和 (t )分别为随机变量 X的分布函数和特征函数 ,
则对F ( x )的任意两个连续点 x1 x2 , 有 1 T e itx1 e itx2 F ( x1 ) F ( x2 ) lim ( t )dt T T 2π it
i
1 2 n
1
it (t ) 1 -
2
2
n 1 n / 2 (10) (n)分布 : ( n) Ga( , ) ( t ) 1 - 2it 2 2
例1 求伽玛分布 Ga(, )的数学期望和方差 .
it 解:已知特征函数为 ( t ) 1 - 1 i i it (0) 则 (t ) 1 - 2 2 2 ( 1)i 1)i it (0) (t ) ( 2 1 2 (0) ( 1) 2 (0) E( X ) 2 2 E( X ) i i 2 ( 1) 2 2 Var( X ) EX ( EX ) 2 2 ( 1) 2 2 2
定理4(唯一性定理)
随机变量的分布函数由 其特征函数唯一决定 .
定理5
设连续r .v .X的密度函数和特征函数 分别为p( x )和 (t ) , 若 | (t )|dt ,则 1 itx p( x ) e ( t )dt 2
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
( t ) (q pe jt )n
求随机变量X 的分布律.
广 东 工 业 大 学
返 回
前一页
后一页
概 率 论
§4.2 多维随机变量的特征函数 一、定义及例
二、二维随机变量特征函数的性质
三、相互独立随机变量和的特征函数
广 东 工 业 大 学
返 回
前一页
后一页
概 率 论
一、定义及例
定义4.2.1 设(X, Y) 是一个二维随机变量, 其分布函数为F ( x, y ),
返 回
前一页
后一页
概 率 论
波赫纳-辛钦定理 若函数 (t ), (t R) 连续,非负定且 (0) 1 ,
则 (t ) 必为特征函数.
广 东 工 业 大 学
返 回
前一页
后一页
概 率 论
三、特征函数与矩的关系
定理4.1.1 设随机变量X 的n 阶矩存在, 则X 的特征函数 (t ) 的 k 阶导数 ( k ) ( t ) 存在, 且
)
E(cos Xt )+jE(sin Xt )
返 回
前一页
后一页
概 率 论
3. 特征函数的计算 e jtX cos(tX ) j sin( tX ) ( t ) E (e jtX ) e jtX dF ( x )
cos( tx )dF ( x ) j sin ( tx )dF ( x )
( t ) E( e
jtX
)
e jtX f ( x )dx
( t ) e jtX e x dx
0
(cos tx i sin tx ) e x dx
0
0
cos txe
2
x
dx i
+
0
sin txe x dx
jtX
) 为X 的特征函数.
有时也称为分布函数 F ( x ) 的特征函数, 其中 j 1, t R. 记X 的特征函数为 X (t ), 在不会引起混乱的情况下简写为 (t ).
广 东 工 业 大 学
返 回
前一页
后一页
概 率 论
一、定义及例
1. 特征函数的定义 定义4.1.1 设X 是定义在概率空间(, F , P ) 上的随机变量, 它 的分布函数为 F ( x ), 称 e jtX 的数学期望 E (e
概 率 论
随机变量的数字特征只反映随机变量取值某些方面的特征, 一般并不能通过它来确定随机变量的分布函数。引进一个工具, 既能与分布函数一一对应,但比分布函数具有更好的分析性质。
虚数单位
i
i 2 1, i 1
j
j 1,
2
j 1
Z a bj
欧拉公式
jt
Z a bj =r(cos i sin )
( t 1 , t 2 ) E [e
j ( t1 X t 2Y )
]
e j ( t1 x t2 y ) dF ( x , y )
称 (t1 , t 2 ) 为 ( X ,Y ) 的特征函数.
离散型:
广 东
( t 1 , t 2 ) E [e
t1 ,t 2 为任意实数, 记
( t 1 , t 2 ) E [e
j ( t1 X t 2Y )
]
e j ( t1 x t2 y ) dF ( x , y )
称 (t1 , t 2 ) 为 ( X ,Y ) 的特征函数.
连续型:
广 东 工
( t 1 , t 2 ) E [e
1 F ( x2 ) F ( x1 ) lim T 2
x1 x 2 x 2 x1 ,h , 若记 a 2 2
e jtx1 e jtx 2 ( t )dt T jt
T
(4.1.8)
则(4.1.8)等价于
1
T
广 东 工 业 大 学
F (a h) F (a h) lim
jtX
) 为X 的特征函数.
有时也称为分布函数 F ( x ) 的特征函数, 其中 j 1, t R. 记X 的特征函数为 X (t ), 在不会引起混乱的情况下简写为 (t ).
e jtX cos tX j sin tX
广 东 工 业 大 学
( t ) E (e
jtX
广 东 工 业 大 学
2 t
+i 2
t 2 t2
返 回 前一页 后一页
概 率 论
二、特征函数的性质
性质4.1.1 随机变量X 的特征函数满足:
(1) | ( t ) | (0) 1;
( 2) ( t ) ( t ).
性质4.1.2 设X 的特征函数为 X (t ) , 则 Y aX b 的特征函数为
sin th jta T t e (t )dt T
返 回 前一页 后一页
概 率 论
四、反演公式及唯一性定理
1 F ( x2 ) F ( x1 ) lim T 2 e jtx1 e jtx 2 dt T jt
T
反演公式 (4.1.8)
P{ x1 X x2 }
Y ( t ) e X (at )
jbt
Y ( t ) Ee itY
(aX+b) Ee it EeitaX eitb eitb X at
广 东 工 业 大 学
返 回
前一页
后一页
概 率 论
性质4.1.3 随机变量X 的特征函数 (t ) 在R上一致连续.
广 东 工 业 大 学
a a
, a x a , 其他
( t ) e
1 dx 2a
x a x a
广 东
1 jtx = e 2ajt
当t=0时,
( 0 )
1 = sin at at
0
(t 0)
工 业 大 学
e f ( x )dx =1
返 回 前一页 后一页
概 率 论
例4.1.6 设随机变量X 服从参数为 的指数分布, 求其特征函数.
连续点:
F ( x ) lim [ F ( x ) F ( x1 )]
x1
1 lim lim x1 T 2
e jtx1 e jtx ( t )dt T jt
T
广 东 工 业 大 学
不连续点:
F ( x 0) F ( x ) ~ F ( x) 2 ~ (t ) F ( x )
后一页
概 率 论
例4.1.2 设随机变量X 服从参数为p 的0-1分布(两点分布), 求其 特征函数.
( t ) E( e jtX ) e jtx pk
k
k
( t ) e jt1 p+e jt0 1-p
e jt p+q
广 东 工 业 大 学
返 回
前一页
后一页
概 率 论
( pe +q)
jt
n
广 东 工 业 大 学
返 回
前一页
后一页
概 率 论
例4.1.4 设随机变量X 服从参数为 的泊松分布, 求其特征函数.
( t ) E( e jtX ) e jtx pk
k
k
( t ) e itk
k 0
k e
k!
k (e it ) e k! k 0
j ( t1 X t 2Y )
]
e
j ( t1 x t 2 y )
f ( x , y )dxdy
业 大 学
返 回
前一页
后一页
概 率 论
一、定义及例
定义4.2.1 设(X, Y) 是一个二维随机变量, 其分布函数为F ( x, y ),
t1 ,t 2 为任意实数, 记
返 回 前一页 后一页
概 率 论
推论1(惟一性定理) 分布函数 F1 ( x ) 及 F2 ( x ) 恒等的充分必要条
件为它们的特征函数 1 (t ) 及 2 ( t ) 恒等.
广 东 工 业 大 学
返 回
前一页
后一页
概 率 论
推论2 设随机变量X 的特征函数 (t )于R 上绝对可积, 则X 为具 有密度函数 f ( x ) 的连续型随机变量, 且
概 率 论
特征函数
§4.1 一维特征函数的定义及其性质 §4.2 多维随机变量的特征函数 §4.3 母函数
广 东 工 业 大 学
返 回
前一页
后一页
概 率 论
§4.1 一维特征函数的定义及其性质 一、定义及例
二、性质
三、特征函数与矩的关系 四、反演公式及惟一性定理
广 东 工 业 大 学
返 回
前一页
后一页
P { X k } pk
k 3,2,1,0,1,2,3,
其特征函数为
( t)
则
1 pk 2
k
pk e jtk
e jtk ( t )dt
广 东 工 业 大 学
返 回
前一页
后一页
概 率 论
例 设X为只取0到n的整数的离散型随机变量,且其特征函数为
( t ) E (e jtX )