蒙特卡罗方法简介ppt课件
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
p(x)=ch(x)g(x),其中h(.)是一密度函数且易于抽样， 而0<g(x)1,c1是常数，则X~p(x)的抽样可如下进行 1）由U(0,1)抽取u，由h(y)抽取y； 2）如果ug(y),则x=y停止； 3）如果u>g(y),回到1） 上述方法就是筛选抽样法，它是一种非常重要的抽样 方法，可解决许多难以直接抽样的分布的抽样问题。
蒙特卡罗方法是一种计算方法，但与一般 数值计算方法有很大区别。它以概率统计理论 为基础。由于蒙特卡罗方法能够比较逼真地描 述事物的特点及物理实验过程，解决一些数值 方法难以解决的问题，因而该方法的应用领域 日趋广泛。
3
1.蒙特卡罗方法的基本 思想
理论基础：大数定律；中心极限定理； F(X)~U(0,1)。
一般来说，降低方差的技巧，往往会使观察一个子样 的时间增加。在固定时间内，使观察的样本数减少。 所以，一种方法的优劣，需要由方差和观察一个子样 的费用（使用计算机的时间）两者来衡量。这就是蒙 特卡罗方法中效率的概念。它定义为 2 c 其中c是观察一个子样的平均费用。
8
3. 蒙特卡罗方法的特点
➢ 优点
则
lim P N
N
X N E( X ) x
1 x et2 / 2dt
2 x
当N充分大P时 X，N 有 E如(X下) 的z近N 似 式22
z 0
et2 / 2dt
1
它表明，误差收敛速度的阶为
以概率1-α成立。 6
通常，蒙特卡罗方法的误差ε定义为 z
N
关于蒙特卡罗方法的误差需说明两点：
例2.1 设X的密度函数为
n
n
p x i pi x 其中，i 0, i 1
i 1
i 1
由合成法，X的随机数可如下抽取： i1
i
1）取u~U(0,1);
2)取0
0,确百度文库i，使
j
j0
u j j0
3) 由pi(x)抽取x.
11
2.3 筛选抽样 当p(x)难以直接抽样时，如果可以将p(x) 表示成
蒙特卡罗方法简介
陈萍
1
目录
• 第一章 蒙特卡罗方法概述 • 第二章 随机数的产生 • 第三章 EM算法和MCMC方法
参考书 :
1. 茆诗松等, 高等数理统计(第6章), 高等教育出版社,1998;
2.徐钟济，蒙特卡罗方法，上海科学技术出版社
2
第一章 蒙特卡罗方法概述
蒙特卡罗方法又称随机抽样技巧或统计试 验方法。
第一，蒙特卡罗方法的误差为概率误差，这与其他数值 计算方法是有区别的。 第二，误差中的均方差σ是未知的，必须使用其估计值
ˆ
1 N
N i 1
X
2 i
( 1 N
N i 1
Xi )2
来代替，在计算所求量的同时，可计算出ˆ 。
7
➢ 减小方差的各种技巧
显然，当给定置信度α后，误差ε由σ和N决定。 要减小ε，或者是增大N，或者是减小方差σ2。在σ 固定的情况下，要把精度提高一个数量级，试验次数 N需增加两个数量级。因此，单纯增大N不是一个有 效的办法。降低方差的各种技巧，引起了人们的普遍 注意。
存在一个函数M(x)，满足p(x)M(x),且 c M (x)dx
令h(x)=M(x)/c, 若h(x)易于抽样，则筛选抽样 变为 1）由U(0,1)抽取u，由h(y)抽取y； 2）如果up(y)/M(y),则x=y停止； 3）如果u> p(y)/M(y),回到1）。
13
例2.2 设
X
~
p(x)
12
筛选抽样的理论依据如下： 定理 设X的密度函数为p(x),且p(x)=ch(x)g(x)，其中 0<g(x)1,c1 ,h(.)是一密度函数.令U和Y分别服从 U(0,1)和h(y)，则在Ug(Y)的条件下，Y的条件密度为
pY x |U g Y p(x)
h(x)的的选取有多种方法。一种直观的方法是：如果
定理2.1 设随机变量U服从U(0,1)分布，则X F1 U 的分布函数为F(x). 由定理2.1,要生成分布函数为F(x)的随机数，可先生 成U(0,1)随机数U，则可得到随机数X=F-1(U)
10
2.2 合成法 如果X的密度函数p(x)难于抽样,而X关于Y的条件 密度函数p(x|y)以及Y的密度函数g(y)均易于抽样， 则X 的随机数可如下产生： Step1 由Y的分布g(y)抽取y; Step2 由X关于Y的条件密度函数p(x|y)抽取x.
1
x 1ex , x
0
0 1已知。
注意到
x 1
1
x 1ex
M
(x)
ex
0 x 1 x 1
c M xdx 1 e1
0
取
x 1
h
x
1 ex
e1
1 e1
0 x 1 x 1
➢ 缺点
1)能够比较逼真地描述具有 随机性质的事物的特点及 物理实验过程。
1) 收敛速度慢。 2) 误差具有概率性。
2)受几何条件限制小。
3)收敛速度与问题的维数无 关。
4)误差容易确定。
5)程序结构简单，易于实现。
9
2.1 逆变换法第二章 随机数的产生
设随机变量X的分布函数为F(x),定义
F 1( y) inf{x : F (x) y}, 0 y 1
4
例（利用MC进行欧式期权定价）设股票价格St服 从风险中性测度下的几何Brown运动：
dSt rStdt StdBt
其离散化形式为
Si1 (1 r)Si SiBi Bi ~ N (0,1) (1)
根据金融工程理论，设现在股票价格为S0，T时 刻到期（单位天），敲定价为K的欧式看涨期权
的价格为
C
erT E
ST
K
MC方案：按照（1）递推产生n条风险中性测度下的
轨道，提取出ST (n)；（2）Cˆ erT 1 n n i1
STi K
5
2. 蒙特卡罗方法的误差
根据中心极限定理如果随机变量序列X1，X2，…，XN 独立同分布，且具有有限非零的方差σ2 ，即
0 2 (x E(X ))2 f (x)dx
基本思想：
1.当所求问题的解是某个事件的概率，或者是某个随 机变量的期望，或与概率、数学期望有关的量时，通 过某种试验的方法，得出该事件发生的频率，或该随 机变量若干个观察值的算术平均值，根据大数定律得 到问题的解；
2. 要生成分布函数为F(x)的随机数，可先生成U(0,1)随 机数F，则可得到随机数X=F-1(F) 。
蒙特卡罗方法是一种计算方法，但与一般 数值计算方法有很大区别。它以概率统计理论 为基础。由于蒙特卡罗方法能够比较逼真地描 述事物的特点及物理实验过程，解决一些数值 方法难以解决的问题，因而该方法的应用领域 日趋广泛。
3
1.蒙特卡罗方法的基本 思想
理论基础：大数定律；中心极限定理； F(X)~U(0,1)。
一般来说，降低方差的技巧，往往会使观察一个子样 的时间增加。在固定时间内，使观察的样本数减少。 所以，一种方法的优劣，需要由方差和观察一个子样 的费用（使用计算机的时间）两者来衡量。这就是蒙 特卡罗方法中效率的概念。它定义为 2 c 其中c是观察一个子样的平均费用。
8
3. 蒙特卡罗方法的特点
➢ 优点
则
lim P N
N
X N E( X ) x
1 x et2 / 2dt
2 x
当N充分大P时 X，N 有 E如(X下) 的z近N 似 式22
z 0
et2 / 2dt
1
它表明，误差收敛速度的阶为
以概率1-α成立。 6
通常，蒙特卡罗方法的误差ε定义为 z
N
关于蒙特卡罗方法的误差需说明两点：
例2.1 设X的密度函数为
n
n
p x i pi x 其中，i 0, i 1
i 1
i 1
由合成法，X的随机数可如下抽取： i1
i
1）取u~U(0,1);
2)取0
0,确百度文库i，使
j
j0
u j j0
3) 由pi(x)抽取x.
11
2.3 筛选抽样 当p(x)难以直接抽样时，如果可以将p(x) 表示成
蒙特卡罗方法简介
陈萍
1
目录
• 第一章 蒙特卡罗方法概述 • 第二章 随机数的产生 • 第三章 EM算法和MCMC方法
参考书 :
1. 茆诗松等, 高等数理统计(第6章), 高等教育出版社,1998;
2.徐钟济，蒙特卡罗方法，上海科学技术出版社
2
第一章 蒙特卡罗方法概述
蒙特卡罗方法又称随机抽样技巧或统计试 验方法。
第一，蒙特卡罗方法的误差为概率误差，这与其他数值 计算方法是有区别的。 第二，误差中的均方差σ是未知的，必须使用其估计值
ˆ
1 N
N i 1
X
2 i
( 1 N
N i 1
Xi )2
来代替，在计算所求量的同时，可计算出ˆ 。
7
➢ 减小方差的各种技巧
显然，当给定置信度α后，误差ε由σ和N决定。 要减小ε，或者是增大N，或者是减小方差σ2。在σ 固定的情况下，要把精度提高一个数量级，试验次数 N需增加两个数量级。因此，单纯增大N不是一个有 效的办法。降低方差的各种技巧，引起了人们的普遍 注意。
存在一个函数M(x)，满足p(x)M(x),且 c M (x)dx
令h(x)=M(x)/c, 若h(x)易于抽样，则筛选抽样 变为 1）由U(0,1)抽取u，由h(y)抽取y； 2）如果up(y)/M(y),则x=y停止； 3）如果u> p(y)/M(y),回到1）。
13
例2.2 设
X
~
p(x)
12
筛选抽样的理论依据如下： 定理 设X的密度函数为p(x),且p(x)=ch(x)g(x)，其中 0<g(x)1,c1 ,h(.)是一密度函数.令U和Y分别服从 U(0,1)和h(y)，则在Ug(Y)的条件下，Y的条件密度为
pY x |U g Y p(x)
h(x)的的选取有多种方法。一种直观的方法是：如果
定理2.1 设随机变量U服从U(0,1)分布，则X F1 U 的分布函数为F(x). 由定理2.1,要生成分布函数为F(x)的随机数，可先生 成U(0,1)随机数U，则可得到随机数X=F-1(U)
10
2.2 合成法 如果X的密度函数p(x)难于抽样,而X关于Y的条件 密度函数p(x|y)以及Y的密度函数g(y)均易于抽样， 则X 的随机数可如下产生： Step1 由Y的分布g(y)抽取y; Step2 由X关于Y的条件密度函数p(x|y)抽取x.
1
x 1ex , x
0
0 1已知。
注意到
x 1
1
x 1ex
M
(x)
ex
0 x 1 x 1
c M xdx 1 e1
0
取
x 1
h
x
1 ex
e1
1 e1
0 x 1 x 1
➢ 缺点
1)能够比较逼真地描述具有 随机性质的事物的特点及 物理实验过程。
1) 收敛速度慢。 2) 误差具有概率性。
2)受几何条件限制小。
3)收敛速度与问题的维数无 关。
4)误差容易确定。
5)程序结构简单，易于实现。
9
2.1 逆变换法第二章 随机数的产生
设随机变量X的分布函数为F(x),定义
F 1( y) inf{x : F (x) y}, 0 y 1
4
例（利用MC进行欧式期权定价）设股票价格St服 从风险中性测度下的几何Brown运动：
dSt rStdt StdBt
其离散化形式为
Si1 (1 r)Si SiBi Bi ~ N (0,1) (1)
根据金融工程理论，设现在股票价格为S0，T时 刻到期（单位天），敲定价为K的欧式看涨期权
的价格为
C
erT E
ST
K
MC方案：按照（1）递推产生n条风险中性测度下的
轨道，提取出ST (n)；（2）Cˆ erT 1 n n i1
STi K
5
2. 蒙特卡罗方法的误差
根据中心极限定理如果随机变量序列X1，X2，…，XN 独立同分布，且具有有限非零的方差σ2 ，即
0 2 (x E(X ))2 f (x)dx
基本思想：
1.当所求问题的解是某个事件的概率，或者是某个随 机变量的期望，或与概率、数学期望有关的量时，通 过某种试验的方法，得出该事件发生的频率，或该随 机变量若干个观察值的算术平均值，根据大数定律得 到问题的解；
2. 要生成分布函数为F(x)的随机数，可先生成U(0,1)随 机数F，则可得到随机数X=F-1(F) 。