任意分布随机序列的产生方法

合集下载

3章-随机数与随机变量PPT

1
第三章随机数与随机变量
2
①设置仿真钟=0 ②初始化系统状态与统计计数器 ③初始化事件列表
开始
主程序 (0)激活初始化程序
(0) (1)激活时间推进程序 (2)激活事件发生程序i
重复
(1) ①确定下一事件类型，如i ②推进仿真钟
i
(1)更新系统状态 (2)更新统计计数器 (3)产生将来事件并添加到事件列表中
设具有独立同分布的随机变量 X1 , X 2 ,…, X m ，令
Y X1 X2 L Xm
m
Y Y 则的分布函数与 Xi 的分布函数相同，此时称的 i1
分布为 X i 的 m 折卷积。为了生成 Y ，可先独立地
从相应分布函数产生随机变量 X1 , X 2 ,…, X m ，然后
利用上式得到 Y ，这就是卷积法。
14
例：特定供应商提供的发动机次品率为10%，求批量为5的发动机中每批的次品数
❖binomial(0.1,5)
分布列如表
15
3.3 随机数发生器
❖ 对不同的系统或者过程进行仿真时，如果系统或过程本身包含固有的随机组成成分，就需要一定的方法来生成或者获得随机的数值。例如，排队系统中的时间间隔，服务时间，库存系统中的需求量等。在计算机仿真中，能否产生具有一定性能要求的随机数是决定仿真是否可信的重要因素之一。
逆变换法生成随机变量。
5
❖ 随机实验：一个可观察结果的人工或自然过程，所产生的结果可能不止一个，但事先不能确定会产生什么结果。例：骰子
❖ 样本空间：一个随机实验的全部可能出现的结果的集合，记为Ω 。
❖ 随机事件：一个随机实验的一些可能的结果，是样本空间的一个子集
❖ 概率分布：如果样本空间上的所有随机事件都确定了概率，这些概率构成样本空间的一个概率分布

各种随机变量的生成方法

各种随机变量的生成方法（1）.随机数的计算机生成一个常用的生成任意分布的随机变量的方法是先生成均匀分布的随机变量，再由它生成任意分布的随机变量。

基本原理是：若随机变量x的累积概率分布函数（即概率密度函数的积分）为Phi(x)，则Phi(x)是[0,1]区间的非减函数，Phi(x)的反函数Phi^{-1}(x)定义域为[0,1]。

设u为[0,1]区间均匀分布的随机变量，可以证明Pr(Phi^{-1}(u)<=y)=Pr(u<=Phi(y))=Phi(y)也就是说，令x=Phi^{-1}(u)的话，x的累积概率分布函数就是我们指定的Phi(.)。

则为了得到累积概率分布函数为Phi(.)的随机变量x，我们需要经过如下步骤：1.生成[0,1]区间的均匀分布的随机变量u2.令x=Phi^{-1}(u)这种方法被成为逆变换方法。

但在实际工作中，我们往往对某些常用分布用一些直接生成方式来产生，以代替逆变换方法。

以下就介绍了一些典型的分布的生成方法。

这些生成方法都是以生成均匀分布的随机变量为基础的，关于均匀分布随机变量的生成另文叙述。

（2）伯努利分布/0-1分布（Bernouli Distribution）生成离散0－1随机变量x，符合参数为p（0<p<1）的Bernouli分布BE(p)。

其累积概率分布函数为：F(x)=p if x=1F(x)=1-p if x=0生成算法：1.产生随机变量u符合(0,1)区间的均匀分布2.if u<=p then x=1;else x=03.返回x（3）二项分布（Binomial Distribution）生成离散随机变量x，符合参数为n,p的Bernouli分布BE(n,p)。

其累积概率分布函数为F(x)=\frac{n!}{(n-x)!x!}*p^x*(1-p)^{n-x},x=0,1,2,...,n生成算法：1.产生y_1,y_2,...,y_n符合Bernouli分布BE(p)2.返回x=y_1+y_2+...+y_n（4）柯西分布（Cauchy Distribution）生成随机变量x，符合参数为alpha,beta的Cauchy分布C(alpha,beta)。

第一章随机序列

第一章随机序列前言：这一章是本书的预备知识. 我们借助于实例，用较通俗的语言引入平稳随机序列的概念. 然后介绍平稳随机序列的描述方法，并且对平稳序列中的“频谱分析方法”、“相关分析方法”及“参数化方法”之间的关系给予简要说明. 另外，还将介绍两种常用的估计方法，以备后用.讨论描述随机过程的方法必须注意①随机过程表面上杂乱无章（如Brownian Motion ）但是，它既然是客观事物和数量表征，必然有其内在的规律；②为了掌握和利用这些随机过程所表现出来的规律，需要一定的数学工具，这就是随机过程理论.这章主要讨论随机序列的概率分布、参数表征、平稳随机序列（定义、谱分解、白噪声序列、线性运算、有理谱密度的平稳序列、随机差分方程、遍历性）、多维随机序列、两种估计和参数估计的优效性概念。

1．随机序列的概率分布：随机序列由无穷多个随机变量构成的，我们说给定了一个随机序列(1,2,)t x t =L 的概率分布，是指对于任意有穷多个时刻12,,,m t t t L ，相应的随机变量12,,,mt t t x x x L 的联合分布函数1212(,,,)mt t t m F x x x L L 都是被给定的，而且它们之间不能矛盾，即是说由高维联合分布推出的低维联合分布与原给定的低维分布相同. 有时我们也说给定了序列t x 的任意有穷维分布. t x 为独立的随机序列：若对于∀有穷个不相同时刻12,,,m t t t L 相应12,,,mt t t x x x L 是相互独立的random variable 即12121212(,,,)()()()mmt t t m t t t m F x x x F x F x F x =L L LExp ：电话中的热噪声常常近似于这种独立序列.由于分布函数完整地描述了随机变量的统计特性，故严平稳随机过程的所有统计特性均不随时间的平移而变化. 故这一要求相当严格. 称之为严平稳（狭义平稳）.而宽平稳过程对时间推移的不变性表现在统计平均的一、二阶矩上. 显然，严平稳过程比宽平稳过程之条件要求更“严”. t x 为狭义平稳序列（严平稳序列）：若一个随机序列t x 的任意有穷维分布满足：Z τ∀∈（整数集），,(1,)i m t i m τ+=121212,,,12(,,,)(,,,)m m t t t m t t t m F x x x F x x x τττ+++=L L L L即1,,mt t x x L 和12,,,m t t t x x x τττ+++L 有相同的分布，无论对怎样的m 和时刻12,,,m t t t L 以及τ都如此.2．随机序列的参数表征：①均值函数：对每个t 而言，若把随机变量t x 的均值记为t t Ex μ=. 则随机序列t x 的均值函数就是(1,2,3,)t t μ=L ；若t x 的分布为()t F x ，若t x 具有密度()t f x ，则()()t t t t Ex xdF x xf x dx μ≡≡=⎰⎰. Remark ：t μ可取常数（§1例4且电负荷量）；可取周期函数（§1例2某点平均水温）；或取其它形式，为方便计，称t t Ex μ=为t x 的均值.②自协方差函数：易知随机序列的均值只和随机序列的一维分布有关，为了分析随机序列t x 在不同时刻取值的统计关系，须要考虑t x 与s x 的协方差值，令()()()()(,)ts t t s s t s ts r E x Ex x Ex x y f x y dxdy μμ≡--≡--⎰⎰ts r 作为(,)t s 的二元函数，称为随机序列t x 的自协方差函数，特别称2()tt t t r E x Ex =-为t x 的方差函数，简称方差. 若一个随机序列t x 的任意有穷维分布都是正态分布，则称t x 为正态随机序列.若以f 表示相应于F 的分布密度，此时1212121(,,,)(2||)exp ()()(,)2m m t t t m m m m m m m m m f x x x x x N τπμμμ--⎧⎫=Γ⋅--Γ-≡Γ⎨⎬⎩⎭L L其中),,(1mt t m x x x Λ=τ；12(,,,)mm t t t τμμμμ≡L1112112m m m m m t t t t t t m t t t t t t r r r r r r ⎛⎫ ⎪Γ= ⎪ ⎪⎝⎭LL L很多实际应用的随机序列可近似当做正态序列，正态序列在数学处理上有很多方便之处.③自相关函数：序列的自相关函数ts ρ定义为ts r ρ≡它刻划了序列t x 在不同时刻取值的线性相关程度.Remark ：随机序列的参数表征还有很多，与本书关系密切的就是以上三种量. 从上述表述易见，,t ts r μ和ts ρ被t x 的分布唯一确定. 但是，反之由,t ts r μ和ts ρ一般并不能唯一确定t x 的分布，即具有不同分布的随机序列可以有相同的均值、自协方差和自相关函数.3．平稳随机序列：为便于读者掌握，我们把本书的讨论几乎完全限于正态序列范围之内，这不会影响时序分析方法的介绍，且会使很多数学概念和性质有较为简单的形式，只是在某些个别情形下，我们指出对于非正态序列的类似结果. 特别，本书所介绍的各种方法的基础是广义平稳序列（宽平稳序列）.（1）广义平稳序列的定义：若随机序列t x 的二阶矩有穷2()t Ex <∞且对任意时刻t 和s 满足： t Ex μ=2t s ts t s Ex x r r μ--== 为方便计，通常不妨设0μ=. 则称它为广义平稳序列（宽平稳序列），即μ与t 无关，ts r 只与t s -有关. “广义”是相对于“狭义”而言的，简称平稳过程.Remark ：①若狭义平稳过程（序列）t x 的一、二阶都有穷2(,)t t Ex Ex <∞则它一定也是广义平稳的.112212,1212,012()()(,)(,)()t t t R R t t t t Ex xdF x xdF x a t Ex x x x dF x x x x dF x x f τττττ+++⎫⎛==≡⎪ ⎪ === ⎪⎝⎭⎰⎰⎰⎰⎰⎰　与无关 ②若t x 是正态随机序列，t x 的狭义平稳性t x ⇔的广义平稳性. （()()t s E x x μμ--Q ，复旦大学《随机过程》第三册P 183特征函数） Proof ：“⇒”若{},t x t T ∈是狭义平稳的（严平稳的），又正态过程有二阶矩，∴由①知{},t x t T ∈为宽平稳的. “⇐”若正态过程是宽平稳的，则,t Ex a t T ≡∈()()()()()ijt t i j i j E x a x a r t t r t t ττ--=-=+-+()(),,1,2,,i jt t i E x a x a t T i n ττ++=--∈=L表明12(,,,)nt t t x x x L 和12(,,,)nt t t x x x τττ+++L 具有相同的协方差矩阵和均值向量，而正态（多维）分布仅由它们确定（特征函数知识）因而11,,1,,1(,,)(,,)nnt t n t t n F x x F x x ττ++=L L L L{},t x t T ∈是严平稳（狭义平稳）过程.③Theorem. 设{},0,1,t x t =±L 为平稳列，则t x 要表为()i t t x x e dz πλπλ-=⎰其中{}(),[,]x z λλππ∈-是标准化的具有正交增量的，左2()L 连续的随机过程，且121212(()())(),,([,])x x x E z z F ππ∆∆=∆∆∆∆∈-I B 这样的正交增量过程唯一地由t x 所确定.（证明略）④实际应用中，平稳序列仅仅是对于真实随机序列的一种近似描述手段. 例：电路中的热噪声，陀螺仪的漂移速率及其它精密仪表的漂移误差，金融中的收益率序列等，第三章将给出一种粗略判别平稳序列手法.（2）自协方差函数与谱分布（t x 为实列）对于正态平稳序列t x ，其均值和自协方差函数s t r -唯一决定了它的分布（（1.2.6）式知），从而也就决定了它的全部统计性质，故讨论自协方差函数s t r -的性质十分重要，也是首要任务. s t r -满足：①对称性：()t t t t r r r Ex x Ex x r ττττττ----====Q ②非负定性：对{}1,2,m z +∀∈=L ，方阵11102120m m m m m r r r r r r rr r ----⎛⎫⎪⎪Γ= ⎪⎪⎪⎝⎭LL L L L L L 是非负定的.（Q 对m ∀维实值非零向量011(,,,)m τξξξξ-=L 都有：11,0,0()()m m m i j ij i jiji j i j rE x xτξξξξξξμμ---==Γ==--∑∑120[()]0m i i i E x ξμ-==-≥∑）有时称满足上述性质1和性质2的实数列01,,,,m r r r L L 称为非负定列. 易知000,||r r r τ≥≤，反之，任意一个非负定列必为某平稳序列的自协方差函数（[3]，E.lukacs, Characteristic Functions, London, 1960）. Theorem1. 设k r 为一平稳序列的自协方差函数，则存在一有界非降函数()G λ，使得1/221/2()i k k r e dG πλλ=⎰（相关函数的谱表示Th ）()G λ称为平稳序列t x 的谱分布，若()G λ可微，并记()()dG g d λλλ≡则 1/221/2()i k k r e g d πλλλ-=⎰()g λ称为平稳序列t x 的谱密度.当||kk r∞=-∞<∞∑时，()g λ一定存在且2()i k kk g r eπλλ∞-=-∞=∑. 有的工程书上，称()g λ为序列的功率谱密度.（3）白噪声序列若平稳序列t a 的均值为0，自协方差函数20k a k r σδ=，我们称这样的t a 为白噪声序列，或简称白噪声，它的谱密度：2220()i k a a k a k g e πλλσδσ∞-=-∞=≡∑可见()a g λ为一常数，即序列t a 的谱密度在各个频率上具有相同的分量（正象白光一样，等量地包含了各种有色光的光频分量）.Remark ：很多随机序列可以近似地符合白噪声的性质. 虽纯粹的白噪声很难遇到（自然界）.（4）平稳序列的线性运算随机变量可以进行加减等运算，随机序列也是如此.①设t x 是一平稳序列，,αβ是两个实数，τ是某一固定时刻，则t t t y x x ταβ-=+，还是平稳序列（令2t Ey μ=验证22()t t Ey y f τμτ--=）. ①′假定k α是实数列，且2||k k α∞=-∞<∞∑，那么易验证t k t kk y xα∞-=-∞=∑也是平稳序列，其中k t k k x α∞-=-∞∑，作为当,M N →∞时Nk t kk Mxα-=-∑的均方极限. （Remark ：设{}k x 为平稳序列，若2||0k k E x x →∞-→，称{}k x 均方收敛于x ，又称x 为{}k x 的均方极限）.Remark ：（A ）取t t x a =为白噪声，当0k <时0k α=，这时平稳序列0t k t k k y a α∞-==∑称为t a 的滑动和；特别若再有0k α=，当k q >时（0k <时0k α=），则0qt k t k k y a α-==∑称为t a 的q 阶滑动平均.上两式所给出的平稳序列，其自协方差函数和谱密度可利用t a 的性质很方便求出，约定0k <时0k α=，0t k t k k y a α∞-==∑则0,0()ys tk t k j s j kjt ks j k j k j rE a a Eaa αααα∞∞∞-----=====∑∑∑22(),0,0,0,0akjs j t k akjs t k j k j k j σααδσααδ∞∞----+-====∑∑022,0s t k j ak k s tak k s tj s k t k j k σαασαα-+-=∞∞+-+-⇔=+-====∑∑2||||akk t s k t s σαα∞--=-=∑讨论：①当s t ≥时2()k s t my s tamm s t m s trσαα∞+-=---=-====∑.②当s t ≤时，由于0k <时0k α=，222()y s ta k k s takk s takk t s k t sk t sk t srσαασαασαα∞∞-+-+---=-=-=-===∑∑∑从而总有2||||y s takk t s k t s r σαα∞---=-=∑W .2220()y i i y akk k g r e e πτλπτλττττλσαα∞∞∞--+=-∞=-∞===∑∑∑22222()00i i k i k akk akk k kk keee πτλπλπτλττττσαασαα∞∞∞∞--+++==-==-==∑∑∑∑222()0i k i k akk k k ee πλπτλττσαα∞∞-++==-=∑∑22200m ki k i m a k mk m ee τπλπλσαα∞∞=+-====∑∑222222000||i k i k i k akkak k k k eee πλπλπλσαασα∞∞∞--=====∑∑∑若令 0()k k k A ωαω∞==∑则上式可表为： 222()|()|i y a g A e πλλσ-=.例下面介绍有理谱密度. 它比白噪声t a 的常值谱密度更具一般性，t y 具有较复杂连续谱密度.（5）具有有理谱的平稳序列：对于正态平稳序列，只要知道了它的自协方差函数k r ，或知道了它的谱分布()G λ，就等于掌握了它的统计性质. 主要利用k r 去分析时间序列时，称为“相关分析法”或“时域分析法”；利用后者时，称为“频谱分析法”. 怎样求得一个正态平稳序列t x 的k r 或()G λ呢？主要利用t x 的样本值12,,,N x x x L 对k r 或()G λ进行估计，这是时序分析要解决的主要问题之一，这有两个难点：①(0,1,2,)k r k =L 是由无穷多个值构成的，谱密度()G λ为在11[,]22-内取值的函数，用有穷个t x 的样本值对所有k r 或()G λ的所有取值进行估计，难点之一.②即使能对k r 或()G λ的所有取值做出估计，由于01,,r r L 或()G λ的形状复杂，也不利于在预报、控制或模拟等应用中使用. 于是为克服这两个困难，我们采取绪论中提到的“参数化”方法，即将()G λ局限在一个较窄的函数范围内讨论，我们只讨论这样一类正态平稳序列，它们的谱分布()G λ不仅可微，而且它的导函数（谱密度）()()dG g x d λλ≡为2i e πλ-的有理函数： 2222()()||()i a i e g e πλπλθλσϕ--= （I ）其中()θω和()ϕω为ω的实系数多项式：212212()1()1q q pp θωθωθωθωϕωϕωϕωϕω=----=----L L （II ）两者无公共因子，且限定()θω和()ϕω的根全在复平面的单位圆外. 这样一来，为了估计()G λ，只要估计2,,a p q σ和（II ）中诸系数1,,q θθL 和1,,p ϕϕL 即可，这些只是有限个系数而已. 有了这些参数的估计值，利用（I ）式即可得到()g λ在)21,21[-上的各处取值的估计. 在用于预报、控制和模拟等目的时，由于()g λ拥有（I ）之形式，解决问题就方便多了. Remark ：①谱密度有（I ）这种形式的t x ，称为具有有理谱的平稳序列； ②对于()g λ为连续的情形，它可用有理谱来逼近真实的谱，这是较有效的一种方法.（6）随机差分方程：据前所述，具有有理谱的平稳序列的自协方差函数k r 也是被以上诸参数所决定.Q 由Th1知 21/222221/2()|| 0,1,2,()i i k k ai e r e d k e πλπλπλθσλϕ--==⎰L（III ）反之，若k r 能表成（III ）之形式，则随机序列也一定具有（I ）形式的有理谱密度.例1 取 222()|,||1i k a g e πλλσϕϕ-=-< 则 1/222221/21|1|i k k a i r e d e πλπλσλϕ-=-⎰21/22221/2cos 2,0,1,2,12cos 21k a ak d k σπλσλϕϕπλϕϕ===-+-⎰L（Q21/2221/2cos 21cos 12cos 2212cos t k ktd dt t πλπππλλϕπλϕπϕϕ=--==-+-+⎰⎰当2||1ϕ<时221112cos 12cos m m mt t ϕϕϕϕ∞=-=+-+∑，此级数对一切t 一致收敛，它的各项都乘以同一有界函数cos kt后仍然一致收敛，从而22cos (1)12cos ktdt t ππϕϕϕ---+⎰21cos 2cos cos 2cos m k m ktdt mt ktdt ktdt ππππππϕϕ∞---==+=∑⎰⎰⎰1cos 222kkkt dt ππϕπϕ-+==⎰从而 1/2221/21cos cos 2212cos 12cos 2kt k d dt t πππλλπϕϕϕπλϕ--=-+-+⎰⎰ 2(0,1,2,)1kk ϕϕ==-L若 21/222221/2()||()i i k k a i e r ed e πλπλπλθσλϕ---=⎰，则随机序列{}t ω也一定有2222()()||()i a i e g e πλπλθλσϕ--=形式的有理谱密度. ( Theorem1 ()()()()n n a s P ξωξωξωξω⋅⇒u r u u u r令()(1,2,)n n ξω=L ，()ξω是r v ⋅，则{}111:lim ()():(|()()|)n n n m k n km ωξωξωωξωξω∞∞∞→∞===⎧⎫==-<⎨⎬⎩⎭I UI {}lim ()()n n ωξωξω→∞∈=⇔对∀一个m （正整数），∃一个正整数N ，使当n N >时均有()1|()|n mωξξω-<⇔对∀一正整数,m ω属于1(|()()|)n m ξωξω-<之下限事件. 111(|()()|)1n m k n kP m ξωξω∞∞∞===⎧⎫⇔-<=⎨⎬⎩⎭I UI or111(|()()|)0n m k n kP m ξωξω∞∞∞===⎧⎫-≥=⎨⎬⎩⎭UI U0ε⇔∀>成立1(|()()|)0n k n k P ξωξωε∞∞==⎧⎫-≥=⎨⎬⎩⎭I U{}lim (|()()|)n n n n P A A ξωξωε→∞==-≥)Theorem2 若()B ϕ没有模为1的因子（即2()0i e πλϕ-≠），若{}t ω为差分方程1111 ,1,0,1,t t p t p t t q t q x x x a a a t ϕϕθθ-------=---=-L L L L （IV ）的平稳解（即它是平稳序列且满足（IV ）），则{}t ω有有理谱密度2222()()||()i ai e g e πλπλθλσϕ--=. 反之，若平稳序列{}t ω有此谱密度，则{}t ω可表成（IV ）形式.Theorem3 （Wiener-X HHYH ）设{},0,1,t x t =±L 是平稳列，其相关函数(,0,1,)k r k =±L 满足||k k r ∞=-∞<+∞∑，则t x 必有非负谱密度函数()f λ，且()x r τ和()f λ是Fourier 变换的关系：()(),0,1,ik x r k e f d k πλπλλ-==±⎰L1()(), 2ik xk f r k eλλπλππ∞-=-∞=-≤≤∑W推论，若{},0,1,n x n =±L 是实平稳列，()x r τ绝对可和，则谱密度()f λ必存在，并且（a ）()(),f f λλπλπ=--≤≤（b ）101()(0)2()cos 2()2()cos x k xf R r k k r n f n d πλλπλλλ∞=⎧⎧⎫=+⎨⎬⎪⎪⎩⎭⎨⎪=⎪⎩∑⎰ 这表明自协方差函数为一指数型数列，反之，若221k ak r σϕϕ=-形式，则相应的随机序列一定具有谱密度222()|1|i a g e πλλσϕ-=-，||1ϕ<. 虽然（III ）式反映了有理谱与其相应的自协方差函数之间的关系，但是，为了以后的时域分析，还要引进随机差分方程的概念. 上例中||k r <∞∑Q2222222()()1|1|i k i ka aki k k g r eee πλπλπσσλϕϕϕ∞∞---=-∞=-∞∴===--∑∑222() |1|ai g e πλσλϕ-∴=-W .]111[-1][-122222a 0122a πλπλπλϕϕϕϕσϕσi i i k k e e e ---∞=∞=-+-=+=∑∑ 设12,,,p ϕϕϕL 和12,,,q θθθL 分别是p 个和q 个实数，并设以它们为系数的两个多项式()ϕω和()θω无公共因子，且它们的根全在单位圆外（为了保证收敛性），若平稳序列t x 满足关系式：1111 ,1,0,1,t t p t p t t q t q x x x a a a t ϕϕθθ-------=---=-L L L L （IV ）其中t a 是一白噪声，22t a Ea σ=，且当s t >时，0t s Ex a =，那么我们就说t x 是随机差分方程（IV ）的一个平稳解. Q 根据平稳序列的理论（[1]附录，§1Th1）知，具有有理谱密度()g λ（I ）的平稳序列，一定是随机差分方程（IV ）式的一个平稳解；反之，（IV ）式的平稳解一定具有（I ）()g λ的有理谱密度. 于是建立关系：具有有理谱的平稳序列11-←−→随机差分方程的平稳解.例1 （同前）具有谱密度222()|1|,||1i a g e πλλσϕϕ-=-<平稳序列t x ，它应满足差分方程：1t t t x x a ϕ--= （V ）于是有： 10 ()0t k t k t t k t k E x x x Ex a ϕ---->-== 1,0k k r r k ϕ-=>又由（V ）知：2222220100()(1)t t t a a r Ex E a x r r ϕσϕσϕ-==+=+⇒=-2212021kk ak k k r r r r σϕϕϕϕϕ--∴====⋅=-L W 这与前面解答完全一致，但计算方便. 另一方面，（V ）又可写为1t t t x x a ϕ-=+，表明了t x 的前后依赖关系（这很类似t t t x y a ϕ=+的回归方程，1t t y x -=自身滞后一步），1t t t x x a ϕ-∴-=又称()t x 的平稳解t x 为一阶自回归序列，而参数ϕ表明t x 前后的相关程度. 由（V ）推知：212121()t t t t t t t t x x a x a a x a alt ϕϕϕϕϕ-----=+=++=++1212n n n t n t n t n t x a a a ϕϕϕ----+-+==++++L L由于()1ϕωϕω=-的根在单位圆外（||1ϕ<Q ）∴对上式两边取极限得到：122220(lim)||||||0n j n n t t j t n t n j E x a E x E x ϕϕϕ----=-==→∑1lim()n nj j t t n t j t j n j j x x a a ϕϕϕ-∞+---→∞===+=∑∑ （均方意义下）（t Ex μ=Q 1/221/2())i t x e Z d πλλ-=⎰）这恰如平稳列的滑动和（t x 只是1,,t t a a -L 的滑动和，而t a 是白噪声，∴当t s <时，t x 与s a 独立，0t s t s Ex a Ex Ea ∴==）下面再从滑动和回到谱密度，||1ϕ<Q ，由222()|()|i y a g A e πλλσ-=知01(),||11j j j A ωϕωωϕω∞===≤-∑ 222222()|()||i i a a g A e e πλπλλσσϕ--==-22(12cos 2)a σϕϕπλ=+-从此后，我们所讨论的平稳随机序列，不仅限于正态序列，而且都有有理谱密度. 即它们必是（IV ）型的随机差分方程的平稳解，利用（IV ），下一章再详细分析相应k r 的各种性质.（7）遍历性：为了估计p ，q ，2a σ和()ϕω与()θω的系数等值，常用的统计方法显得不够用，应用新手段的一个重要前提：随机过程要具有遍历性.遍历性定义：设t x 为一随机序列，()t v x 是t x 的函数（如2||,,,etc t t t t x x x x τ+），若对任何使()t Ev x 存在的函数v ，概率为一地有（or 依概率1）11()lim()Nt t jN j Ev x v xN+→∞==∑则称t x 为具有遍历性的随机序列. Remark ：①（[5]（U.Grenander and M. Rosenblatt ）平稳时间序列的统计分析，郑绍谦译（1962））知：正态有理谱平稳序列一定具有遍历性. ②遍历性物理意义：随机序列t x 的函数（连续）()t v x 也是一个随机变量，其均值为()t Ev x ，可称之为()t v x 的总体平均（即依()t v x 的分布所求出的均值，或称相平均. ）又当t 固定，而将(),1,2,3,t j v x j +=L视为一个随机序列时，11lim ()Nt jNj v xN+→∞=∑称为()t v x 的时域平均. 所谓t x 的遍历性，简而言之，就是对任何函数v ，()t v x 的总体平均等于它的时域平均. 粗略说：意味着t j x +的任何一个样本随j 的变化所能取的值，依随机变量t x 的概率分布，历经它所能取的各种值，11()lim()Nt t jN j Ev x v xN+→∞==∑.③若t x 具有遍历性，它的线性运算也具有此性质. 例1 遍历性用途取1()t t t v x x x +=，则由遍历性11111limNt t t j t jN j r Ex x xxN++++→∞===∑这说明当N 很大时上式右边平均值可作为1r 的近似估计值.4．多维随机序列：t y 为r -维随机序列：对每个固定的整数值时刻t 而言，t y 是-r 维随机向量，常记做2(1)(2)()(,,,)r t t t t y y y =L Y ，时刻(,)t ∈-∞+∞. 这r 个随机序列(1)(),,r t t y y L 相互之间有一定的统计联系.（1）t y 的均值函数（均值）：(1)(2)()(,,,)r t t t t E Ey Ey Ey τ≡L Y对t Y 而言，固定t 时t E Y 为一个r 维向量（非随机的）.（2）方差阵、自协方差阵与互协方差函数：方差阵函数：(1)()(,,)r t t t y y τ=L Y()()t t t t E E E τ--Y Y Y Y这是一个r 阶非负定矩阵，其主对角线上的元恰是()(1,)k t y k r =的方差，而i 行j 列的元，则为()i t y 与()j t y 的互协方差. 为掌握t Y 在不同时刻取值的统计关系，定义()()ts t t s s E E E τ≡--¡Y Y Y Y为t Y 的自协方差阵函数；其主对角元素是()(1,)k t y k r =的自协方差函数，而i 行j 列的元()()()()()()i i j j t t s s E y Ey y Ey --称为()i t y 与()j s y 的互协方差函数. 当t s =时，tt ¡为t Y 的方差阵函数.ts ∴¡更进一步揭示了t Y 的各分量间及前后之间的相互联系.（3）多维平稳序列：设t Y 为r 维随机序列，若它还满足;()()t ts t t s s t s E u E E E R τ-==--=¡Y Y Y Y Y则称t Y 为r 维平稳随机序列. （略）5．两种估计及参数估计的优效性概念：（1）最小二乘法（Least Square简称LS 法）线性参数的最小二乘法是常用的估计方法之一，这里主要介绍非线性参数的最小二乘法（第四章将用之）.考虑模型121(;,,,),1,2,k k k k y f y y y e k β-=+=L L ; （I ）其中k e 仍表示残差，12(,,,)r τββββ=L 为未知参数矢量，k f 是11(,,,)k y y β-L 的函数，对β非线性，若获得了测量值12,,,n y y y L ，那么，使得残差平方和21211()[(;,,,)]nk k k k S y f y y y ββ-=≡-∑L达到极小的解µβ，即称为β的最小二乘估计，以后简称LS 估计（LeastSquare Estimation ）. Remark ：①一般说来，对非线参数而言，µβ的求解比线性情形要麻烦得多，且只能给出数值解法，无法得到线性参数明显解. 此外，k f 还可能是用迭代方式给出，而不必有明显的函数形式；②为了分析估计µβ的误差情况，应当引入k e 和k y 的统计特征. 假定k e 为白噪声，而且k e 与11,,k y y -L 独立；作为1,,n y y L 的函数的最小二乘估计µβ和真值β之间的接近程度可用下面介绍的几种估计量优效性来衡量. 可见附录§5关于最小二乘估计量各种优效性质.（2）最小方差估计（Least Mean Square or 简记LMS 估计）（第IV 、VII 、IX 等章常用之）设(11,,k M k N N M ω-<<+为整数 or 正、负无穷)是一组正态随机变量，且它们的均值都是0. 又设正态随机变量z 的均值亦为0，且z 与k ω的联合分布也是正态分布. 所谓根据(11)k M k N ω-<<+对z做的（或z 关于k ω的）LMS 估计z$是指存在如下的量：Nkkk Mz wβ==∑$其中系数k β使误差方差2()E z z-$达到极小，即 22()inf ()kNk k k ME z z E z ααω=-=-∑$我们把这种估计记为(|,11)kz E z M k N ω≡-<<+$最有用的情况是：每一k ω可以表成白噪声k)j 1-M (a j ≤<的和kk kjj j Ma ωξ==∑（I ），同时每一j a 也能表成(1)l M l j ω-<≤之和，即jj jl l l Ma ηω==∑（II ）.且其中系数满足如下条件：22()()11||,||g k j g j l kj jl g e g e ξη----≤≤ （III ）此处12,g g 表示与,,k j l 无关的正实数.（上述条件①当,M N 为有穷整数时易满足（E.P.Box 时序分析：预测与控制P 138-149）②当M =-∞时，由P 49~52和附录中将会有，若k ω是()()t t B x B a ϕθ=的平稳解，则上述条件满足（LMS 估计））对于这样的k ω，随机变量Z 的最小方差估计形式简便，易于讨论它们的性质.令≡A {|,Nj j j j My y a ββ==∑为实数，2Nj j Mβ=<∞∑}≡W {|,N l l l l My y w αα==∑为实数，2Nl l Mα=<∞∑}从A 与W 出发讨论LMS 估计的性质. 1．=A W当,M N 都为有穷时，显然. 我们只对,M N =-∞=+∞情形给予证明. 若y ∈A ，则∃-串j β使得2jl β∞=-∞<∞∑且jjj y aβ∞=-∞=∑，由上述讨论知：()jj jll jjll llj l l j ll y w w w βηβηα∞∞∞∞=-∞=-∞=-∞==-∞===∑∑∑∑∑其中l j jl j lαβη∞==∑，由（III ）及Schwarz 不等式知：2()21,,||g j l k l z ljkjlklj kl l j k l l j k lg e αββηηββ∞∞∞∞∞--+-=-∞=-∞==-∞==≤∑∑∑∑∑ 22()22211,0(||)()()1m j l g m n m l n l l g n k lm n l l g g e eβββ∞∞∞=--+++-=-==-∞=-∞=≤<∞-∑∑∑ 21/221/2(||||()()m l n l m ln l l l l ββββ∞∞∞++++=-∞=-∞=-∞≤∑∑∑222211,)11g mg n g g m n ee ee∞∞----====--∑∑ 因此y ∈W ，y Q 是A 的任意元. ∴⊃W A ，同理⊂W A ，∴=A W . 利用泛函分析知识：=A W 是Hilbert 空间（估计量ˆ(|,11)k zE z w M k N =-<<+是z 在W 上的投影，∴也是在A 上投影，ˆ(|)(|)zE z E z ∴≡=W A ） 2．ˆzW ∈为z 的最小方差估计（LMS 估计）⇔对y ∀∈W ，必有ˆ()0E z zy -=. 首先注意，由性质1，y ∀∈W 可表为Njjj My aβ==∑，且2Njj Mβ=<∞∑，222Najj MEy σβ=∴=<∞∑“⇒”（反证法）设ˆz是Z 的LMS 估计，而且y ∃∈W 使ˆ()0E z zy -≠. 那么显然成立20(0)Ey y <<∞≠. 由最小方差性质，对R β∀∈有22222()()()2()E z zE z z y E z z Ey E z z y βββ-≤--=-+--$$$$ 由此有：222()Ey E z z y ββ≥-$. 取2()0E z z y Ey β-≠$@. 便导致21≥. 这与实数理论相矛盾，y ∴∀∈W 必有()0E z zy -=$这与z W ∈$为z 之最小方差估计矛盾.另证：令2(,)(),0z zy E z z y Ey α=-=-<<+∞$$则 222222222222(())()2()()()()E z z y E z z Ey E z z y E z z E z z Ey Ey Ey Eyαααα-+=-+--=--<-$$$$$ “⇐”设zW ∈$满足条件：()0E z z y -=$，对y ∀∈W 成立. 则对**,z zz ∀∈-∈$Q W W （H 氏空间）∴有0))(ˆ(=--*z z z z E ，于是 *2*22*2*2()()()()2()()()E z z E z zz z E z z E z z E z z z z E z z -=-+-=-+-+--≥-$$$$$$$ 这就证明了z$是LMS 估计. 又可注意，上式不等号当且仅当*z z =$时才取等号，z∴$中唯一的. 3．z 的的最小方差估计（LMS 估计）z$存在且唯一. 唯一性已在性质2的充分性证明过程得到. 现证存在性：令21()Njjj Maz Eza aσ==∑$，j a 为白噪声. 易算出：2220()2E z zEz Ezz Ez ≤-=-+$$$ 222()/Nj a j MEz Eza σ==-∑2222(/)/Nj a a j MEza Ez σσ=∴≤<∞∑“（利用上述不等式且z Q 为正态随机变量）从而$2()NN j j j j j M j MaEza za a ασ=====∑∑$中2Njj Mα=<∞∑. 由性质1，z ∈=$A W ，又对任意N j j j My a β==∈∑W221()()()N Nj j j j j j Mj M aE z zy Eza Eza Ea ββσ==-=-∑∑$()()0N Nj j j j j Mj MEza Eza ββ===-=∑∑因此由性质2，z$即为z 的最小方差估计. 4．若1112z z z ββ=+，其中12,ββ是实数，则1212z z z ββ=+$$$；若z ∈W ，则z z =$；若z 与W 的元都独立，则0z =$；若(11)kw M k N -<<+是相互独立的随机序列，则任意z 的最小方差估计为2(/)Njj j j MzEzwEw w ==∑$它们由性质2得到验证：0, ()0 (0)zy E z z y Ezy EzEy Ez =∀∈-====$$W ,Nj j j M y y w β=∀∈=∑W ，利用独立性易知()0N Njjjjj Mj ME z zy Ezw Ezwββ==-=-=∑∑$.5．若¢是r 维随机向量，且,M N 有穷，则¢的最小方差估计µ¢（µ¢的各分量为¢的对应分量的最小方差估计）可表为µ1()()E E ττ-=ⅱW WW W其中1(,,,)M M N w w w τ+=L W ，这也易由性质2得到.（3）参数估计的优效性概念：LS 估计与LMS 估计在概念上有本质的差别：LMS 估计是用随机变量或序列的样本的对另一随机变量做出估计，它们之间的概率分布是已知的（常为正态分布）（用于解决随机序列预报VII 章）.LS 估计则是用随机变量或序列的样本去估计某些未知参数（参数化非线性估计问题IV 章）.其它方未能：极大似然法或近似极大似然法来解决参数估计问题.从数理统计的角度怎样衡量参数估计的优劣程度，是另一个很重要的问题，我们在这里引进几个有关的定义. 参数估计：根据某种原则，将随机序列的样本（即测量值）12,,,N y y y L 进行各种运算，从而对于未知参数向量β作出估计与判断. 因此，一般可以把β的估计量µβ表成样本的函数形式，即µµ12(,,,)Ny y y =L ββ，为了衡量µβ与真值β的近似程度，需一些概念：1．无偏性与渐近无偏性：若估计量µβ满足µE =ββ，则称µβ为β无偏性. 若µlim NE →∞=ββ，则称µβ为β的渐近无偏估计量. 无偏估计比渐近无偏估计量难于寻找.2．相容性：若样本长度N →∞时，估计量µβ依概率收敛于β，即对任意小的0ε>，µ{}lim 0N P ε→∞->=ββ，其中{}12max ||,||,,||r βββ≡L β是β的范数（或称模量），这时我们称µβ为β的相容估计.3．优效性与渐近优效性：在相当一般的条件限制下，特别当限于讨论正态随机序列时，经典统计中的Cram ér-Rao 不等式仍成立，即有µµ11log log ()(()()()Np p E J E ττ--∂∂--≥≡⋅∂∂βββββββ 其中p 12,,,N y y y L 的联合概率密度，1()NJ -β称为Cram ér-Rao 下界，这一公式我们将在附录§4中证明（P 308-327）.若估计量µβ能使上式等号成立，即 µµ1()()()NE J τ---=βββββ 则称µβ为优效估计，若估计量µβ只能成立极限关系式 µµ1122lim ()()()()N NN J E J I τ→∞--=ββββββ 其中I 表示单位矩阵，则称µβ为渐近优效估计. 4．渐近正态性：若存在一个矩阵列N B ，当N →∞时，N N B B τ的主对角线都无限地增大，而且使得µ()N B -ββ的联合分布NF 收敛于正态分布(0,)N I ，则称µβ具有渐近正态性，简单地用µ()~(0,)N B N I -ββ表示.5．优效渐近正态性，若µβ具有渐近正态性，而且其中的NB 满足 1lim ()N N N N B J B I τ-→∞=β 则称µβ具有优效渐近正态性，即µ12()()~(0,)NJ N I -βββ. 例正态(,0)AR p 序列参数140()02pNa M J σ-⎛⎫= ⎪⎝⎭β 01110221120 p p p a p p p p r r r r r r M r r r σ-----⎛⎫ ⎪ ⎪=ΓΓ= ⎪ ⎪ ⎪⎝⎭L L L L L L L 2log log log ()N p p pJ E E βττ∂∂∂≡⋅=-∂∂∂∂ββββP 是t y 的似然函数.Remark ：①随机序列的参数估计与经典统计有一点本质性的差别，经典统计中，样本12,,,N y y y L 常是相互独立同分布的随机变量，而参数β只是这一相同的分布中所含的未知参数（如正态分布的均值方差）. 在这里，12,,,N y y y L 是随机序列的一段样本，它们一般不是相互独立的，而参数β是这些随机变量的联合分布中的未知参数（如自回归序列的系数）.②估计量的渐近优效性和优效渐近正态性的渐近法则是不相同的，前者要求µµ()()E τ--ββββ与1()NJ -β渐近相同，由于1()N J -β是估计误差µ()-ββ的方差阵的下界，因此，渐近优效性又可以叫做渐近最小方差性. 而后者只要要求µ12()NJ -ββ的分布NF 与正态分布(0,)N I 渐近相等或说µ()-ββ的分布与1(0,())NN J -β渐近相等，这里并不要求µ()-ββ的方差阵的收敛性. （H.Cramer 曾弄错二者之间关系）③具体使用参数估计方法时，我们总希望估计量能具有上述的各种优效性质，即这些性质是检验估计优劣的重要标准.。

随机数的生成方法

选法
1）坐标变换法
反函数法
设r1，r2 是RND随机数，令
坐中标心变极换限法定
理

x1 x2

(2 ln (2 ln
r1 )1 / r1 )1 /
2 2
cos(2r2 sin(2r2
) )
则 x1, x2是相互独立的标准正态分布的随机数.
2）利用中心极限定理
例3 ：选λ=97，C=3，M=1000，得递推公式
xn1 97xn 3(mod1000) rn xn 1000
取定种子x0=71，得 97x0＋3=6890， x1=890， r1=0.890 97x1＋3=86333， x2=333， r2=0.333
97x2＋3=32304， x3=304， r3=0.304
最常用、最基础的随机数是在（0,1）区间内均匀分布的随机数 (简记为RND)
理解为：随机变量X～U(0,1) 的一组样本值
的模拟值
一般采用某种数值计算方法产生随机数序列，在计算机上运算来得到.
通常是利用递推公式：
n f (n1,n2 , ,nk )
给定k个初始值ξ1,ξ2,…,ξk , 利用递推公式递推出一
2,
0 ri 0.3 0.3 ri 0.6
0.6 ri
x1，x2，…，xN 即具有X 的分布律的随机数.
从理论上讲, 已解决了产生具有任何离散
型分布的随机数的问题.
具体执行仍有困难,如X的取值是无穷多个的情况.
可利用分布的自身特点,采用其他的模拟方法.
例4 随机变量X～B(n,p)，其分布律为
反函数法舍选法
1) 反函数法设连续型随机变量Y的概率函数为 f(x), 需产

随机序列的产生方法

概率论与数理统计小报告随机序列的产生方法随机数由具有已知分布的总体中抽取简单子样，在蒙特卡罗方法中占有非常重要的地位。

总体和子样的关系，属于一般和个别的关系，或者说属于共性和个性的关系。

由具有已知分布的总体中产生简单子样，就是由简单子样中若干个性近似地反映总体的共性。

随机数是实现由已知分布抽样的基本量，在由已知分布的抽样过程中，将随机数作为已知量，用适当的数学方法可以由它产生具有任意已知分布的简单子样。

1.随机数的定义及产生方法1).随机数的定义及性质在连续型随机变量的分布中，最简单而且最基本的分布是单位均匀分布。

由该分布抽取的简单子样称，随机数序列，其中每一个体称为随机数。

单位均匀分布也称为［0，1］上的均匀分布，其分布密度函数为：分布函数为：由于随机数在蒙特卡罗方法中占有极其重要的位置，我们用专门的符号ξ表示。

由随机数序列的定义可知，ξ1，ξ2，…是相互独立且具有相同单位均匀分布的随机数序列。

也就是说，独立性、均匀性是随机数必备的两个特点。

随机数具有非常重要的性质：对于任意自然数s ，由s 个随机数组成的s 维空间上的点（ξn+1，ξn+2，…ξn+s ）在s 维空间的单位立方体Gs 上均匀分布，即对任意的ai ，如下等式成立：其中P (·)表示事件·发生的概率。

反之，如果随机变量序列ξ1, ξ2…对于任意自然数s ，由s 个元素所组成的s 维空间上的点（ξn+1，…ξn+s ）在Gs 上均匀分布，则它们是随机数序列。

由于随机数在蒙特卡罗方法中所处的特殊地位，它们虽然也属于由具有已知分布的总体中产生简单子样的问题，但就产生方法而言，却有着本质上的差别。

2).随机数表为了产生随机数，可以使用随机数表。

随机数表是由0，1，…，9十个数字组成，每个数字以0.1的等概率出现，数字之间相互独立。

这些数字序列叫作随机数字序列。

如果要得到n 位有效数字的随机数，只需将表中每n 个相邻的随机数字合并在一起，且在最高位的前边加上小数点即可。

随机数生成原理实现方法不同编程语言的随机数函数

1-0：Microsoft VC++产生随机数的原理：Srand ( )和Rand( )函数。

它本质上是利用线性同余法，y=ax+b(mod m)。

其中a，b，m都是常数。

因此rand的产生决定于x，x被称为Seed。

Seed需要程序中设定，一般情况下取系统时间作为种子。

它产生的随机数之间的相关性很小，取值范围是0—32767（int），即双字节（16位数），若用unsigned int 双字节是65535，四字节是4294967295，一般可以满足要求。

1-1：线性同余法：其中M是模数，A是乘数，C是增量，为初始值，当C=0时，称此算法为乘同余法；若C ≠0，则称算法为混合同余法，当C取不为零的适当数值时，有一些优点，但优点并不突出，故常取C=0。

模M大小是发生器周期长短的主要标志，常见有M为素数，取A为M的原根，则周期T=M-1。

例如：a=1220703125a=32719 （程序中用此组数）a=16807代码：void main( ){const int n=100;double a=32719,m=1,f[n+1],g[n],seed;m=pow(2,31);cout<<"设置m值为"<<m-1<<endl;cout<<"输入种子"<<endl; //输入种子cin>>seed;f[0]=seed;for(int i=1;i<=n;i++) //线性同余法生成随机数{f[i]=fmod((a*f[i-1]),(m-1));g[i-1]=f[i]/(m-1);cout.setf(ios::fixed);cout.precision(6); //设置输出精度cout<<i<<" "<<'\t'<<g[i-1]<<endl;}}结果分析：统计数据的平均值为：0.485653统计数据的方差为：0.3205761-2：人字映射递推公式就是有名的混沌映射中的“人字映射”或称“帐篷映射”，它的非周期轨道点的分布密度函数：人字映射与线性同余法结合，可产生统计性质优良的均匀随机数。

随机数的定义及产生方法.

3) 物理方法
用物理方法产生随机数的基本原理是：利用某些物理现象，在计算机上增加些特殊设备，可以在计算机上直接产生随机数。这些特殊设备称为随机数发生器。用来作为随机数发生器的物理源主要有两种：一种是根据放射性物质的放射性，另一种是利用计算机的固有噪声。一般情况下，任意一个随机数在计算机内总是用二进制的数表示的：
2)
随机数表
为了产生随机数，可以使用随机数表。随机数表是由0，1，…，9十个数字组成，每个数字以0.1的等概率出现，数字之间相互独立。这些数字序列叫作随机数字序列。如果要得到n位有效数字的随机数，只需将表中每n个相邻的随机数字合并在一起，且在最高位的前边加上小数点即可。例如，某随机数表的第一行数字为7634258910…，要想得到三位有效数字的随机数依次为0.763，0.425，0.891。因为随机数表需在计算机中占有很大内存，而且也难以满足蒙特卡罗方法对随机数需要量非常大的要求，因此，该方法不适于在计算机上使用。
1.
随机数的定义及产生方法
1) 随机数的定义及性质 2) 随机数表 3) 物理方法
1) 随机数的定义及性质
在连续型随机变量的分布中，最简单而且最基本的分布是单位均匀分布。由该分布抽取的简单子样称，随机数序列，其中每一个体称为随机数。单位均匀分布也称为［0，1］上的均匀分布，其分布密度函数为： 1, 0 x 1 f ( x) 0, 其他分布函数为： x0 0, F ( x ) x, 0 x 1 1, x 1
2.
伪随机数
1) 伪随机数 2) 伪随机数存在的两个ຫໍສະໝຸດ 题 3) 伪随机数的周期和最大容量
1) 伪随机数
在计算机上产生随机数最实用、最常见的方法是数学方法，即用如下递推公式：

北京理工大学随机信号分析实验报告

北京理工大学随机信号分析实验报告本科实验报告实验名称：随机信号分析实验实验一随机序列的产生及数字特征估计一、实验目的1、学习和掌握随机数的产生方法。

2、实现随机序列的数字特征估计。

二、实验原理1、随机数的产生随机数指的是各种不同分布随机变量的抽样序列（样本值序列）。

进行随机信号仿真分析时，需要模拟产生各种分布的随机数。

在计算机仿真时，通常利用数学方法产生随机数，这种随机数称为伪随机数。

伪随机数是按照一定的计算公式产生的，这个公式称为随机数发生器。

伪随机数本质上不是随机的，而且存在周期性，但是如果计算公式选择适当，所产生的数据看似随机的，与真正的随机数具有相近的统计特性，可以作为随机数使用。

(0，1)均匀分布随机数是最最基本、最简单的随机数。

(0，1)均匀分布指的是在[0，1]区间上的均匀分布，即 U(0，1)。

实际应用中有许多现成的随机数发生器可以用于产生(0，1)均匀分布随机数，通常采用的方法为线性同余法，公式如下：)(m od ,110N ky y y n n -=Ny x n n /=序列{}nx 为产生的(0，1)均匀分布随机数。

下面给出了上式的3组常用参数： 1、10N 10,k 7==，周期7510≈⨯；2、（IBM 随机数发生器）3116N 2,k 23,==+周期8510≈⨯；3、（ran0）315N 21,k 7,=-=周期9210≈⨯；由均匀分布随机数，可以利用反函数构造出任意分布的随机数。

定理 1.1 若随机变量 X 具有连续分布函数F X (x)，而R 为(0,1)均匀分布随机变量，则有)(1R F X x -=由这一定理可知，分布函数为F X (x)的随机数可以由(0,1)均匀分布随机数按上式进行变换得到。

2、MATLAB 中产生随机序列的函数（1）(0，1)均匀分布的随机序列函数：rand用法：x = rand(m,n)功能：产生m×n 的均匀分布随机数矩阵。

第三章随机变量和随机分布

蒙特卡洛方法的基本思想是：为求解数学、物
理、工程及生产管理等方面问题，首先建立一个概
率模型或随机过程，使它的参数等于问题的解；然后通过对模型或过程的观察或抽样试验来计算所求随机参数的统计特征，最后给出所求解的近似值。蒙特卡洛方法以概率统计为主要理论基础，以
随机抽样为主要手段。通过实验获得样本特征值以
机性、试验的独立性以及前后的一致性。 2. 产生的随机数要有足够长的周期，以满足仿真的
实际需要。 3. 产生随机数的速度要快，占用的内存空间要小。
31
计算机产生随机数的算法
计算机产生随机数的通常方法是利用一个递推公式：
X n f X n1 , X n2 , , X nk

给定了k个初始值 X n1, X n2 , , X nk ，就可以利用这个递推
概率函数。其中Pn必须满足下列两个条件：

（1）
Pn 0 , n 1,2,,

（2）
P
n 1

n
1
7
离散型随机变量
概率分布函数
离散型随机变量x的累积分布函数定义:当x小于或等于某个给定值x`的概率函数，记为P(x ≤x`) = F(x)。设随机变量x可能取值x1，x2，…，xn，…，则x的累积分布函数为
16
3.2 蒙特卡洛方法与随机数
蒙特卡洛方法也称统计模拟方法，该方法利用
随机数进行统计实验，以期求得均值、概率等特征
值作为待解问题的数值解。源于二战期间研制原子弹的“曼哈顿计划”，用赌城的名字作为中子随机扩散的模拟研究代号。后人将计算机随机仿真方法称为蒙特卡洛方法。
17
3.2 蒙特卡洛方法与随机数
(x)曲线围出的面积(图中阴影部分)必

随机数序列的产生方法

随机数序列的产⽣⽅法随机数的产⽣摘要本⽂研究了连续型随机数列的产⽣，先给出了均匀分布的随机数的产⽣算法，在通过均匀分布的随机数变换得到其他连续型随机数的产⽣算法.我们给出了产⽣均匀分布随机数的算法，然后探讨了同余法的理论原理.通过均匀随机数产⽣其他分布的随机数，我们列举了⼏种通⽤算法，并讨论各个算法的优缺点。

正⽂⼀、随机数与伪随机数随机变量η的抽样序列12,,n ηηη，…称为随机数列．如果随机变量η是均匀分布的，则η的抽样序列12,,n ηηη，…称为均匀随机数列；如果随机变量η是正态分布的随机变量则称其抽样序列为正态随机数列．⽐如在掷⼀枚骰⼦的随机试验中出现的点数x 是⼀个随机变量，该随机变量就服从离散型均匀分布，x 取值为1，2，3，4，5，6，取每个数的概率相等均为1／6．如何得到x 的随机数?通过重复进⾏掷骰⼦的试验得到的⼀组观测结果12,,,n x x x 就是x 的随机数．要产⽣取值为0，1，2，…，9的离散型均匀分布的随机数，通常的操作⽅法是把10个完全相同的乒乓球分别标上0，1，2，…，9，然后放在⼀个不透明的袋中，搅拦均匀后从中摸出⼀球记号码1x 后放回袋中，接着仍将袋中的球搅拌均匀后从袋中再摸出⼀球记下号码2x 后再放回袋中，依次下去，就得到随机序列12,,,n x x x ．通常称类似这种摸球的⽅法产⽣的随机数为真正的随机数．但是，当我们需要⼤量的随机数时，这种实际操作⽅法需要花费⼤量的时间，通常不能满⾜模拟试验的需要，⽐如教师不可能在课堂上做10000次掷硬币的试验，来观察出现正⾯的频率．计算机可以帮助⼈们在很短时间产⽣⼤量的随机数以满⾜模拟的需要，那么计算机产⽣的随机数是⽤类似摸球⽅法产⽣的吗?不是．计算机是⽤某种数学⽅法产⽣的随机数，实际上是按照⼀定的计算⽅法得到的⼀串数，它们具有类似随机数的性质，但是它们是依照确定算法产⽣的，便不可能是真正的随机数，所以称计算机产⽣的随机数为伪随机数．在模拟计算中通常使⽤伪随机数．对这些伪随机数，只要通过统计检验符合⼀些统计要求，如均匀性、随机性等，就可以作为真正的随机数来使⽤，我们将称这样产⽣的伪随机数为随机数．在计算机上⽤数学⽅法产⽣随机数的⼀般要求如下：1)产⽣的随机数列要有均匀性、抽样的随机性、试验的独⽴性和前后的⼀致性．2)产⽣的随机数列要有⾜够长的周期，以满⾜模拟实际问题的要求．3)产⽣随机数的速度要快，占⽤的内存少．计算机产⽣随机数的⽅法内容是丰富的，在这⾥我们介绍⼏种⽅法，计算机通常是先产⽣[0，1]区间上均匀分布的随机数，然后再产⽣其他分布的随机数．⼆、⼀维均匀分布随机数的产⽣⼀般采⽤某种数值计算⽅法产⽣随机数序列，在计算机上运算来得到.通常是利⽤递推公式：三、⾮均匀分布随机数的产⽣3.1 ⼀般通⽤⽅法数学软件有产⽣常⽤分布随机数的功能，但是对特殊分布需要数据量很⼤时不太有效，需要寻求⼀种简便、经济、可靠, 并能在计算机上实现的产⽣随机数的⽅法.利⽤在(0 , 1) 区间上均匀分布的随机数来模拟具有给定分布的连续型随机数.1．反函数法设连续型随机变量Y 的概率函数为 f(x), 需产⽣给定分布的随机数.步骤:1）产⽣n 个RND 随机数r1，r2，…，rn ；;)()2i y i y dy y f r i 中解出从等式?∞-= 所得yi , i=1,2, …,n 即所求.基本原理：设随机变量Y 的分布函数F(y)是连续函数，⽽且随机变量X ～U(0,1)，令Z=F －1(X)，则Z 与Y 有相同分布。

马尔科夫链蒙特卡罗方法（MCMC）

马尔科夫链蒙特卡罗⽅法（MCMC）⼀.蒙特卡罗法的缺陷通常的蒙特卡罗⽅法可以模拟⽣成满⾜某个分布的随机向量，但是蒙特卡罗⽅法的缺陷就是难以对⾼维分布进⾏模拟。

对于⾼维分布的模拟，最受欢迎的算法当属马尔科夫链蒙特卡罗算法(MCMC)，他通过构造⼀条马尔科夫链来分步⽣成随机向量来逼近制定的分布，以达到减⼩运算量的⽬的。

⼆.马尔科夫链⽅法概要马尔科夫链蒙特卡罗⽅法的基本思路就是想办法构造⼀个马尔科夫链，使得其平稳分布是给定的某分布，再逐步⽣模拟该马尔科夫链产⽣随机向量序列。

其基本思路如下。

就像是普通的蒙特卡罗⽅法本质上依赖于概率论中的⼤数定理，蒙特卡罗⽅法的理论⽀撑是具有遍历性的马尔科夫链的⼤数定理。

马尔科夫链蒙特卡罗⽅法的⼤体思路如下：(1)给定某个分布p(x), 构造某个马尔科夫链\lbrace X_{t}\rbrace_{t\in\mathbb{N}}使得p是其平稳分布，且满⾜⼀定的特殊条件；(2)从⼀点x_{0}出发，依照马尔科夫链\lbrace X_{t}\rbrace_{t\in\mathbb{N}}随机⽣成向量序列x_{0},x_{1},...；(3)蒙特卡罗积分估计：计算E_{p}(f)\approx\sum_{t=1}^{N}f(x_{t})三.MCMC的数学基础——马尔科夫链的遍历性，⼤数定理MCMC为什么可以近似计算积分? 其实在数学上这是不太平凡的，下⾯简要介绍⼀下其数学理论依据。

3.1 马尔科夫链与其遍历性, 马尔科夫链的⼤数定理：所谓马尔科夫链通俗的说就是⼀个随机过程，其满⾜，t时刻的状态和t-1之前的状态⽆关。

我们⽤严格的测度论语⾔说就是：定义3.1：定义于概率空间(\Omega,\mathcal{G},P), 取值于\mathcal{Y}\in\mathbb{R}^{K}的随机向量序列\lbraceX_{t}\rbrace_{t\in\mathbb{N}}称为离散时间马尔科夫链(Markov Chain of discrete time)如果其满⾜：对于任意\mathcal{Y}的Borel集B\in \mathcal{B}_{\mathcal{Y}}P(X_{t+1}^{-1}(B)\mid X_{t},...,X_{1})=P(X_{t+1}^{-1}(B)\mid X_{t})进⼀步的，如果\lbrace X_{t}\rbrace_{t\in\mathbb{N}}还满⾜：\begin{equation}P(X_{t+1}^{-1}(B)\mid X_{t})=P(X_{1}^{-1}(B)\mid X_{0})\end{equation}我们称马尔科夫链\lbrace X_{t}\rbrace_{t\in\mathbb{N}}为时间齐次（time homogeneous)的，这时我们定义该马尔科夫链的转移核(transition kernel)$P_{t}: \mathbb{N}\times\mathcal{B}_{\mathcal{Y}}\longrightarrow [0,1]:$P_{t}(y,A)\triangleq P(X_{t}\in A\mid X_{0}=y),对任意t\in\mathbb{N}, 并且我们直接简记P(y,A)=P_{1}(y,A), 对y\in\mathcal{Y}, A\in\mathcal{B}_{\mathcal{Y}}。

采用Fortran90程序实现生成任意随机数列的方法

采用Fortran 90程序实现生成任意随机数列的方法——谷辰先生在科学计算/数值计算中的很多场合（比如蒙特卡洛模拟）都需要用到随机数。

当然首先需注意，通过计算机产生的随机数都是伪随机数，并不是真正的随机数，因为真正意义上的随机数在某次产生过程中是按照物理实验过程（如掷骰子）中表现的分布概率随机产生的，其结果是不可预测的。

而计算机中的随机函数是按照一定算法模拟产生的，其结果是确定的，是可见的。

所以用计算机随机函数所产生的“随机数”并不随机，是伪随机数。

但是，这个一般来说不影响我们在数值模拟中的使用。

Fortran自带一个random_number(x)函数可以产生一个0~1之间的随机数（x可以是向量），但是如果你要让每一次运行产生的随机数都不一样，则还应该调用random_seed()函数，然后系统就会根据日期和时间随机产生种子，从而得到“真正的”随机数。

下面将从最简单生成均匀分布随机数开始，逐步到复杂的瑞利分布，通过Fortran代码范例实战的方式讲解如何生成满足任一分布的随机数。

(1) 以下代码可以生成10组0~1之间的随机数（每组），而且每次运行结果都不一样：!*****************************************************************program tutorial01_random_numberimplicit noneinteger(4) :: kreal(8) :: x(3)call random_seed()do k = 1,10call random_number(x)write(*,*) xwrite(*,*)end dostopend program tutorial01_random_number!*****************************************************************运行结果如下：请务必注意，call random_seed()应该在循环之外，如果放到循环内的话，即：!*****************************************************************program tutorial01_random_numberimplicit noneinteger(4) :: kreal(8) :: x(3)do k = 1,10call random_seed()call random_number(x)write(*,*) xwrite(*,*)end dostopend program tutorial01_random_number!*****************************************************************在我windows下intel fortran编译器上运行的结果会是这样子的：所以请务必注意。

蒙特卡罗方法 (Monte Carlo simulation)

例：a=5,c=1,m=16,I0=1 Î周期=m=16 1,6,15,12,13,2,11,8,9,14,7,4,5,10,3,0,1,6,15, 12,13,2,..
蒙特卡罗方法 (Monte Carlo simulation)
RANDU随机数产生器：
1961年由IBM提出 I n +1 = (65539 × I n ) mod 2 存在严重的问题：Marsaglia效用，存在于所有乘同余方法的产生器
蒙特卡罗方法 (Monte Carlo simulation)
==〉伪随机数（Pseudo-Random Number) Î优点： – – – 占用计算机的内存少；产生速度快；可以重复前次的模拟结果，便于程序的找错；
蒙特卡罗方法 (Monte Carlo simulation)
2.3 线性乘同余方法（Linear Congruential Method)
蒙特卡罗方法 (Monte Carlo simulation)
– 所模拟的物理过程要求随机数应具有下列特性：
• 随机数序列应是独立的、互不相关的(uncorrelated)：即序列中的任一子序列应与其它的子序列无关； • 长的周期(long period)：实际应用中，随机数都是用数学方法计算出来的，这些算法具有周期性，即当序列达到一定长度后会重复； • 均匀分布的随机数应满足均匀性(Uniformity)：随机数序列应是均匀的、无偏的，即：如果两个子区间的“面积”相等，则落于这两个子区间内的随机数的个数影相等。
蒙特卡罗方法 (Monte Carlo simulation)
2.2 随机数的产生 • [0,1]区间上均匀分布的随机数是Monte Carlo模拟的基础，服从任意分布的随机数序列可以用[0,1]区间均匀分布的随机数序列作适当的变换火舍选后求得； • [0,1]均匀分布的随机数的产生方法：

临床试验中的随机分组方法

临床试验中的随机分组方法时间：2009-10-2322:17:46来源：admin万霞1，刘建平2(1．中国医学科学院基础医学研究所/中国协和医科大学基础医学院流行病学教研室,北京市东单三5号,100005;2．北京中医药大学循证医学中心)【摘要】成功地实施随机分配依赖于两个相关的步骤:(1)产生随机分配序列用于试验组和对照组的分配;(2)随机化、,正确地实(在一,共计28种,从的文章未描述随机分组方法,操作是否恰当难以判断[7]。

有学者[8]通过检索BMJ,JAMA,theLancet,NewEnglandJournalofMedicine4种杂志近期发表的关于临床试验的文章发现,尽管已有了CONSORT声明,但是发表在这些杂志上的临床研究中有超过40%的文章或者报告随机隐匿的方法不充分或者根本就没有对随机隐匿的方法进行描述。

而且该研究表明,使用不充分随机隐匿的方法所报告的研究结果往往比充分使用随机隐匿方法的研究结果容易得出显着性的差异。

有研究表明[2],一般情况下,与充分使用随机隐匿的临床试验结果相比,不充分随机隐匿的或者随机隐匿方案不清楚的临床试验结果往往会夸大37%的效应估计值。

1 随机化分组的方法正确使用随机分组是取得比较组间初始可比性、避免选择性偏倚的保证。

随机化分组的方法有多种,但真正的随机化应符合下列原则:(1)医生和患者不能事先知道或决定患者将分配到哪一组接受治疗;(2)医生和患者都不能从一个患者已经进入的组别推测出下一个患者将分配到哪一组[9]。

随机序列的产生可以采用计算机、计算器、随机数字表和抛硬币的方法来实现。

其随机分组方法包括:简单随机化1．1或用计算象。

例如100时,个问题,操作步骤字:,便续抄例1:欲将15例病例随机等分到3个组中去。

方法:从随机数字表[12]中任意选择起始数,现将从第5行第5列开始向右的随机数按随机数余数分组的分类结果列于表1中。

第一次分组后,甲组6例,乙组5例,丙组4例。

基于MATLAB的随机信号分析方法

'none'
to use the raw, unscaled cross-correlations (default)
3、功率谱估 Perio计dogram 周期图法
periodogram
Welch
Averaged periodograms of overlapped, windowed signal sections
(2) 变换法
xi 2 ln r1i cos 2r2i yi 2 ln r1i sin 2r2i
N(m,2)的正态随机数的产生
ui m xi m 2ln r1i cos 2r2i
3 MATLAB的随机数生成函数
1）独立同分布白噪声序列的产生
（1） (0,1)均匀分布的白噪声序列rand()
用法：x=rand(m,n)
功能：产生mn的均匀分布随机数矩阵，
例如，x=rand(100,1)，产生一个100个样本的
均匀分布白噪声列矢量。
1
80
60
0.5
40
20
0
0
（2）正态分布白噪声序列randn()
用法：x=randn(m,n)
功能：产生mn的标准正态分布随机数矩阵，例如，x=randn(100,1），产生一个100个样本的正态分布白噪声列矢量。如果要产生服从N(,2) 分布的随机矢量，则可以通过标准正态随机矢量来产生，
用下式估计方差，
1 N
N 1 n0
x[n] mˆ x
2
互相关函数的估计
3 互相关函数估计xcorr c = xcorr(x,y) c = xcorr(x)
c = xcorr(x,y,'option') c = xcorr(x,'option')

第4讲_随机数的生成及随机变量抽样(2007)[72P][802KB]

例3 生成1行1000列的1—10上离散均匀分布的随机数；并画经验分布函数曲线。生成1行1000列21—30上离散均匀分布的随机数；并画经验分布函数曲线。生成1行1000列501—510上离散均匀分布的随机数。并画经验分布函数曲线。
cdfplot(liti42(1000)), function Random=liti42(mm) cdfplot(liti42(1000)+20), Random=unifrnd(0,1,1,mm); cdfplot(liti42(1000)+500) for i=1:mm if (floor(10*Random(1,i)) ==10*Random(1,i)) Random(1,i)=10*Random(1,i); else Random(1,i)=floor(10*Random(1,i))+1; end end

n 1
pn 1

设Y为一离散型随机变量，它可能的取值为
1,2,…,n,…，取这些值的概率分别为p1, p2,…, pn,…
离散型随机变量Y 的分布函数为
F ( y) P(Y y)

n y
pn
fn(x)为给定Y=n时X的条件密度。该复合分布 f(x)的抽样方法为: 首先从离散分布F(y) 中抽样 N，然后再从密度函数fN(x)中抽样确定XfN 。

按照离散分布的直接抽样: (1)由U(0,1)抽取u
(2) x xI , 当 pi u
i＝1 I－1 i＝1
1 P( X xi ) pi 6
pi
I

选取均匀随机数u，如
I 1 I u , I {1,2,3,4,5,6} 6 6

任意概率分布的伪随机数研究和实现

任意概率分布的伪随机数研究和实现概率分布是用来描述随机变量取值的概率的数学模型。

伪随机数是生成的序列在统计学上接近真正的随机序列的数列。

因此，研究和实现任意概率分布的伪随机数生成方法对于模拟和数值计算等领域非常重要。

在此文章中，我将讨论任意概率分布的伪随机数生成方法，并提供一些常见的概率分布生成方法的实现示例。

1. 均匀分布（Uniform Distribution）均匀分布是指在一定范围内所有的数值出现的概率相等。

伪随机数生成器通常使用线性同余法（linear congruential method）来生成均匀分布的伪随机数。

线性同余法使用一个递归的公式生成整数序列，然后通过除以模数来得到0到1之间的伪随机数。

示例代码：```pythonclass UniformDistribution:def __init__(self, a, b, seed=0):self.a = aself.b = bself.m = 2**31 - 1self.seed = seeddef generate(self, n):for _ in range(n):self.seed = (7**5 * self.seed + 1) % self.mresult.append(self.a + (self.b - self.a) * self.seed / self.m)return result```2. 正态分布（Normal Distribution）正态分布是一种连续分布，具有钟形曲线的特点。

生成正态分布的伪随机数可以使用服从均匀分布的伪随机数生成器结合反函数方法来实现。

反函数方法根据累计概率分布的反函数逆推得到随机变量的取值。

示例代码：```pythonimport mathclass NormalDistribution:def __init__(self, mean, std_dev, seed=0):self.mean = meanself.std_dev = std_devself.uniform_generator = UniformDistribution(0, 1, seed)def generate(self, n):for _ in range(n):u1 = self.uniform_generator.generate(1)[0]u2 = self.uniform_generator.generate(1)[0]z = math.sqrt(-2 * math.log(u1)) * math.cos(2 * math.pi * u2) result.append(self.mean + self.std_dev * z)return result```3. 泊松分布（Poisson Distribution）泊松分布描述了在一个固定时间段内随机事件发生的次数的概率分布。

蒙特卡洛介绍

蒙特卡洛方法解∏
用蒙特卡洛方法解决食堂排队问题
用蒙特卡洛法在Excel 上对大学食堂的窗口服务状态和排队等待问题进行模拟，分别模拟了食堂在开设一个窗口和两个窗口的情况下学生的排队问题，通过500次模拟的统计分析得出，该方法具有简便、易行、实用性强的特点，为决策者提供了参考依据。
我要吃饭
蒙特卡洛的基本思想及产生
假设所要求的x是随机变量的数学期望，那么近似确定x的方法是对进行N次重复抽样，产生相互独立的值的序列，并计算其算术平均值：
根据克尔莫格罗夫加强大数定理有：
因此，当N充分大时，成立的概率为1，亦即可以用值。
作为所求量x的估计
蒙特卡洛的基本思想及产生
MC理论依据: 均匀分布的算术平均收敛于真值 (大数法则) 置信水平下的统计误差 (中心极限) MC方法可以解决的问题：确定性的数学问题，如计算多重积分，求逆矩，解线性方程组等。随机性问题，如中子在介质中的扩散等。
用蒙特卡洛方法解决食堂排队问题
学生到达时间间完成时间总逗留时间
交通运输工程montecarlo蒙特卡洛的基本思想及产生蒙特卡洛的方法基础用蒙特卡洛方法解用蒙特卡洛方法解决食堂排队问题目录蒙特卡洛方法的优缺点及发展蒙特卡洛的基本思想及产生mc蒙特卡洛的基本思想及产生假设所要求的x是随机变量的数学期望那么近似确定x的方法是对进行n次重复抽样产生相互独立的值的序列并计算其算术平均值
[x] 表示不超过x的最大整数
X=a (mod M) 表示x等于a被M除的余数
蒙特卡洛的方法基础
伪随机数的产生
例：十进制2s=4,并取
则 =6406，
=6406，
=41036836，
而