各种分布白噪声的产生
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
York : Springer-Verlag, c1986 上述图书集中讨论不同分布随机数(白噪声)的产生,系统而全面。
各种分布白噪声产生的重要性
➢蒙特卡洛方法的实现步骤 1、构造或描述概率过程 2、实现从已知概率分布抽样
由于各种概率模型都可以看作是由各种各样的概率分布构成的,因 此产生已知概率分布的随机变量(或随机向量)就成为实现蒙特卡罗方 法模拟实验的基本手段,这也是蒙特卡罗方法被称为随机抽样的原因。
2020/3/31
哈尔滨工业大学电子工程系
5
பைடு நூலகம்
均匀分布白噪声的产生
➢数学方法——伪随机数
1、线性同余法 (Linear Congruential Generators)
xi ai x1c(mm o)d
式中 x i 、a、c均为正整数,初值 x 0(亦称种子数) ,a为乘子
c 0 时为乘同余法,c 0时为混合同余法
Kluwer Academic Publishers, 1995 6. Dagpunar, John., Principles of random variate generation,
Oxford : Clarendon Pr., 1988 7. Devroye, Luc., Non-uniform random variate generation, New
3、建立各种估计量
具有各种分布随机序列的模拟是计算机模拟及系统仿真的基础,广 泛地应用于雷达、通信、声呐、机械振动、核物理、自动控制、金融分 析、数值计算、贝叶斯统计等许多领域,例如雷达/声呐回波中的杂波和 噪声的模拟、机械振动噪声的模拟、随机测量误差的模拟等。
均匀分布白噪声的产生
快速产生统计性质优良的均匀随机数是计算机模拟的基础,其 他的非均匀分布都可将均匀分布通过非线性变换得到的。
2020/3/31
哈尔滨工业大学电子工程系
18
非均匀分布白噪声的产生
➢常用的连续分布及其产生——假设随机数r ~ U[0, 1]已产生
2、指数分布E(β) – Exponential Distribution
扩展:双指数分布、超指数分布、截尾指数分布
2020/3/31
哈尔滨工业大学电子工程系
19
非均匀分布白噪声的产生
在计算机上用数学方法产生随机数,是目前使用较广,发展较快 的一种方法。它利用数学递推公式来产生随机数,通常把这样得到的 随机数称为伪随机数。
由于这种方法属于半经验性质,只能近似地具备随机性质。但是 只要产生伪随机数的递推公式选得较好,由此产生的随机数序列的独 立性是可以近似得到满足的。而且只要公式的参数选得适当,就可以 保证所得到的随机数循环周期有足够长。若所使用的随机数总数不超 过伪随机数序列的循环周期时,使用要求即可得到满足。理论定量分 析结果表明,为保证随机数学期望的最大容量(对应循环周期)、独 立性及均匀性,递推公式及其有关参数的正确选择是极为重要的。
法相当于先将密度函数曲线下的面积分解为几个部分,然后以各部分面 积值表示的概率去产生相应各部分密度函数的随机数,即
4、变换法
F(x) = ∑ pi ∙ Fi(x)
利用变换关系从一种分布的随机数产生另一种分布的随机数,前述
的反变换法是此法特例。
设Y = g(X),其反函数为X = g-1(Y) = h(Y),则所得随机变量Y的概
伯努利分布、离散均匀分布、几何分布、泊松分布
2020/3/31
哈尔滨工业大学电子工程系
1
主要参考图书
1. 方再根,计算机模拟和蒙特卡洛方法,北京工业学院出版社,
1988.6 2. Wolfgang Hormann et al, Automatic Nonuniform Random
Variate Generation, Springer, 2004 3. J.E. Gentle, Random Number Generation and Monte Carlo
如果F-1(x)没有解析形式,或者F(x)就没有解析形式,则可以用F-1(x)的 近似公式代替。
以[0, 1]均匀分布随机数r为基础,所有分布随机数都可通过计算或 近似计算其分布函数的反函数,用反变换法或查表法等方法产生。
2020/3/31
哈尔滨工业大学电子工程系
13
非均匀分布白噪声的产生
➢理论方法——以均匀分布随机数r ~ U[0, 1]为基础
率密度函数为:
fY(y) = fX[h(y)] ∙ |h'(y)| 式中fX(x)为随机变量X的概率密度函数,上标撇号表示一阶导数。如果 取Y=r ~ U[0, 1],函数g(∙)为随机变量X的概率分布函数F(∙),则函数
h(∙)=F-1(∙),此即反变换法。
非均匀分布白噪声的产生
➢理论方法——以均匀分布随机数r ~ U[0, 1]为基础
➢数学方法——伪随机数
2、联合法(组合发生器)
混和同余法实际上是通过同余等运算打乱数列0,1,…,m-1的次 序,来达到产生随机序列的目的。“打乱数列的次使之排列无规则”是 设计发生器的一个可依据的原则,基于此产生联合法:
(1) 两个发生器的组合 Greenwood在1976年对两个混合同余法发生器使用组合方法,且两
2、舍选抽样法 (rejection method) 1951年,冯•诺依曼(Von Neuman)提出用舍选抽样法产生随机数。
但有时此法效率很低,为提高抽样效率,在此基础上产生了推广的舍选 抽样法。该方法直观图示如下:
2020/3/31
哈尔滨工业大学电子工程系
14
非均匀分布白噪声的产生
➢理论方法——以均匀分布随机数r ~ U[0, 1]为基础
2020/3/31
哈尔滨工业大学电子工程系
9
均匀分布白噪声的产生
➢数学方法——伪随机数
3、反馈位移寄存器法(FSR:Feedback Shift Register) 实验表明用同余发生器得到的随机数构造的随机向量序列经常有明
显的规律性。1965年Tausworthe提出用模2线性循环产生均匀随机数 的方法。Toothill,Robinson和Adams于1971年给出了FSR发生器的 另一种描述方法,适用于编制程序。
3、各种分布白噪声的产生
➢均匀分布白噪声的产生
1、物理方法 2、数学方法
线性同余法、联合法、反馈位移寄存器法
➢非均匀分布白噪声的产生
1、理论方法 反变换法、舍选抽样法、复合法、变换法、查表法
2、常用的连续分布及其产生 均匀分布、指数分布、 正态分布、 对数正态分布、威布尔分布、 瑞利分布 3、常用的离散分布及其产生
x1
x2
x n1
xn
f(x1,x2,,xn)
n级线性移位寄存器的反馈函数、特征函数可定义为:
n
f(x1,x2,,xn) cixi
n
f () cii
i1
i1
式中ci=0或1,反馈函数或特征函数完全刻划了对应的线性移位寄存器的反馈功能。
理论上,为了产生M序列,设计线性移位寄存器的问题在原则上可归结 为找本原多项式的问题。目前对于n<=168的本原多项式已有表可查。
1级 2级 3级
输出
三级线性反馈移位寄存器
模2加法器
考虑如上图所示的三级线性反馈移位寄存器,初始状态设为111, 则输出M序列为1110010,长度为N=23-1=7。
注:线性移位寄存器的初始状态不能全为零。
2020/3/31
哈尔滨工业大学电子工程系
11
均匀分布白噪声的产生
➢数学方法——伪随机数
3、反馈位移寄存器法(FSR:Feedback Shift Register)
1962年Hull和Dobell给出了混合同余法达到最大周期T=m的充要条件: (ⅰ) c与m互素; (ⅱ) 对m的任意素因子p中,有a≡1 (mod p) (ⅲ)若4是m的因子,则a≡1 (mod 4)
一般采用m=2k混合同余法,则由以上条件可得最大周期发生器为:
xi(4a 1 )xi 1(2 b 1 )(m2ko ) d
➢ 物理方法——真随机数
所谓物理方法就是在电子计算机上装一台物理随机数发生器, 它是把具有随机性质的物理过程直接在机器上变换为随机数字。例 如:以放射性物质为随机源的放射型随机数发生器、以电子管或晶 体的固有噪声为随机源的随机数发生器。主要的物理方法有: 放射性物质、电子管或晶体管噪声、锁相环噪声源、量子模型、混 沌模型
5、查表法 将连续概率分布以离散分布逼近,则查表法可用来产生连续随机
数。此法优点是计算速度很快,缺点是连续分布函数离散化引入误差。
F(x )
1
0.5
x
f(x )
2020/3/31
哈尔滨工业大学电子工程系
x
17
非均匀分布白噪声的产生
➢常用的连续分布及其产生——假设随机数r ~ U[0, 1]已产生
1、均匀分布U[a, b] — Uniform Distribution
2、舍选抽样法 (rejection method) 该方法计算机实现过程如下:
2020/3/31
哈尔滨工业大学电子工程系
15
非均匀分布白噪声的产生
➢理论方法——以均匀分布随机数r ~ U[0, 1]为基础
3、复合法 (composition method) 1961年马萨格里亚(Marsaglia)提出用复合法产生非均匀随机数。此
丁石孙,线性移位寄存器序列,上海科学技术出版社,1982
2020/3/31
哈尔滨工业大学电子工程系
12
非均匀分布白噪声的产生
➢理论方法——以均匀分布随机数r ~ U[0, 1]为基础
1、反变换法 (inversion method) 由已知的分布函数r = F(x)反过来求x。用反变换法产生随机数时,
式中乘子a取前面优选的15种数值中任一个,种子数y0 ≠ 0 任选。 令ri=yi/231,则R就是[0, 1]上的均匀分布随机数。
BASIC、C、MATLAB中均有产生均匀分布随机数的函数可调用: RND()、RAND()、UNIFRND()
2020/3/31
哈尔滨工业大学电子工程系
8
均匀分布白噪声的产生
➢常用的连续分布及其产生——假设随机数r ~ U[0, 1]已产生
3、正态分布N(μ, σ2) — Normal/Gaussian Distribution
Methods, 2nd Ed, Springer, 2003 4. A.M. Law, Simulation Modelling and Analysis, 3rd Ed, McGraw-
Hill, 2000 5. Tezuka, Shu, Uniform random numbers theory and practice,
个发生器的模都简单地取成2k,使组合后的发生器周期达到2k(2k-1)。
(2) n个发生器的组合 Salfi于1974年提出了一个较好的算法。
注:组合发生器并非先产生一些序列再将它们组合起来,而是在组合过程中,用到时再
产生。基于“打乱次序”原则,也可以用单个发生器产生的随机数打乱同一发生器的输
出序列,对此Bays和Durham在1976年提出一个算法。
FSR法的优点在于算法简单,所产生随机数与具体的计算机及其字 长无关。
应用实例:雷达相位编码信号的产生(伪随机码)
2020/3/31
哈尔滨工业大学电子工程系
10
均匀分布白噪声的产生
➢数学方法——伪随机数
3、反馈位移寄存器法(FSR:Feedback Shift Register)
n级线性移位寄存器的输出序列是一个周期序列,其最大可能周 期是N=2n-1,这样的序列称为最大长度序列或M序列,其中1元素比0 元素的个数多1,即0、1的个数分为(N-1)/2、(N+1)/2。
特点:可以在计算机上得到真正的随机数,但是它带来了新的问题。 由于这种随机过程是一去不复返的,不能重复出现,因此就无法再 用原来的随机数进行试算、检查或对比分析,并且对设备要求较高, 从而大大降低了这类方法的使用价值。
2020/3/31
哈尔滨工业大学电子工程系
4
均匀分布白噪声的产生
➢数学方法——伪随机数
式中a、b为任意正整数
2020/3/31
哈尔滨工业大学电子工程系
6
均匀分布白噪声的产生
➢数学方法——伪随机数
1、线性同余法(Linear Congruential Generators)
2020/3/31
哈尔滨工业大学电子工程系
7
均匀分布白噪声的产生
➢数学方法——伪随机数
1、线性同余法(Linear Congruential Generators) 均匀分布U[0, 1]随机数的产生: yi=a·yi-1+1 (mod 231)
各种分布白噪声产生的重要性
➢蒙特卡洛方法的实现步骤 1、构造或描述概率过程 2、实现从已知概率分布抽样
由于各种概率模型都可以看作是由各种各样的概率分布构成的,因 此产生已知概率分布的随机变量(或随机向量)就成为实现蒙特卡罗方 法模拟实验的基本手段,这也是蒙特卡罗方法被称为随机抽样的原因。
2020/3/31
哈尔滨工业大学电子工程系
5
பைடு நூலகம்
均匀分布白噪声的产生
➢数学方法——伪随机数
1、线性同余法 (Linear Congruential Generators)
xi ai x1c(mm o)d
式中 x i 、a、c均为正整数,初值 x 0(亦称种子数) ,a为乘子
c 0 时为乘同余法,c 0时为混合同余法
Kluwer Academic Publishers, 1995 6. Dagpunar, John., Principles of random variate generation,
Oxford : Clarendon Pr., 1988 7. Devroye, Luc., Non-uniform random variate generation, New
3、建立各种估计量
具有各种分布随机序列的模拟是计算机模拟及系统仿真的基础,广 泛地应用于雷达、通信、声呐、机械振动、核物理、自动控制、金融分 析、数值计算、贝叶斯统计等许多领域,例如雷达/声呐回波中的杂波和 噪声的模拟、机械振动噪声的模拟、随机测量误差的模拟等。
均匀分布白噪声的产生
快速产生统计性质优良的均匀随机数是计算机模拟的基础,其 他的非均匀分布都可将均匀分布通过非线性变换得到的。
2020/3/31
哈尔滨工业大学电子工程系
18
非均匀分布白噪声的产生
➢常用的连续分布及其产生——假设随机数r ~ U[0, 1]已产生
2、指数分布E(β) – Exponential Distribution
扩展:双指数分布、超指数分布、截尾指数分布
2020/3/31
哈尔滨工业大学电子工程系
19
非均匀分布白噪声的产生
在计算机上用数学方法产生随机数,是目前使用较广,发展较快 的一种方法。它利用数学递推公式来产生随机数,通常把这样得到的 随机数称为伪随机数。
由于这种方法属于半经验性质,只能近似地具备随机性质。但是 只要产生伪随机数的递推公式选得较好,由此产生的随机数序列的独 立性是可以近似得到满足的。而且只要公式的参数选得适当,就可以 保证所得到的随机数循环周期有足够长。若所使用的随机数总数不超 过伪随机数序列的循环周期时,使用要求即可得到满足。理论定量分 析结果表明,为保证随机数学期望的最大容量(对应循环周期)、独 立性及均匀性,递推公式及其有关参数的正确选择是极为重要的。
法相当于先将密度函数曲线下的面积分解为几个部分,然后以各部分面 积值表示的概率去产生相应各部分密度函数的随机数,即
4、变换法
F(x) = ∑ pi ∙ Fi(x)
利用变换关系从一种分布的随机数产生另一种分布的随机数,前述
的反变换法是此法特例。
设Y = g(X),其反函数为X = g-1(Y) = h(Y),则所得随机变量Y的概
伯努利分布、离散均匀分布、几何分布、泊松分布
2020/3/31
哈尔滨工业大学电子工程系
1
主要参考图书
1. 方再根,计算机模拟和蒙特卡洛方法,北京工业学院出版社,
1988.6 2. Wolfgang Hormann et al, Automatic Nonuniform Random
Variate Generation, Springer, 2004 3. J.E. Gentle, Random Number Generation and Monte Carlo
如果F-1(x)没有解析形式,或者F(x)就没有解析形式,则可以用F-1(x)的 近似公式代替。
以[0, 1]均匀分布随机数r为基础,所有分布随机数都可通过计算或 近似计算其分布函数的反函数,用反变换法或查表法等方法产生。
2020/3/31
哈尔滨工业大学电子工程系
13
非均匀分布白噪声的产生
➢理论方法——以均匀分布随机数r ~ U[0, 1]为基础
率密度函数为:
fY(y) = fX[h(y)] ∙ |h'(y)| 式中fX(x)为随机变量X的概率密度函数,上标撇号表示一阶导数。如果 取Y=r ~ U[0, 1],函数g(∙)为随机变量X的概率分布函数F(∙),则函数
h(∙)=F-1(∙),此即反变换法。
非均匀分布白噪声的产生
➢理论方法——以均匀分布随机数r ~ U[0, 1]为基础
➢数学方法——伪随机数
2、联合法(组合发生器)
混和同余法实际上是通过同余等运算打乱数列0,1,…,m-1的次 序,来达到产生随机序列的目的。“打乱数列的次使之排列无规则”是 设计发生器的一个可依据的原则,基于此产生联合法:
(1) 两个发生器的组合 Greenwood在1976年对两个混合同余法发生器使用组合方法,且两
2、舍选抽样法 (rejection method) 1951年,冯•诺依曼(Von Neuman)提出用舍选抽样法产生随机数。
但有时此法效率很低,为提高抽样效率,在此基础上产生了推广的舍选 抽样法。该方法直观图示如下:
2020/3/31
哈尔滨工业大学电子工程系
14
非均匀分布白噪声的产生
➢理论方法——以均匀分布随机数r ~ U[0, 1]为基础
2020/3/31
哈尔滨工业大学电子工程系
9
均匀分布白噪声的产生
➢数学方法——伪随机数
3、反馈位移寄存器法(FSR:Feedback Shift Register) 实验表明用同余发生器得到的随机数构造的随机向量序列经常有明
显的规律性。1965年Tausworthe提出用模2线性循环产生均匀随机数 的方法。Toothill,Robinson和Adams于1971年给出了FSR发生器的 另一种描述方法,适用于编制程序。
3、各种分布白噪声的产生
➢均匀分布白噪声的产生
1、物理方法 2、数学方法
线性同余法、联合法、反馈位移寄存器法
➢非均匀分布白噪声的产生
1、理论方法 反变换法、舍选抽样法、复合法、变换法、查表法
2、常用的连续分布及其产生 均匀分布、指数分布、 正态分布、 对数正态分布、威布尔分布、 瑞利分布 3、常用的离散分布及其产生
x1
x2
x n1
xn
f(x1,x2,,xn)
n级线性移位寄存器的反馈函数、特征函数可定义为:
n
f(x1,x2,,xn) cixi
n
f () cii
i1
i1
式中ci=0或1,反馈函数或特征函数完全刻划了对应的线性移位寄存器的反馈功能。
理论上,为了产生M序列,设计线性移位寄存器的问题在原则上可归结 为找本原多项式的问题。目前对于n<=168的本原多项式已有表可查。
1级 2级 3级
输出
三级线性反馈移位寄存器
模2加法器
考虑如上图所示的三级线性反馈移位寄存器,初始状态设为111, 则输出M序列为1110010,长度为N=23-1=7。
注:线性移位寄存器的初始状态不能全为零。
2020/3/31
哈尔滨工业大学电子工程系
11
均匀分布白噪声的产生
➢数学方法——伪随机数
3、反馈位移寄存器法(FSR:Feedback Shift Register)
1962年Hull和Dobell给出了混合同余法达到最大周期T=m的充要条件: (ⅰ) c与m互素; (ⅱ) 对m的任意素因子p中,有a≡1 (mod p) (ⅲ)若4是m的因子,则a≡1 (mod 4)
一般采用m=2k混合同余法,则由以上条件可得最大周期发生器为:
xi(4a 1 )xi 1(2 b 1 )(m2ko ) d
➢ 物理方法——真随机数
所谓物理方法就是在电子计算机上装一台物理随机数发生器, 它是把具有随机性质的物理过程直接在机器上变换为随机数字。例 如:以放射性物质为随机源的放射型随机数发生器、以电子管或晶 体的固有噪声为随机源的随机数发生器。主要的物理方法有: 放射性物质、电子管或晶体管噪声、锁相环噪声源、量子模型、混 沌模型
5、查表法 将连续概率分布以离散分布逼近,则查表法可用来产生连续随机
数。此法优点是计算速度很快,缺点是连续分布函数离散化引入误差。
F(x )
1
0.5
x
f(x )
2020/3/31
哈尔滨工业大学电子工程系
x
17
非均匀分布白噪声的产生
➢常用的连续分布及其产生——假设随机数r ~ U[0, 1]已产生
1、均匀分布U[a, b] — Uniform Distribution
2、舍选抽样法 (rejection method) 该方法计算机实现过程如下:
2020/3/31
哈尔滨工业大学电子工程系
15
非均匀分布白噪声的产生
➢理论方法——以均匀分布随机数r ~ U[0, 1]为基础
3、复合法 (composition method) 1961年马萨格里亚(Marsaglia)提出用复合法产生非均匀随机数。此
丁石孙,线性移位寄存器序列,上海科学技术出版社,1982
2020/3/31
哈尔滨工业大学电子工程系
12
非均匀分布白噪声的产生
➢理论方法——以均匀分布随机数r ~ U[0, 1]为基础
1、反变换法 (inversion method) 由已知的分布函数r = F(x)反过来求x。用反变换法产生随机数时,
式中乘子a取前面优选的15种数值中任一个,种子数y0 ≠ 0 任选。 令ri=yi/231,则R就是[0, 1]上的均匀分布随机数。
BASIC、C、MATLAB中均有产生均匀分布随机数的函数可调用: RND()、RAND()、UNIFRND()
2020/3/31
哈尔滨工业大学电子工程系
8
均匀分布白噪声的产生
➢常用的连续分布及其产生——假设随机数r ~ U[0, 1]已产生
3、正态分布N(μ, σ2) — Normal/Gaussian Distribution
Methods, 2nd Ed, Springer, 2003 4. A.M. Law, Simulation Modelling and Analysis, 3rd Ed, McGraw-
Hill, 2000 5. Tezuka, Shu, Uniform random numbers theory and practice,
个发生器的模都简单地取成2k,使组合后的发生器周期达到2k(2k-1)。
(2) n个发生器的组合 Salfi于1974年提出了一个较好的算法。
注:组合发生器并非先产生一些序列再将它们组合起来,而是在组合过程中,用到时再
产生。基于“打乱次序”原则,也可以用单个发生器产生的随机数打乱同一发生器的输
出序列,对此Bays和Durham在1976年提出一个算法。
FSR法的优点在于算法简单,所产生随机数与具体的计算机及其字 长无关。
应用实例:雷达相位编码信号的产生(伪随机码)
2020/3/31
哈尔滨工业大学电子工程系
10
均匀分布白噪声的产生
➢数学方法——伪随机数
3、反馈位移寄存器法(FSR:Feedback Shift Register)
n级线性移位寄存器的输出序列是一个周期序列,其最大可能周 期是N=2n-1,这样的序列称为最大长度序列或M序列,其中1元素比0 元素的个数多1,即0、1的个数分为(N-1)/2、(N+1)/2。
特点:可以在计算机上得到真正的随机数,但是它带来了新的问题。 由于这种随机过程是一去不复返的,不能重复出现,因此就无法再 用原来的随机数进行试算、检查或对比分析,并且对设备要求较高, 从而大大降低了这类方法的使用价值。
2020/3/31
哈尔滨工业大学电子工程系
4
均匀分布白噪声的产生
➢数学方法——伪随机数
式中a、b为任意正整数
2020/3/31
哈尔滨工业大学电子工程系
6
均匀分布白噪声的产生
➢数学方法——伪随机数
1、线性同余法(Linear Congruential Generators)
2020/3/31
哈尔滨工业大学电子工程系
7
均匀分布白噪声的产生
➢数学方法——伪随机数
1、线性同余法(Linear Congruential Generators) 均匀分布U[0, 1]随机数的产生: yi=a·yi-1+1 (mod 231)