用卷积法证明中心极限定理
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
设 是 是独立随机变量，其概率分布为 ，
那么对于任何t有：
用换元法： ， ；那么
可见求出 便可以得到 。
如果大量这样的随机分布卷积是不是真的逼近高斯分布呢？
事实上在“信号与系统”这门课中通过Matlab对信号进行卷积的实验可以直观地告诉我们答案是肯定的。我们将门函数信号看作某个随机变量的分布，当这样两个门函数卷积时，得出一个三角波函数（如下图），这个我们也可以通过计算得出，而三个门函数相卷积时，一个不太容易预见的情况出现了，图中竟然出现一个钟形函数。经过实验，当足够多的相同门函数卷积时，最终的曲线会无限逼近高斯函数曲线。
上帝接着说:"给产品一个脉冲信号，能量是1焦耳（注1），输出的波形图画出来！"
张三照办了，"然后呢?"
上帝又说，"对于某个输入波形，你想象把它微分成无数个小的脉冲，输入给产品，叠加出来的结果就是你的输出波形。你可以想象这些小脉冲排着队进入你的产品，每个产生一个小的输出，你画出时序图的时候，输入信号的波形好像是反过来进入系统的。"
"我给你一个数学函数f，时间域无限的输入信号在f域有限的。时间域波形混乱的输入信号在f域是整齐的容易看清楚的。这样你就可以计算了"
"同时，时间域的卷积在f域是简单的相乘关系，我可以证明给你看看"
"计算完有限的程序以后，取f(-1)反变换回时间域，你就得到了一个输出波形，剩下的就是你的数学计算了！"
经理拿来了一个小的电子设备，接到示波器上面，对张三说: "看，这个小设备产生的波形根本没法用一个简单的函数来说明，而且，它连续不断的发出信号！不过幸好，这个连续信号是每隔一段时间就重复一次的。张三，你来测试以下，连到我们的设备上，会产生什么输出波形！"
张三摆摆手:"输入信号是无限时长的，难道我要测试无限长的时间才能得到一个稳定的，重复的波形输出吗?"
中心极限定理（Central LimitTheorem）数学定义如下：
设 是独立同分布（identicallyindependentdistributed, IID）的随机变量序列，且 ， 。记
则对任意实数y，有
卷积公式如下
在频域
为证明该定理，首先要说明随机变量和的概率密度分布和卷积的关系。在概率论中，我们知道两个随机变量和的分布是其各自概率分布的卷积。证明方法也很简单：
经理怒了:"反正你给我搞定，否则炒鱿鱼！"
张三心想:"这次输入信号连公式都给出出来，一个很混乱的波形；时间又是无限长的，卷积也不行了，怎么办呢?"
及时地，上帝又出现了:"把混乱的时间域信号映射到另外一个数学域上面，计算完成以后再映射回来"
"宇宙的每一个原子都在旋转和震荡，你可以把时间信号看成若干个震荡叠加的效果，也就是若干个可以确定的，有固定频率特性的东西。（注2）"
这里给出证明方法：
为了便于证明首先对问题进行归一简化，设 是n个独立随机变量，他们的概率密度同为P(x)。
则其均值为：
标准差为：
另外：
记
， 为其概率密度
则有
要证明中心极限定理即证明
当
对 傅里叶变换得变换对 ，则由
得
而
对 泰勒展开，得
由归一化条件则其均值为 和
最终得
当 ，所以
对上式求傅里叶反变换，来自百度文库当 时
结论：在证明中可以发现，傅里叶变换将函数投影（或者说分解）到正交函数系上的功能为运算带来了极大的便利。因此在工程数学计算中，我们常常使用傅里叶变换或者拉普拉斯变换解决一些涉及到卷积、微分方程的计算问题。而卷积具有促使信号平滑化的特点，我们可以据此设计信号滤波器，达到降噪处理的目的。
附文：
在写完这篇文章之后，我发现我只是在讨论信号与系统中的数学方法，并没有什么深层次的东西。我在网上找了一篇文章，能够深层次的揭示信号与系统的设计哲学，不妨拿来分享一下。以下是全文和我的一些理解批注。
"很好！"经理说。然后经理给了张三一叠A4纸: "这里有几千种信号，都用公式说明了，输入信号的持续时间也是确定的。你分别测试以下我们产品的输出波形是什么吧！"
这下张三懵了，他在心理想"上帝，帮帮我把，我怎么画出这些波形图呢?"
于是上帝出现了: "张三，你只要做一次测试，就能用数学的方法，画出所有输入波形对应的输出波形"。
张三领悟了:"哦，输出的结果就积分出来啦！感谢上帝。这个方法叫什么名字呢?"
上帝说:"叫卷积！"
从此，张三的工作轻松多了。每次经理让他测试一些信号的输出结果，张三都只需要在A4纸上做微积分就是提交任务了！
----------------------------------------
张三愉快地工作着，直到有一天，平静的生活被打破。
讲一个故事:
张三刚刚应聘到了一个电子产品公司做测试人员，他没有学过"信号与系统"这门课程。一天，他拿到了一个产品，开发人员告诉他，产品有一个输入端，有一个输出端，有限的输入信号只会产生有限的输出。
然后，经理让张三测试当输入sin(t)(t<1秒)信号的时候(有信号发生器)，该产品输出什么样的波形。张三照做了，花了一个波形图。
有人认为门函数的傅里叶变换是Sa函数，并且Sa函数本身就形似高斯函数虚线，而高斯函数有一个奇怪的性质就是其在时域和频域中的形状是相同的，那么，是不是上述情况只是门函数的特例？事实上足够多的随机信号连续卷积，最终也会无线逼近高斯函数。
可以猜想，任何信号无限自卷积，就可以得到高斯函数信号。通过严格的数学证明也可以得到相同的结论。当计算连续卷积时，信号与系统中的理论告诉我们，运用傅里叶变换，在频域计算卷积将会相对容易。
用卷积法证明中心极限定理
郝越B10050724（Q3-32）
naotilus9112@gmail.comDec, 26th,2011
中心极限定理是概率论中十分重要的一个定理，它揭示了大量独立同概率分布的随机变量之和（或平均值）逼近正太分布的规律，具有非常高的理论和实用价值。然而在高等教育出版社的《概率论与数理统计教程》这本教材中的227页举例解释了通过卷积公式导出中心极限定理的来历，然而书中指出“由于卷积计算相当复杂，无法写出当随机变量数趋于无限时其和或平均值的概率分布函数形式”，这给证明带来了困难。本文将信号与系统中的观点，通过Matlab实验给出直觉，并使用傅里叶变换的方法“化积为乘”求出卷积，以证明该定理。
那么对于任何t有：
用换元法： ， ；那么
可见求出 便可以得到 。
如果大量这样的随机分布卷积是不是真的逼近高斯分布呢？
事实上在“信号与系统”这门课中通过Matlab对信号进行卷积的实验可以直观地告诉我们答案是肯定的。我们将门函数信号看作某个随机变量的分布，当这样两个门函数卷积时，得出一个三角波函数（如下图），这个我们也可以通过计算得出，而三个门函数相卷积时，一个不太容易预见的情况出现了，图中竟然出现一个钟形函数。经过实验，当足够多的相同门函数卷积时，最终的曲线会无限逼近高斯函数曲线。
上帝接着说:"给产品一个脉冲信号，能量是1焦耳（注1），输出的波形图画出来！"
张三照办了，"然后呢?"
上帝又说，"对于某个输入波形，你想象把它微分成无数个小的脉冲，输入给产品，叠加出来的结果就是你的输出波形。你可以想象这些小脉冲排着队进入你的产品，每个产生一个小的输出，你画出时序图的时候，输入信号的波形好像是反过来进入系统的。"
"我给你一个数学函数f，时间域无限的输入信号在f域有限的。时间域波形混乱的输入信号在f域是整齐的容易看清楚的。这样你就可以计算了"
"同时，时间域的卷积在f域是简单的相乘关系，我可以证明给你看看"
"计算完有限的程序以后，取f(-1)反变换回时间域，你就得到了一个输出波形，剩下的就是你的数学计算了！"
经理拿来了一个小的电子设备，接到示波器上面，对张三说: "看，这个小设备产生的波形根本没法用一个简单的函数来说明，而且，它连续不断的发出信号！不过幸好，这个连续信号是每隔一段时间就重复一次的。张三，你来测试以下，连到我们的设备上，会产生什么输出波形！"
张三摆摆手:"输入信号是无限时长的，难道我要测试无限长的时间才能得到一个稳定的，重复的波形输出吗?"
中心极限定理（Central LimitTheorem）数学定义如下：
设 是独立同分布（identicallyindependentdistributed, IID）的随机变量序列，且 ， 。记
则对任意实数y，有
卷积公式如下
在频域
为证明该定理，首先要说明随机变量和的概率密度分布和卷积的关系。在概率论中，我们知道两个随机变量和的分布是其各自概率分布的卷积。证明方法也很简单：
经理怒了:"反正你给我搞定，否则炒鱿鱼！"
张三心想:"这次输入信号连公式都给出出来，一个很混乱的波形；时间又是无限长的，卷积也不行了，怎么办呢?"
及时地，上帝又出现了:"把混乱的时间域信号映射到另外一个数学域上面，计算完成以后再映射回来"
"宇宙的每一个原子都在旋转和震荡，你可以把时间信号看成若干个震荡叠加的效果，也就是若干个可以确定的，有固定频率特性的东西。（注2）"
这里给出证明方法：
为了便于证明首先对问题进行归一简化，设 是n个独立随机变量，他们的概率密度同为P(x)。
则其均值为：
标准差为：
另外：
记
， 为其概率密度
则有
要证明中心极限定理即证明
当
对 傅里叶变换得变换对 ，则由
得
而
对 泰勒展开，得
由归一化条件则其均值为 和
最终得
当 ，所以
对上式求傅里叶反变换，来自百度文库当 时
结论：在证明中可以发现，傅里叶变换将函数投影（或者说分解）到正交函数系上的功能为运算带来了极大的便利。因此在工程数学计算中，我们常常使用傅里叶变换或者拉普拉斯变换解决一些涉及到卷积、微分方程的计算问题。而卷积具有促使信号平滑化的特点，我们可以据此设计信号滤波器，达到降噪处理的目的。
附文：
在写完这篇文章之后，我发现我只是在讨论信号与系统中的数学方法，并没有什么深层次的东西。我在网上找了一篇文章，能够深层次的揭示信号与系统的设计哲学，不妨拿来分享一下。以下是全文和我的一些理解批注。
"很好！"经理说。然后经理给了张三一叠A4纸: "这里有几千种信号，都用公式说明了，输入信号的持续时间也是确定的。你分别测试以下我们产品的输出波形是什么吧！"
这下张三懵了，他在心理想"上帝，帮帮我把，我怎么画出这些波形图呢?"
于是上帝出现了: "张三，你只要做一次测试，就能用数学的方法，画出所有输入波形对应的输出波形"。
张三领悟了:"哦，输出的结果就积分出来啦！感谢上帝。这个方法叫什么名字呢?"
上帝说:"叫卷积！"
从此，张三的工作轻松多了。每次经理让他测试一些信号的输出结果，张三都只需要在A4纸上做微积分就是提交任务了！
----------------------------------------
张三愉快地工作着，直到有一天，平静的生活被打破。
讲一个故事:
张三刚刚应聘到了一个电子产品公司做测试人员，他没有学过"信号与系统"这门课程。一天，他拿到了一个产品，开发人员告诉他，产品有一个输入端，有一个输出端，有限的输入信号只会产生有限的输出。
然后，经理让张三测试当输入sin(t)(t<1秒)信号的时候(有信号发生器)，该产品输出什么样的波形。张三照做了，花了一个波形图。
有人认为门函数的傅里叶变换是Sa函数，并且Sa函数本身就形似高斯函数虚线，而高斯函数有一个奇怪的性质就是其在时域和频域中的形状是相同的，那么，是不是上述情况只是门函数的特例？事实上足够多的随机信号连续卷积，最终也会无线逼近高斯函数。
可以猜想，任何信号无限自卷积，就可以得到高斯函数信号。通过严格的数学证明也可以得到相同的结论。当计算连续卷积时，信号与系统中的理论告诉我们，运用傅里叶变换，在频域计算卷积将会相对容易。
用卷积法证明中心极限定理
郝越B10050724（Q3-32）
naotilus9112@gmail.comDec, 26th,2011
中心极限定理是概率论中十分重要的一个定理，它揭示了大量独立同概率分布的随机变量之和（或平均值）逼近正太分布的规律，具有非常高的理论和实用价值。然而在高等教育出版社的《概率论与数理统计教程》这本教材中的227页举例解释了通过卷积公式导出中心极限定理的来历，然而书中指出“由于卷积计算相当复杂，无法写出当随机变量数趋于无限时其和或平均值的概率分布函数形式”，这给证明带来了困难。本文将信号与系统中的观点，通过Matlab实验给出直觉，并使用傅里叶变换的方法“化积为乘”求出卷积，以证明该定理。