概率论与数理统计-课程论文
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
“概率论与数理统计”课程论文
姓名:朱..
学号:**********
专业班级:电子信息工程2班
成绩:
教师评语:
年月日
标题:概率统计与梳理统计在信号中的应用
摘要:概率论与数理统计是一门十分重要的大学数学基础课,也是唯一一门研究随机现象规律的学科,它指导人们从事物表象看到其本质.的概率论与数理统计学实际应用背景很广范。
正如世界知名概率学家、华裔数学家钟开莱于1974年所说:“在过去半个世纪中,概率论从一个较小的、孤立的课题发展为一个与数学许多其它分支相互影响、内容宽广而深入的学科。
”概率论与数理统计学应用于自然科学、社会科学、工程技术、经济、管理、军事和工农业生产等领域.经过不断的发展,学科本身的理论和方法日趋成熟,在社会生活中,就连面试、赌博、彩票、体育和天气等等也都会涉及到概率学知识。
近年来,概率统计知识也越来越多的渗透到诸如物理学、遗传学、信息论等学科当中。
尤其在电子信息通信方面尤为重要,甚至是通信原理的基础课程。
可以说,概率统计是当今数学中最活跃,应用最广泛的学科之一。
在此文中,进一步讨论概率统计在电子信息方面的应用。
关键词:信息论概率论统计
目录
1 对早期概率论的发展有过重要贡献的数学家
2概率统计在电子专业中的应用
3致谢
4参考文献
1对早期概率论的发展有过重要贡献的数学家
莱布尼兹(Leibniz,1646—1716)于1672—1676年侨居巴黎时读到帕斯卡概率方面的研究成果,深刻地认识到这门“新逻辑学”的重要性,并且进行了认真的研究。
在帕斯卡与费马通信讨论赌博问题的那一年,雅各·伯努利(Jacob Bernoulli,1654—1705)诞生了。
在1713年出版的其遗著《猜度术》中首次提出了后来以“伯努利定理”著称的极限定理,伯努利定理刻画了大量经验观测中呈现的稳定性,作为大数定律的最早形式而在概率论发展史上占有重要地位。
伯努利认为:先前人们对概率概念,多半从主观方面来解释,即说成是一种“期望”,这种期望是先验的等可能性的假设,是以古典概型为依据的。
这种方法有极大的局限性,也许只在赌博中可用;在更多的场合,由于无法数清所有的可能情况,也无法确定不同情况的可能性彼此间的大小,这种方法就不可行.他提出,为了处理更大范围的问题,必须选择另一条道路,那就是“后验地去探知我们所无法先验地确定的东西,也就是从大量相关事例的观察结果中去探知它”。
这样一来,就从主观的“期望”解释转到了客观的“频率”解释。
大数定律可以说明目前的大多数概率应用。
由于有了它,任一种预测的准确程度将随着例数增
多而提高。
这就是为什么承得一个特殊事件的保险费的收费标准,要高于大量的一般事件的保险费标准的原因。
伯努利之后,棣莫弗(A.De Moivre,1667—1754)于1733年和高斯(Gauss,1777—1857)于1809年各自独立引进了正态分布;蒲丰(G.L.L Buffon,1707—1778)于1777年提出了投针问题的几何概率;泊松于1837年陈述了泊松大数定律等。
特别是拉普拉斯(place,1749—1827)1812年出版的《概率的分析理论》以强有力的分析工具处理概率论的基本内容,使以往零散的结果系统化.拉普拉斯的著作实现了从组合技巧向分析方法的过渡,开辟了概率论发展的新时期。
正是在这部著作中,拉普拉斯给出了概率的古典定义:事件的概率等于一次试验中有利于事件A的可能结果数与该试验中所有可能结果数之比。
籍此拉普拉斯曾以“中立原理”计算出第二天太阳升起的概率为1/826214。
值得说明的是,拉普拉斯认为世界是决定性的,偶然性只是出于人们的无知.如果我们能预知一切情况,以后的发展使可全知。
关于这点拉普拉斯在其《概率论的哲学试验》中说的很明确:“智慧如果能在某一瞬间知道转动着自然的一切力量,知道大自然所有组成部分的相对位置,再者,如果它是如此浩瀚,足以分析这些材料,并能把上到庞大的天体下至微小的原子的所有运动悉数囊括在一个公式之中,那么,对于它来说,就没有什么东西是不可靠的了,无论是将来或过去,在它面前都会昭然若揭。
”按此观点,宇宙的一切发展,早在混沌初开时就完全决定下来,岂不荒唐!
19世纪后期,极限理论的发展成为概率论研究的中心课题,俄国数学家切比雪夫(Chebyshev,1821—1894)在这方面作出了重要贡献。
他在1866年建立了关于独立随机变量序列的大数定律,使伯努利定理和泊松大数定理成为其特
例.切比雪夫还将棣莫弗--拉普拉斯极限定理推广为更一般的中心极限定理。
切比雪夫的成果后又被他的学生马尔可夫(А.А.марков,1856—1922)发扬光大,推进了20世纪概率论发展的进程。
19世纪末,概率论在统计物理等领域的应用提出了对概率论基本概念与原理进行解释的需要。
另外,科学家们在这一时期发现的一些概率论悖论也揭示出古典概率论中基本概念存在的矛盾与含糊之处,其中最著名的是所谓“贝特朗悖论”。
1899年由法国学者贝特朗(J.Bertrand)提出:在半径为r的圆内随机选择弦,计算弦长超过圆内接正三角形边长的概率根据“随机选择”的不同意义,可以得到不同的答案。
这类悖论说明概率的概念是以某种确定的实验为前提的,这种实验有时由问题本身所明确规定,有时则不然。
因此,贝特朗等悖论的矛头直指概率概念本身,尤其是拉普拉斯的古典概率定义开始受到猛烈批评。
这样,到19世纪,无论是概率论的实际应用还是其自身发展,都强烈地要求对概率论的逻辑基础作出更加严格的考察。
鉴此,1900年夏,38岁的德国代表希尔伯特(D.Hilbort,1862—1943)在世界数学家大会上提出了建立概率公理系统的问题.这就是著名的希尔伯特23问题之中的第6个问题。
这就引导一批数学家投入了这方面的工作。
2 概率统计在电子专业中的应用
概率论与数理统计在电子电路的随机信号处理及实验中有着广泛的应用,通信工程中信号的接收和发射,都需要概率论与数理统计学的理论作为基础。
因为,信号是信息的载体。
信号源的输出都是随机的,怎样在随机信号中找出我们所需要的信息,就需要使用统计方法来描述。
同时,对于接收者来说怎样从一个不缺定或不可预测的信号中获取我们所需要的信息,仍然需要再次利用统计学中的知识。
根据概率论与数理统计中的知识所描述,事件的概率就是对于一次随机试验E ,S 是它的样本空间,那么对于随机试验E 中的每一个事件A 都赋予一个实数,记为P (A ),这时,这个实数就是事件A 的概率。
我们知道一个事件的不确定性可以用事件出现的频率来描述,可能性越小,概率越小;反过来说,可能性越大,则概率就越大。
由此就可以看出,信息中包含的信息量与事件发生的概率密切相关。
在此,我们可以判断出,当一个事件的不确定性越小时,它所携带的信息量就越大,因为我们可以从中获得更多的信息。
这个时候,我们设有一个函数,它满足对于一个事件的概率P(x),有对应的信息量I 满足I=f[P(x)],由以上总结得出:
1)P (x )越小,则I 就越大;同样则有当P (x )越大时,I 就越小。
用数学式表达:P (x )→1时,I →0;P (x )→0时,I →∞.
2)因为信息所包含的信息量可以用概率来表述,所以概率的基本性质例如相加性对于信息也是满足的。
就是对于概率论来说,设,...,21
A A 是两两互不相容的
事件,即对于A A j i =Ø,i ≠j,i,j=1,2,...,则 ()()() (2)
121++=A P A P A A P n n n
通过类比可得出若干个相互独立事件所提供的信息量就等于个独立事件所提供的信息量之和,也就是所谓的信息的相加性,即
()()[]()[]()[]......2121++==x x x x P I P I P P I
由以上两点可以得出,信息量I 与事件出现的概率P (x )的关系应满足一种数学关系,根据1)、2)可以知道信息量I 与事件出现的概率P (x )的倒数成对数关系。
此时,我们可以得出I 与P (x )的对应关系,即
I=()x P 1log a =-log a P (x )
其中,a 的取值可以用来判断信息量的单位。
通过这个公式,我们对信息量做出了较为直观的描述,从而对信息做出度量,为信息的传输和处理奠定了基础。
在信号的传输之前,我们需要对信号进行处理,这是因为对于信号源来说,它所发出的信号是一定的,但有时会具有较低的频谱分量,这种信号在很多信道中并不适合传输。
因此,我们在信号传输之前需要对信号进行调幅。
而需要调幅的信号就称为调幅(AM )信号。
我们假设,一个调制信号m(t),叠加上直流A 0后与可形成调幅(AM )信号。
调幅信号的时域表示为
s AM (t)=[A 0+m(t)]cos ωc t=A 0cos ωc t+m(t)cos ωc t
式中:m(t)为调制信号,它的均值为0;A 0是常数,表示的是叠加的直流分量。
AM 信号在1Ω电阻上的平均功率应该等于s AM (t )的均方值即为其平方的时间平均,即
()[]t t c AM
AM t m A s P ωcos 2220)(+== =()t t m t t t c
c c A m A ωωωcos
cos cos 20222
202)(++
利用均方值可以很简单的计算出信号的总功率,通过改变高频载波的电流来改变低频谱分量,从而使原始的低频信号变换成为适合在信道中传输的已调信号,同时,也可以实现提高信号传输系统的抗干扰能力。
由上文我们可以得出,信息具有不确定性,载有信息的信号是不可预测的,并且带有某种随机性,在信息的传输过程中,并非所有的信息都是有用的,而无用的那一部分,则被我们称为噪声。
噪声更具有不确定性,并且也是不可预测的。
在移动通信时,电磁波的传播路径在不断变化,同时,接收信号也是随机变化的。
这时,通信中的信号源、噪声,以及信号传输特性都需要使用随机过程来描述。
对于随机过程,我们可以知道它是一个给定的时间函数;同时,在给定的任
一时刻t1,全体样本在t1时刻的取值()tξ是一个不含t变化的随机变量。
随机过程具有随机变量和时间函数的特点。
随机过程的统计特性可以由分布函数和概率
密度函数来描述,它可以分为一维、二维、...n维,当n越大时,则对随机过程的描述就越充分。
同时我们也可以通过随机过程的数字特征(即均值、方差以及相关函数)更加简单直观的来描述随机过程的统计特性。
随机过程的统计特性:
1)一维分布函数
2)一维概率密度函数
3)二维分布函数和二维概率密度
4)n维分布函数和n维概率密度函数
随机过程的数字特征
1)数学期望(均值或统计平均)
设随机过程()tξ在给定的时刻t1的取值
()t
1
ξ是一个随机变量,起概率密
度函数为()t x f 111则()t 1
ξ的数学期望为 ()[]()x t x f x t d E 1
11111,⎰∞∞-=ξ 因为,t 1使任意取得,所以 可以将t 1直接记为t ,而x 1可以直接写为x ,这时,上式就变为随机过程在任意时刻的数学期望,所以上式可以写为
()[]()dx t x x t E f ⎰∞∞-=,1
ξ 对于均值性质如下:
1)设C 是常数,则有E(C)=C;
2)设X 是一个随机变量,C 是常数,则有E(CX)=CE(X);
3)设X 和Y 是任意两个随机变量,则有E(X+Y)=E(X)+E(Y);
4)设X 和Y 是任意两个相互独立的随机变量,则有E(XY)=E(X).E(Y)。
本性质可以推广至任意个相互独立的随机变量之积的情况。
2)方差
方差就是均放置与均值平方之差,它表示在随机时刻t 对于均值的偏离程度。
3)相关函数
对于一维的概率密度函数用均值和方差就可以描述,对于二维概率密度函数的描述则仍需要引入概率论与数理统计学中的相关函数和协方差来对随机过程进行描述。
协方差函数
()()()[]()()[]
{}t t t t t t a a E B 221121,--=ξξ =()[]()[]()dx dx t t x x f t x t x a a 212;12122211;,⎰⎰∞∞-∞
∞---式中:t 1、t 2——为任
意两个时刻;
()t a 1、()t a 2——所选取的两个时刻所得到的数学期望;
()t t x x f 2
,1;2,12——二维概率密度函数。
相关函数
()()()[
]()dx dx t t x x f x x t t t t E R 212,1;2,1221212,1⎰⎰∞∞-∞∞-==ξξ 式中:t 1、t 2——任取的两个时刻; ()t t x x f 2
,1;2,12——二维概率密度函数 通过这些就可以对随机过程进行描述。
通过对随机信号的描述我们可以正确的对信号做出判断和处理。
但是,在对随机信号进行处理的过程中,我们难以避免的会遇到噪声和干扰,噪声和干扰会使我们在接收信号时,无法确定我们所收到的信号是否正确,更加的在增加了接收信号的不确定性,从而使信号的传输和接收产生误差。
为了解决这个问题,在有限的条件下判断出信号的正确性,就需要通过统计推断中的假设检验理论来解决这个问题。
在统计学中,经过人们的长期实践,使得假设检验的一般过程比较明确。
由于要检验的假设涉及总体均值μ,所以我们首先可以想到的是是否可以借助样本的均值x 这一统计量来进行判断。
我们知道X 是μ的无偏估计,X 的观察值x 的大小在一定程度上,反映了μ的大小,所以,如果假设H 0为真,则一次实验的观察值x ,满足不等式z a n x 20
≥-σμ
几乎是不会发生的。
现在,在一次实验中出现了满足z a n x 0
≥-σμ的x ,则我们可以怀疑原来假设的H 0的正确性而拒绝
H 0,若出现的观测值x 满足z a n x 20
<-σμ,此时没有理由拒绝假设H 0,因此,只能接受H 0.
在信号的统计检测与估计中,对于假设检验的定义是认为一个被观测的物理系统可能出于M 个状态之一。
我们就称“系统处于状态j (j =1,2,...,M)为假设H
j ”。
由于 对系统一般只能进行有限的检测,假定观测数据矢量为[]v v v N v T ~,...,~,~21~=,ℜ∈N v ~,并令,()v P j
~为H j 为真时的观测数据为v ~的条件概率密度;()M j j ,...,2,1=ζ为系统出于H j 时的先检概率,显然有
()1~0≤≤v
P j 及 ()⎰ℜN v d v P j ~~=1 10≤≤ζj 及 11=∑=M j j ζ
()v P j
~又称为转移概率,它一般只决定于干扰与噪声。
因为我们只能根据数据观测量来判断系统处于何种状态,但因为v ~是随机矢量,N 有限,所以要检测结果
完全正确也是不可能的。
要判别在实际过程中,随机信号和有用信号存在的检测问题归结为:判别为在H H H M 1,1,0...-等M 个假设中的哪一个假设为真的问题。
经过进行统计判决的经验积累,在假设检验对信号进行统计判决时,一般遵循以下步骤:首先要对信号做出原假设;其次,选择出判决所要遵循的最佳准则;然后,进行试验,来获得进行信号统计所需要的资料;最后,根据数据和给定的最佳观测来进行统计判决。
这样,我们就可以根据判决结果来判断出信号的有无,从而使信号的接收和传输简便,避免了在接收信号时遇到的噪声和干扰,不易出现误差。
本文介绍了利用概率来表示信号的不确定性从而便于对信号进行度量,利用均方值来判断改变信号的频谱,使信号便于在多重信道中传输,并介绍了均值,方差,相关函数等对于随机过程的描述等,然而这些仅仅是概率论与数理统计在
电子通信专业的一部分应用。
在研究信号处理与模拟信号时,我们更能发现,概率论与数理统计对于本专业的奠基作用。
所以,我们在学习专业课程之前,更要打好数学基础,为未来深入研究学习做好准备工作。
致谢
来到合肥大学第一学期即将结束,概率论与数理统计是我最喜欢的课程。
老师激情四射的授课、耐心细致的讲解,使我对这门课程拥有强烈的兴趣。
借期末课程论文这次机会向老师表示最诚挚的感谢!
参考文献
[1]张奠宙.数学史选讲(M). 上海科学技术出版社,1998.2.
[2]秀林,任雪松,多元统计分析,中国统计出版社,1998.8
[3]卢文岱,SPSSFORWINDOWS统计分析,电子工业出版社,2002.9
[4].王宝柱.电子产品可靠性浅谈[J].山西电子技术.2003.1
[5].樊建祖.当前电子产品可靠性实验存在的问题探讨[J].专家论坛.2006.4。