概率空间
概率空间和概率分布的关系
概率空间和概率分布的关系Probability space and probability distribution are closely related concepts in the field of probability theory. A probability space consists of three components: a sample space, a set of events, and a probability measure. The sample space is the set of all possible outcomes of an experiment, the set of events is a collection of subsets of the sample space, and the probability measure assigns probabilities to each event in the set of events. The probability distribution, on the other hand, describes the likelihood of each possible outcome of a random variable. It provides a mathematical model for the randomness inherent in a system or process.概率空间和概率分布在概率论领域密切相关。
概率空间包括三个组成部分：样本空间、事件集和概率度量。
样本空间是实验的所有可能结果的集合，事件集是样本空间的子集的集合，概率度量给事件集中的每个事件分配概率。
另一方面，概率分布描述了随机变量每个可能结果的可能性。
它为系统或过程中固有的随机性提供了数学模型。
In a probability space, the sample space represents all the possible outcomes of an experiment, which is the foundation of the entireprobability theory. It provides a framework for analyzing uncertainty and making predictions based on statistical data. The set of events in a probability space is crucial for determining the probability of various outcomes and understanding the likelihood of different scenarios. The probability measure assigns a numerical value to each event in the set of events, representing the likelihood of that event occurring. It is a fundamental concept that enables us to quantify uncertainty and make informed decisions.在概率空间中，样本空间代表实验的所有可能结果，这是整个概率论的基础。
伊藤清概率论第一章
例如，由 R 的全体区间构成的族所生成的完全加法族为 Borel
集合族．再如，端点为有理数的全体区间构成的族也生成同一
个 Borel 集合族．R 上的完全加法族有很多种，但是 Borel 集合
族是最有用的一个．
将空间 Ω 与其子集构成的一个完全加法族 F 结合来考虑
时，所产生的序偶 (Ω, F ) 称为可测空间. 然而，当 Ω = R 时，通
4 第 1 章 概率论的基本概念
的测度 P ，称为 (Ω, F ) 上的概率测度. 对于 E ∈ F ，称 P (E) 为 E 的概率或 E 的P -测度.
将 Ω, F , P 一起考虑时，所产生的序偶 (Ω, F , P ) 称为概 率空间.
§2 概率空间的实际意义
针对想理解后面出现的定理含义的读者，这里有必要对前 一节定义的抽象概率空间在实际随机现象研究中的应用加以说 明，仅对推理感兴趣的读者另当别论.
k=1
3◦ 属于 F 的集合的余集也属于 F ，即若 E ∈ F ，则
2 第 1 章 概率论的基本概念
Ω−E ∈ F．
利用这三个条件，我们可以推出下列结论.
4◦ 空集 (今后用 ∅ 表示) 也属于 F ．事实上，在 3◦ 中取
E = Ω 即可.
∞
5◦ 如果 E1, E2, E3, · · · ∈ F , 则 Ek ∈ F .
这个等式称为有限可加性. 以此类推，仅依靠形式的推理是不能导出完全可加性的. 将
概率的完全可加性作为基础来假设，是数学上的理想化模式. 你 渐渐地便能理解这种理想化不是与实际相悖的，反而是与其一 致的.
综合以上三个步骤的分析便获得概率空间 (Ω, F , P ).
§3 概率测度的简单性质
概率空间概念
证 1)
P Ω
eλ λk eλ λk 1
kΩ
k!
k0 k!
2) 因 λ 0，对k 有 eλ λk 0, k!
概率空间
0 P( A) eλ λk eλ λk 1;
kA
k! kΩ
k!
3) 设
Ai F, (i 1,2,), Ai Aj ,(i j),
有
P
样本空间为
Ω {1,2,, n}
构造如下事件:
Ak,s Ak As k, s 1,2,, n,
Ai,k,s Ai Ak As i, k, s 1,2,, n
………
概率空间
A A A A i1 ,i2 ,,in1
i1
i2
in1
(i1 , i2 ,, in1 1,2,, n)
可验证集族 { , , Ak , Ak,s ,, Ai1 ,i2 ,,in1 }
Ω {x : x R1} R1
则R1的子集全体：,,Ω单点集{ x }，一切开的, 闭的，半开闭区间等组成的集族F是一个代数.
另外，令 A1 x : x 0={出现正误差} A2 x : x 0={出现负误差}
概率空间
则 F , A1, A2,Ω 为一个σ代数.
注：对同一研究对象的同一试验, 试验目的 不同, 其样本空间和σ代数的结构会不同.
(3) 若 Ai F ,(i 1则,2,), （对可列并运算封闭）
Ai F
i 1
σ可加
称F 为Ω的一个σ-代数（事件体）, F 中的集
合称为事件.
概率空间
Ex.1 在编号为1,2, …, n 的 n个元件中取一件.
1. 考虑元件的编号，则全体基本事件为 Ak {k} (k 1,2,, n)
第六章条件概率与条件期望
第六章 条件概率与条件期望6.1 定义和性质设为概率空间，),,(P F ΩF ∈B 且，记0)(>B P ())()()(B P AB P B A P A P B ==),P ，，则易证明为概率空间。
考虑F ∈∀A ),,(B P F Ω,(F Ω上的随机变量ξ在此概率空间上的积分，若存在则称它为∫ΩξB dP ξ在给定事件B 之下的条件期望，记为(B E ξ)，即()B ∫Ω=B dP ξE ξ。
命题1：若ξE 存在，则(B E ξ)存在且()∫=BdP B P B E ξξ)(1。
由此可见，ξ在给定事件B 之下的条件期望的意义是ξ在B 上的“平均值”。
此外给定事件在给定事件A B 的条件概率)B ()(I E B A P A =0)(>n B P 可看成条件期望的特殊情形。
设{}为的一个分割且，令F ⊂n B Ω)2,1,L =(=n n B σA ，则。
若F A ⊂ξE 存在，()∑为nE B n I n B ξ),A (Ω上的可测函数，称其为给定σ-代数A 之下关于P 的条件期望，记作()A ξE ，即()()∑=E ξA nB n I ξn B E 。
命题2：A ∈B ∀且，0)(>B P ()()∫=BdP E B P B E A ξξ)(1。
证明：A ∈B ∀，{L ,2,1⊂}∃K 使得∑∈=K i i B B ，()()()()∑∫∫∑∑∫∑∫∈∈=====K i BB Ki i i nn n BnB nBdPdP B P B E B B P B E dP IB E dP E inξξξξξξ)()(I A由此可见，若称满足下式的(),A Ω上的可测函数()A ξE 为ξ在给定σ-代数A 的条件期望：()∫∫=BBdP dP E ξξA ，A ∈∀B则由于不定积分，∫=BdP B v ξ)(A ∈∀B 为),(A Ω上的符号测度且v ，由Radon-Nikodym 定理存在唯一的(P <<P s a ..),A Ω上的可测函数满足上式，即()dPdvE =A ξ(Ω，故由命题2，两者定义一样。
随机过程知识点-概率空间
第一章：预备知识§1.1 概率空间随机试验，样本空间记为Ω。
定义1.1 设Ω是一个集合，F 是Ω的某些子集组成的集合族。
如果 （1）∈ΩF ；（2）∈A 若F ，∈Ω=A A \则F ； （3）若∈n A F ， ，，21=n ，则∞=∈1n nAF ；则称F 为-σ代数(Borel 域)。
(Ω,F )称为可测空间，F 中的元素称为事件。
由定义易知： .216\,,)5)4(111F A A A i F A F B A F B A F i i n i i n i i i ∈=∈∈∈∈∅∞=== ，，则，，，）若（；则若（；定义1.2 设(Ω,F )是可测空间，P(·)是定义在F 上的实值函数。
如果()()()()∑∞=∞==⎪⎪⎭⎫ ⎝⎛∅=⋂≠=Ω≤≤∈1121,,,31210,)1(i i i i j i A P A P A A j i A A P A P F A 有时，当）对两两互不相容事件（；）（；任意则称P 是()F ,Ω上的概率，（P F ，，Ω）称为概率空间，P(A)为事件A 的概率。
定义1.3 设（P F ，，Ω）是概率空间，F G ⊂，如果对任意G A A A n ∈,,,21 ，,2,1=n 有： (),11∏===⎪⎪⎭⎫⎝⎛ni i n i i A P A P则称G 为独立事件族。
§1.2 随机变量及其分布随机变量X ，分布函数)(x F ，n 维随机变量或n 维随机向量，联合分布函数，{}T t X t ∈,是独立的。
§1.3随机变量的数字特征定义1.7 设随机变量X 的分布函数为)(x F ，若⎰∞∞-∞<)(||x dF x ，则称)(X E ＝⎰∞∞-)(x xdF为X 的数学期望或均值。
上式右边的积分称为Lebesgue-Stieltjes 积分。
方差，()()[]EY Y EX X E B XY --=为X 、Y 的协方差，而 DYDX B XYXY =ρ为X 、Y 的相关系数。
条件概率 测度论
条件概率测度论
条件概率和测度论是概率论的两个重要概念。
条件概率是指在某个条件或限制下，某一事件发生的概率。
测度论则是概率论的基础，它定义了概率空间和事件集合，并给出了概率测度的性质和运算规则。
在测度论中，概率空间是一个三元组（Ω，F，P），其中Ω是一个样本空间，F是Ω上的一个σ代数，P是一个定义在F上的概率测度。
事件集合是由F中的元素构成的，每个元素都对应一个事件。
概率测度P给出了每个事件发生的概率。
条件概率是在某个已知条件下，某个事件发生的概率。
在测度论中，条件概率可以通过转移测度来定义。
转移测度是将一个概率测度从原来的样本空间Ω映射到另一个样本空间的一个函数。
在条件概率的定义中，转移测度的作用是将原来的概率测度P映射到一个新的概率测度P'上，使得P'满足条件概率的定义。
通过测度论和条件概率的定义，我们可以进一步探讨概率论中的其他概念，例如随机变量、分布函数、期望、方差等。
这些概念在概率论中有着广泛的应用，可以用于解决各种不确定性和风险问题。
Probabilityspaces：概率空间
Probability spaces.We are going to give a mathematical definition of probability space .We will first make some remarks which will motivate this definition.A fundamental notion in probability theory is that of an experiment .An experiment is an activity which can be repeated any number of times,each repetition of which has an outcome .We require that information about outcomes of past performances of the experiment provides no information about future outcomes of performances of the experiment.The set of outcomes of the experiment is called the sample space of the experiment.The points of the sample space,which are outcomes,are sometimes called sample points .(It is possible that the experiment have only one outcome so that the sample space has only one member,but this situation is probabilistically trivial.)Let us give two examples.For the first example,suppose I take a coin out of my pocket,flip it three times and observe for each flip whether it came up heads or tails.A natural sample space for this experiment would be the set of ordered triples{(H,H,H ),(H,H,T ),(H,T,H ),(H,T,T ),(T,H,H ),(T,H,T ),(T,T,H ),(T,T,T )}.Other sample spaces are possible.You may encode the outcomes as bit patterns,taking 1for heads and 0for tails,and ending up with{(1,1,1),(1,1,0),(1,0,1),(1,0,0),(0,1,1),(0,1,0),(0,0,1),(0,0,0)},or you could use the the numbers with the foregoing binary representations ending up with{7,6,5,4,3,2,1,0}.But wait —maybe you don’t care about the pattern of heads and tails.You might be interested in the sum of the angles with the vertical made by the plane of the coin the instant it strikes the table.This would be considered a different experiment.So the emphasis is on the outcome more than the activity which produced it.As a second example,consider a barrel full of batteries of all different sizes and shapes.You pick a battery out of the barrel (I didn’t and won’t say how,but that matters if we’re interested in probabilities)and we measure its voltage on my voltmeter.If you do that,the outcome will be a real number between 0and 15.Now you can arguethat there are lots of real numbers between 0and 15that will never arise as outcomes,like √2times 10−3000for example,and you’ll be right.As often happens in science,we arereplacing some physical reality by an idealization.In probability theory one associates with a sample space a family of subsets of the sample space the members of which are called events .In this course,for all practical purposes,every subset of the sample space will be an event.It turns out that there are serious technical and intuitive problems with this,but these are beyond the scope of the course and we will not go into them much.A natural event associate to the first example is “more heads than tails”which is{(H,H,H ),(H,H,T ),(H,T,H ),(T,H,H )}.A natural event associated with the second event is(1.2,1.8).If an outcome,which corresponds to a battery picked out of the barrel,is in this event then I might reasonably put the battery in my flashlight,assuming the battery is a “D”battery and my flashlight takes “D”batteries.Now we come to the key concept.Fix an experiment with sample space S and fix an event E .What is the probabilityP (E )of E ?Here is a very good nonmathematical definition.Perform the experiment indefinitely.Now that’s impossible but imagine doing it anyway.This results in a sequences 1,s 2,...,s n ,...of outcomes,or sample points if you prefer that terminology.(We’re using s’s here because“sample”starts with s.)By the way,the repetitions of the experiment should be independent,whatever that means.At the very least,you shouldn’t rig the experiment in any way that allows to obtain any information about the n-th outcome until the experiment has been performed for the n-th time.Given such a sequence s of outcomes we letν(E,n)be the number of i∈{1,...,n}such that s i∈E and define the probability of the event E to beP(E)=limn→∞ν(E,n)n.Now it is not at all clear that this limit exists.But let’s imagine that it does.There is an outstanding result in probability theory called the strong law of large numbers that says that the limit nearly always(whatever that means)does exist.Let us make some observations.First,0≤P(E)≤1.next,the probability of the empty event(no sample points)is zero and the probability of the certain event (all sample points)is one.Finally,suppose E1,...,E N are disjoint or mutually exclusive events.Thenν(∪N i=1E i,n)=Ni=1ν(E i,n).Passing to the limit,wefind the basic identityP(∪N i=1E i)=Ni=1P(E i).We have just described the relative frequency interpretation of probability.This is discussed in the book in some detail.The book also discusses some other ways of thinking about probability.Ifind them incomprehensible.There are other good ways of thinking about probability but we will not go into them.Now we’re ready to make the formal definition of a probability space.Definition.A probability space is an ordered triple(S,E,P)whereS is a set,E is a family of subsets of S andP is a function on E taking values in[0,1]such that the following conditions hold:∅∈E;S∈E;if E∈E then S∼E∈E;if C is a countable family of sets in E thenC∈E;P (∅)=0;P (S )=1andif C is a countable disjointed family of sets in E thenP ( C )= E ∈CP (E ).Here is a typical way one builds a probability space.Start with a finite set S .Next,letp :S →[0,1]be such thats ∈S p (s )=1.Let E be the family of all subsets of S .(There are 2N of them,right?)For each E ∈E letP (E )=s ∈E p (s ).Then (S,E ,P )is a probability space.For example,if the coin in the example above is fair it would be reasonable to take S to be the the set of ordered triples with entries H or T and to take p to be 18on each of the 8sample points.The probabilityof the event “more heads than tails”would then be 12.。
建立概率空间的数学思想和科学方法
一 、为 什 么 要 建 立 概 率 空 间 早期概率论通过对古典型, 几何型等概率问题的 研究得出一些求 随机事件概率的结果, 但是对于较复杂的事件特别是 涉及到无穷多种 可能结果的场合很难给出准确的数学刻画, 根本原因 是概率论的基本 概念没有明确的定义, 这种缺陷造成像贝特朗奇论的怪 现象产生, 以 致人们对概率论的科学 性, 可应用性产生疑问, 有人说:“今 天, 概率论 不是一门数学 ”还有人说: “有一点占星术和炼金术的味 道。”概率论 本身的发展, 以及 各应用领域对 概率论的需求, 有必要完善概 率论的 基本概念, 为概率 论建立一套严 密的理论基础, 在这方面独具 代表性 的是上世纪二十年代以 A.H 柯 尔莫哥洛夫为首 的一批数学家 所作的 杰出创造性的貢献, 他们提出了概率论公理化体系, 以最 简洁, 最精美 的数学形式定义了概率论基本概念及其逻辑结构, 为 概率论奠定了严 密的数学理论基础, 从此概率论作为一种数学思想一 种科学方法登上 了科学殿堂, 推动了概率论的飞速发展。 二 、建 立 概 率 论 公 理 化 体 系 的数 学 思 想 ( 1) 用样本空间 ! 来描述随机 现象 对于某一随机现象 进行观 察时, 关键在于把 握该现象中每 一可能出现的结 果, 并把他们 全部罗 列出来, 称每一可能出 现的结果为样本 点记作 !, 称全 体样本点 组成 的集合为样本空间记作 ! , (! ∈!) , 样本空间 ! 是描述随机 现象的 数学模型, 它把随机试验中 每一可能的结果抽象为空间 ! 中 的一个 点, 这是一个新的创意, 这个创意来自抽象与转化两种数 学思想, 它为 建 立 概 率 论 的 公 理 化 体 系 迈出 了 坚 实 的 第 一 步 。而 且 我 们 看 到 一 个 随 机现象可以用一个样本空间来描述, 而一个样本空间 却可以为多种完 全不同的随机现象 所共用, 假如 只注意每个样本 点的随机本质 , 摒弃 样本点各自的具体属性, 我们就可以用样本空间为模 型对随机现象进 行梳理和分类, 例如 !={0,1}可以表示一大类随机现象, 于是在浩瀚的 大自然中, 五 彩缤纷的随机现 象可以用如此简 洁的表现形式 进行分 类, 这就是抽象, 概括, 化归和分类的数学思想。 ( 2) 用子集去理解随机事件 随机现象中的某种 结果称为随机事 件, 简称为事件, 这里“某种结果”是泛指的, 它可以是 指某一个实验结 果, 也可以指若干个结 果中的任一个, 从这个含义 来看随机事件 A 定 义为样本 空间 ! 的某个 子集 A"!, 就很自然了 , 事件 A 发生当 且仅 当子集 A所含的 某个样本点出现。进一步我们 发现事件的运 算与集 合的运算有惊人的相似, 把事件 A 看作 ! 的子集不 仅在理论上是严 格的, 在实用也是可行的, 借用集合论的知识, 可以把 概率论问题表达 的 十 分 简 洁 和 清 晰 。由 此 看 到 数学 各 分 支 虽 有 各 自 的 研 究 领 域 也 有 许 多相通之处, 开拓视 野, 发掘他们 之间的相互渗透 之处, 学会类 比, 借 用和移植这些具有启发性的数学思想, 将会在学习和 研究中取得事半 功倍的效果。必须指出一般我们并不把 ! 中的一切子集都作为事件, 譬如在几何概率中, 若把不可测集也作为事件,在计算概率时, 将会带 来不可克服的困 难。那么样本 空间中究竟哪些 子集应该算作随 机事 件? 这是概率公理化定义中第一个重要的议题。 (3) 用频率来认识概率 随机事件 A 发生的可能性大小 称为 A 的 概率记作 P(A), 怎样定义 P(A)? 这是概率论公理化定 义中第二个重要 的议题。我们遵循由感性认识到理性认识的普遍规律, 用频率来认识 概率, 人们在社会实 践中大量采用合 格率、命中率 、人口增长率、种子 发芽率等频率概 念, 它们是介 于 0 与 1 之间的一 个数, 在大量 重复试 验中事件的频率仍 有波动, 频率 只是认识概率的 一种手段, 类 似于几 何中线段的长度, 土 地的面积等概念 , 人们坚信线段 的长度 L 是客观 存在的一个数, 它 的精确值无法 确定, 用各种测 量手段得到的 都只是 L的测量值, 这并不妨碍对 线段长度 L 的客观存在性, 唯 一性的认识。
随机过程第四版_Ch1_刘次华_(修改)
peit 1 qeit
ps 1 qs
1.4 特征函数、母函数
常见随机变量的数学期望、方差、特征函数和矩母函数
分布
均匀分布
期望
ab 2
方差
特征函数 矩母函数
e ibt e iat i (b a)t e bt e at (b a ) t
b a 2
12
N ( , )
Y Xk
k 1
的母函数H(s)=G(P(s)) , EY=ENEX1 其中G(s),P(s)分别是N,X1的母函数
• 例：某商店一天到达的顾客总数N服从 均值λ的泊松分布，用X1,X2,…,XN表示 各顾客购买商品的情况， Xi=1表示第i 个顾客购买了商品， Xi=0表示第i个顾 客没有购买商品， P(Xi=1)=p, P(Xi=0)=1-p=q, i=1,2,…,N。 X1,X2,…,XN相互独立且和N独立。用Y 表示购买商品的顾客数，求Y的分布， 及EY。
例：观察某路公交车某站候车人数，
={0,1,2,„}；
记 A＝{至少有10人候车}＝{10,11,12,„} ， A为随机事件，A可能发生，也可能不发生。
B＝{至少有0人候车}= ,为必然事件
C＝{有1.5人候车} = Φ,为不可能事件，Φ 不包含
任何样本点。
1.1 概率空间
定义1.1 -代数(事件域) 集合的某些子集组成集合族F （1）F （必然事件） （2）若AF, 则\AF （对立事件） （3）若AiF,i=1,2…，则 A F （可 i i 1 列并事件）
F4 ={，{正反}， {正正，反正，反反} ， } Fi为-代数，（，Fi）为可测空间
F={，{正正}，{正反}，{反正}，{反反}， {正正，正反}，{正正，反正}，{正正， 反反}，{正反，反正}，{正反，反反}， {反正，反反}，{正正，正反，反正}， {正正，正反，反反}，{正正，反正，反 反}，{正反，反正，反反}，{正正，正 反，反正，反反}} 为-代数，（ ， F ） 为可测空间
第1节、概率空间 随机变量
x
结束
§1 概率空间 随机变量
§1
概率空间 随机变量
例6. 向（0,1）区间上随机地掷一个点。按例3，Ω= （0,1）。规定函数X(w) =w，0<w<1。这样,X(w)是(Ω, F, P)上 的随机变量。 既然对任意一个实数x，有 ( : X () x) F ，那么对Ω的就子 集 ( : X () x) 可以讲概率。 定义： 设(Ω, F, P)是概率空间，而X=X(w)是(Ω, F, P)上的 随机变量。对任意一个实数x，有概率
F {w1 , w2 ,, w6（ , w1 , w2） （ , w1 , w3） ,（ , w5 , w6） （ , w1 , w2 , w3） ,（ , w4 , w5 , w6） , （w1 , w2 , w3 , w4） ,（ , w3 , w4 , w5 , w6） （ , w1 , w2 , w3 , w4 , w5） ,（ , w2 , w3 , w4 , w5 , w6） , （w1 , w2 , w3 , w4 , w5 , w6） }
三、随机变量及其概率分布
在随机试验中，若存在一个变量，它依试验出现的结果改 变而取不同的数值，则称此变量为随机变量。由于随机试验出 现的结果带有随机性，因而随机变量的取值也带有随机性。从 数学角度看，样本空间Ω中每一个样本点w（试验可能结果）对 应有一个数X(w)，这就是随机变量；或者说随机变量是定义在 样本空间Ω上的函数。但是，对这个函数需要有一些要求。
高等数理统计预备知识
预备知识1.事件域定义 设Ω为一基本事件空间，F 为Ω的某些子集所组成的集合类。
如果F 满足： （1）Ω∈F ；（2）若A ∈F ，则对立事件A ∈F ；（3）若,=1,2,n A n ∈F ，则可列并=1n n A ∞∈F .则F 是一个σ代数（或称σ域），称为事件域。
F 中的元素称为事件。
2.可测空间定义 在概率论中，二元组(),ΩF称为概率可测空间，这里“可测”是指F是一个事件域，即F 中的元素都是有概率可言的事件。
3. 有限维乘积可测空间定义 设(),,1i i i n Ω≤≤F 是n 个可测空间，像通常一样，(){}1=,,:,1n i i i n ωωωΩ∈Ω≤≤称为1,,n ΩΩ乘积空间，记为1=1==n i n i Ω⨯ΩΩ⨯⨯Ω。
对i i A ⊂Ω，1i n ≤≤，集合(){}1A=,,:,1n i i A i n ωωω∈≤≤称为乘积空间Ω中的矩形集，记为1=1A==A n i n i A A ⨯⨯⨯。
特别地，当每个i i A ∈F 时，1=1A==A ni n i A A ⨯⨯⨯称为可测矩形。
C 表示=1=n i i Ω⨯Ω中的可测矩形全体，即{}1=A :,i=1,,n n i i A A ⨯⨯∈C F ，则C 是一个半域，()=σC F （由C 生成的σ域，即包含C 的最小σ域）称为乘积σ域， 记为1=1==ni n i ⨯⨯⨯F F F F ，又称(),ΩF 为可测空间()()11,,,,n n ΩΩF F 的乘积可测空间，记为()()()()11=1,=,=,,ni i n n i Ω⨯ΩΩ⨯⨯ΩF F F F4. 无限维乘积可测空间定义 设(){},,J αααΩ∈F 是一族可测空间，则(){}=,J :,J αααωαωαΩ∈∈Ω∈称为(),J ααΩ∈乘积空间，记为=JJαααα∈∈Ω⨯Ω=Ω∏。
若I 是J 的有限子集，对,A I ααα∈∈F ，集合(){}B=,J :,,,J i A I ααααωαωαωα∈∈∈∈Ω∈称为乘积空间Ω中的有限维基底可测矩形柱集，=IA A αα∈⨯称为B 的底。
2.1 概率空间
A与B的并(和).表示事件A,B至少有一个出现.
( 3) A B( AB), A与B的交(积).表示事件A和B同时出现. (4) A B , 表示事件A和B不能同时出现,称A与B互斥
（或互不相容）. (5) A B , 且A B .
f
b, a, s.t. b f a
双射（既是单射，又是满射，也称一一映射）
原像集 像集
f
从直觉上说，能建立双射关系的两个 集合，其所含元素的“个数”一样多。
可数和不可数的定义
凡是能和自然数集合或者自然数集合的 一个子集建立双射关系的集合称为可数 集合；否则称为不可数集合。 可数和不可数是人类认识“无穷”所产 生的概念，是对无穷的分类。 已经证明连续的区间，和实数集等都是 不可数集合：[1,2],(0.1,0.5),R,等等
k 1 k 1 n n
5. 6.
P( A B) P( A) P(B) P( AB)
A, B B P( A \ B) P( A) P( AB) 若B A P( A B) P( A) P(B)
若A B, 则P( A) P(B) （单调性）
证明顺序： 4 1 2 3 4 6 4， 5 6 当然，也可以用别的顺序，只要别循环证明即可。
P ( A) 1 P ( A ) 1
4=>6 性质6 设A,B是两个事件, 若AB, 则有 P(BA)=P(B)P(A) P(B)P(A) 证： 由AB知B=A(BA)(测度), 且A(BA)=, 再 由概率的有限可加性, 得 P(B)=P(A)+P(BA), 又由非负性, P(BA)0 知 P(B)P(A).
i 1
1-5概率空间
例
P(A)=P(B)=P(C)=1/4, P(AB)=0, P(AC)=P(BC)=1/6, 求 A、B、C 都不出现的概率. 解：因为A、B、C 都不出现的概率为
P( ABC) = 1− P( A∪ B ∪C)
= 1−P(A)−P(B)−P(C)+P(AB)+P(AC)+P(BC)−P(ABC) = 1−1/4−1/4−1/4+0+1/6+1/6−0 =1−5/12 = 7/12
若 Ai ∈ F , i = 1, 2 ,... 且两两互不相容，则 P ( U Ai ) =
n =1 ∞
∑ P( A )
i =1 i
∞
概率的性质
性质1 性质1 P(φ)=0. 性质2 (有限可加性 性质2 (有限可加性) 有限可加性)
性质3 (对立事件公式 性质3 (对立事件公式)
P( A) = 1 − P( A)
利用数学归纳法证明
匹配问题） 封信， 只信封， 例（匹配问题 某人写好 封信，又写好 只信封， 匹配问题 某人写好n封信 又写好n只信封 然后在黑暗中把每封信放入一只信封中， 然后在黑暗中把每封信放入一只信封中，试求至少 有一封信放对的概率。 有一封信放对的概率。 解：记Ai={第i封信与信封符合}，则所求事件为 A1 U A1 U L U An
i =1 i =1 k k
古典概率的性质： 古典概率的性质： (1)非负性 对任一事件 有 非负性: 对任一事件A,有 非负性 0≤P(A) ≤1 (2)规范性 对必然事件Ω,有 P(Ω)=1 规范性: 规范性 对必然事件Ω 有 Ω (3)有限可加性 若事件 1, A2, …, An 有限可加性: 若事件A 有限可加性 两两互斥,则 两两互斥 则
样本空间与概率空间
样本空间、概率空间及概率的公理化定义一、样本空间在概率论中，随机试验是指在一定条件下出现的结果带有随机性的试验。
我们用E 表示随机试验。
随机试验E 的所有可能出现的结果构成一个集合，而把每一可能出现的试验结果称为一个基本事件（样本点）。
随机试验E 的所有基本事件构成所谓样本空间。
下面举几个实际例子。
例1 掷一枚分币。
出现“正面”、“反面”都是基本事件。
这两个基本事件构成一个样本空间。
例2 掷一颗骰子。
分别出现“1点”、“2点”、“3点”、“4点”、“5点”、“6点”都是基本事件。
这六个基本事件构成一个样本空间。
例3 向实数轴的(0,1)区间上随意地投掷一个点。
在(0,1)区间中的每一个点是一个基本事件，而所有点的集合（即(0,1)区间）构成一个样本空间。
抽象地说，样本空间是一个点的集合，此集合中每个点都称为样本点。
样本空间记为()ωΩ=，其中ω表示样本点。
这里小括号表示所有样本点构成的集合。
样本空间的某些子集称为事件。
从数学观点看，要求事件（样本点的集合）之间有一定的联系，亦即对事件需加一些约束。
定义 设样本空间()ωΩ=的某些子集构成的集合记为F ，如果F 满足下列性质：（1）Ω∈F ；（2）若A ∈F ，则A A =Ω-∈F ；（3）若,1,2,k A k ∈=L F ，则1k k A∞=∈U F那么称F 是一个波雷尔（Borel 事件域），或σ事件域。
波雷尔事件域中每一个样本空间Ω的子集称为一个事件。
特别指出，样本空间Ω称为必然事件，而空集φ称为不可能事件。
在上面三个样本空间的例子中，每一个样本点都是基本事件。
但是，一般并不要求样本点必需是基本事件。
在例1中共有两个样本点：“正面”，“反面”。
作{=F 正面或反面，正面，反面，空集}，它构成一个波雷尔事件域，其中每一个元素都是一个事件。
需要说明，F 表达式中的花括号。
是指事件的集合。
在例2中共有六个样本点，记i ω为出现“i 点”的样本点，1,2,3,4,5,6i =。
随机数学第1讲 第一章预备知识
c12 c 22 cn2
c1 n ⎞ ⎟ c2n ⎟ ⎟ ⎟ c nn ⎟ ⎠
为 n 维随机变量的 协方差矩阵 .
定理：( X 1 ,
当 ρXY = 0 时, X 和 Y 不相关.
, X n ) 的协方差阵B 是对称，非负定的。
证明：对任意
x Bx = ∑
T i =1 n n n
x T = ( x1 , x2 ,
(
))
)
⎡ n = E ⎢∑ ⎣ i =1
n
∑x x (X
j =1 i j
n
i
⎤ − EX i ) X j − EX j ⎥ ⎦
(
证明： 对任意的实数t,
E[ X + Yt ]2 = t 2 EY 2 + 2tE[ XY ] + EX 2 ≥ 0 Δ = b 2 − 4ac = ( 2 E[ XY ]) − 4 EY 2 EX 2 ≤φ( t ) = E (e itX ) = 1i e itc = e itc , t ∈ R. Ex.2 两点分布
X 0 1 PX 1-p p
X c PX 1
Ex.3 指数分布 f ( x ) = ⎨
⎧λ e − λ x , ⎪ ⎪0, ⎩
x ≥ 0; x < 0.
(λ > 0)
φ(t ) = E e itX = ∫ e itx λe −λx dx
0
( )
2
+∞
φ(t ) = E eitX
( )
= ∫0 λe − λx costxdx + i λ ∫0 e − λx sintxdx
=λ
=
+∞
+∞
= eit⋅0 (1 − p) + eit⋅1 p
关于概率拟度量空间的注记
关于概率拟度量空间的注记
《关于概率拟度量空间的注记》
概率拟度量空间是指一种用来表示概率变量之间关系的数学空间。
它可以用来描述概率变量之间的相关性，以及概率变量如何影响系统的行为。
概率拟度量空间的基本思想是通过定义一系列的概率变量，然后通过定义一系列的概率变量之间的关系来构建一个空间。
这样，可以用来描述概率变量之间的相关性，以及概率变量如何影响系统的行为。
概率拟度量空间可以用来建模复杂的概率问题，并且可以用来推断概率变量之间的关系。
概率拟度量空间是一种用来表示概率变量之间关系的数学空间，它可以用来建模复杂的概率问题，以及推断概率变量之间的关系。
它的应用范围广泛，可以用于金融风险分析，计算机视觉，机器学习，统计学习等领域，可以为相关领域提供更有效、更准确的数据分析结果。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
事件之间的运算: 1). 如果事件A发生必然导致事件B发生, 则称B 包含了A, 并记作 A B 或 B A. 例如, 上例中如果令A={球的标号=6}, B={球 的标号是偶数}, 则事件Ａ发生就会导致事件Ｂ发 生, 所以有 A B. 对任一事件A, 约定： A. 2). 如果 A B, B A 同时成立, 则称事件A与B 相等, 记作A=B. 注意: 相等的两个事件总是同时发生或同时 不发生.
i 1 i 1 m m
练习题: 1. 有两门火炮同时向一个目标各射击一次, 设A 表示甲火炮击中目标, B表示乙火炮击中目标, C表示目标被击中, 试用A, B来表示C. 解: C= A B. 2. 抛一粒骰子, 事件A=“出现点数不超过3”, 则 A= {1, 2, 3} , Ω= {1, 2, 3, 4, 5, 6} , Ā = {4, 5, 6} , A A , A A = φ , A∪A = Ω .
3. 某人连续购买体育彩票, 令事件A, B, C分别表 示其第1, 2, 3次所买的彩票中奖, 试用A, B, C 及其运算表示下列事件： (1) 第3次未中奖 C , (2) 第3次才中奖 A BC , (3) 恰有一次中奖ABC ABC ABC , (4) 至少有一次中奖 A B C ,
随机试验的每一个可能结果称为基本事件 或样本点, 一般用字母 表示; 基本事件的全体 或样本点的全体称为样本空间, 一般用字母 子集称为复杂事件, 表示; 由基本事件构成的 一般用大写字母A, B, C, …等表示. 无论基本事件还是复杂事件, 它们在试验中 发生与否, 都具有随机性, 所以都称为随机事件, 简称事件. 在试验中, 若事件A中所包含的某一个基本事 件 发生, 则称为事件A发生, 并记作 A.
事件与集合及运算关系之间的对比: 概率论 集合论 全集 样本空间 基本事件 集合的元素 (复杂)事件 集合的子集 集合A的补集 A 事件A的对立事件 全集 必然事件 空集 不可能事件 A B 事件Ａ发生导致事件Ｂ发生 A B 或 Ａ +Ｂ 事件Ａ与Ｂ至少有一个发生 A B 或AB 事件Ａ与Ｂ同时发生 Ａ -Ｂ 事件Ａ发生而事件Ｂ不发生 事件Ａ与Ｂ互不相容 AB=
(2) A F , 则 A F ; (3) Ai F , i=1, 2, …, 则 Ai F ;
代数:
则称F为 代数, 简称事件域.
i 1
5.1.2 概率与频率 本小节是概率论中最基本, 最基础, 最重要 的内容之一. 定义7.1 随机事件A发生可能性大小的度量 (数值), 称为事件A发生的概率, 记作P(A). 人们经过长期实践发现, 虽然个别随机事件 在某次试验或观察中可以出现也可以不出现, 但 在大量试验中它却呈现出明显的规律性—频率稳 定性． 例如, 在掷一次硬币时, 既可能出现正面, 也可 能出现反面, 预先作出确定的判断是不可能的, 但 是假如硬币均匀, 直观上出现正面与出现反面
事件有两个极端情况, 因为 是由所有基本 事件组成的, 在任一次试验中, 必然要出现 中的 某一基本事件 , 即 , 也就是说 必然会发生. 因此, 可用 来表示一个必然事件或确定性事件. 相应地, 空集 是 的子集, 但在任何一次试 验中, 不可能有任何基本事件 , 也就是说, 不可能发生, 因此, 可用 来表示不可能事件. 必然事件和不可能事件的发生与否, 已经失 去了“不确定性”, 因此本质上它们已不是随机 事件, 但为了方便起见, 仍把它们看作随机事件, 只不过它们是随机事件的两个极端情形而已.
A B A B , AB A B . (4) 德摩根律(对偶原则)： A B A B 的证明： 两集合相等左 右 且右 左
A B A B A 且 B A 且 B AB . 左 右.
例如, Ａ, B同上例, 则 A B { 球的标号为2}.
5). “事件Ａ发生而Ｂ不发生”, 这样的事件称为 事件Ａ与Ｂ的差, 记作Ａ-Ｂ. 例如, 在例5.1中, 若令Ａ={球的标号为偶数}, B={球的标号 3}, 则 Ａ-Ｂ＝{球的标号为4, 6, 8, 10}. 6). 若事件Ａ与Ｂ不能同时发生, 也就是说AB是 一个不可能事件, 即AB= , 则称事件Ａ与Ｂ互 不相容(互斥)． 例如, 在例5.1中, 若令Ａ={球的标号为偶数}, B={球的标号＝3}，则Ａ与Ｂ是互不相容的．
本章学习的主要内容是: 5.1 概率空间 5.2 条件概率 5.3 离散随机变量
§5.1 概率空间( , F , P ) 概率空间是一个比较抽象的概念, 必须有了 一定的基础之后才能理解.
5.1.1 随机事件, 样本空间和事件域
随机试验及相关概念: 一个试验如果满足如下3个条件 (1) 试验可以在相同的情形下重复进行; (2) 试验的所有可能结果是明确可知的, 而且 不止一个. (3) 每次试验总是恰好出现这些可能结果中的 一个, 但在一次试验之前却不能确定这次试验会 出现哪一个结果. 则称这样的试验为随机试验, 简称试验, 一 般用字母E来表示.
的机会应该相等. 即在大量试验中出现正面的 频率应接近于50％, 为了验证这点, 历史上曾有 不少人做过这个试验, 其结果如下:
实验者 掷硬币次数 出现正面次数 4040 2048 蒲 丰 12000 6019 皮尔逊 24000 12012 皮尔逊 频 率 0.5069 0.5016 0.5005
AB AC BC
(5) 不只1次中奖
,
ABC ABC ABC ABC
(6) 至多中奖2次 ABC
.
7. 若Ａ是一个事件, 令 A A, 则称 A 是Ａ的 对立事件或逆事件. 易知: 在一次试验中, 若A发生ቤተ መጻሕፍቲ ባይዱ 则 A 必不发生, 反之亦然, 即A与 A 二者只能发生其中之一, 且必然发生其中之一, 因而有
A A , A A , A A. 例如, 在例5.1中, 若令Ａ={球的标号为偶数}, 则 A {球的标号为奇数}.
A B A 且 B A 且 B A B A B. 右 左.
事件及其运算的文氏图: 样本空间 用一个矩形表示, A, B是两个事件, 也就是 的两个子集, 从而有 A
B
A
B
A
B
A-B
A∪B
A∩B
……
设 是样本空间, F={A| A , A是事件}称为 一个集合类, 如果F 满足： (1) F ;
以蒲丰试验为例, 若令1表示一次试验中出 现正面这一事件, n1表示出现正面的次数, n表示 试验总次数, 记 n1 出现1的次数 f ( ), n 1 n 试验总次数 则称 f n (1 )为事件1 在n次试验中出现的频率.
尽管每作一串(n次)试验, 所得到的频率 f n (1 ) 可能各不相同, 但只要n相当大, f n (1 ) 就会非常 该常数值就是 1 “靠近”某个常数值(本例是1/2). 出现的概率 P(1 ). 因此概率是可以通过频率来“测 量”的, 或者说频率是概率的一个近似. 频率的定义: 如果随机事件A在n次反复试验中发生了 n A 次, nA 则称 f n ( A) 为A的频率. n
3). “事件Ａ与Ｂ中至少有一个发生”, 这样的一 个事件称作事件Ａ与Ｂ的并(或和), 记作A B (或A+B). 例如, 在例5.1中, 若令Ａ={球的标号为偶数}, B={球的标号 3}, 则 A B {球的标号为1, 2, 3, 4, 6, 8, 10}. 4). “事件Ａ与Ｂ同时发生”, 这样的一个事件称 作事件Ａ与Ｂ的交(或积), 记作A B或(AB).
例5.1 一个盒子中有十个完全相同的球, 分别 标有号码1, 2, …, 10, 从中任取一个球, 令: i={ 取得球的标号为i }; i=1, 2, …, 10. 则1, 2, …, 10分别叫做 基本事件 ; {1, 2, …, 10} 为样本空间； {取得球的号码不是1, 2, …, 10}为不可能事件.
3) 若 A B 发生, 则至少A, B中之一发生, 又因为 A与B不能同时发生, 所以 A B发生的次数一定 是A发生次数与B发生次数之和, 即 nA B nA nB , 所以结论成立.
n
性质3)的推广: 若 Ai Aj , (1 i, j m, i j ), 则 f n ( Ai ) f n ( Ai ).
第5章 离散概率初步
概率论是研究随机现象统计规律的一门数学 学科. 什么是随机现象？ 引例1：一个盒子中有十个完全相同的白球, 搅匀后从中任意摸取一球, 问取出的球是什么颜 色? 在没取出球之前, 就能知道取出的必定是白 色的, 这种现象是必然的.
引例2：一个盒子中有十个完全相同的球, 但其中5个是白色的, 另外5个是黑色的, 搅匀后 从中任意摸取一球, 问取出的球是什么颜色? 在球没有取出以前, 我们不能确定取出的 球是白的还是黑的. 因此, 取出的球的颜色是一 种随机现象. 在概率论中, 对随机现象进行一次观察和 试验, 叫做随机试验. 随机现象乍看起来似乎没有什么规律, 但 如果反复试验, 是能找到其规律的, 这也是概率 论要研究的问题.
1) 非负性：即 f n ( A) 0; 2) 规范性：若 为必然事件, 则 f n () 1; 3) 有限可加性：若A, B互不相容(即AB= ), 则
频率的性质:
f n ( A B) f n ( A) f n ( B). nA 证: 1) n A 0, 0. n n 2) 是必然事件, n n, 1.
用集合论阐述的概率论的语言: 例5.2 设A, B, C是 中的随机事件, 则事件 ABC ；“A, B, C “A与B发生, C不发生”可以表示成 AB BC AC . 中至少有二个发生”可以表示成