琴生不等式【介绍】和相关高考例题
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
琴生不等式(Jensen Inequality)是以数学家(Johan Jensen)命名的,给出积分的值和凸函数的积分值间的关系的数学名词。
1概述
1.若是区间上的,则对任意的,有不等式:
有当且仅当时等号成立。
2.若是区间上的
,则对任意的
,有不等式:
有当且仅当时等号成立。
3.其加权形式为:
若是区间上的凸函数,则对任意的,且
,有
1
若是区间上的凹函数,则对任意的,且
,有
备注:对于函数凹凸性与上凸、下凸的:凸=下凸=,形如;凹=上凸=,形如.
2应用
有了这个结论以后,使用琴生不等式就非常方便了,
如今我们可以非常容易的证明一般情况的平均不等式
比如
i).
ii).
iii).
2
其中前面两个取就可以了
后面一个取就可以了。
举一个简单的例子:在中为凸函数(国外教材定义;若为凹函数,则国
内教材定义),如图所示:
同时,值得注意的是,上凸、下凸、凹、凸的含义是不同的。如图:
涉及概率密度函数的形式
假设Ω是实线的可测子集,f(x)是一个非负函数
在概率语言中,f是。
然后Jensen的不等式变成了关于凸积分的下面的陈述:
如果g是任何实值可测函数且φ在g的范围内是凸的,那么:
如果g(x)=x,那么这种不等式的形式可以简化为一个常用的特例:
3
例如随机变量的偶数矩
如果g(x)=x,并且X是一个随机变量,那么g是凸的
所以
特别是,如果有的甚至瞬间2N
的X
是有限的,X具有有限的均值。这个论证的延伸表
明X具有每个阶的有限矩划分ñ。
替代有限形式
令Ω= {x1,...xn},并且以μ为Ω上的计数度量,则一般形式简化为关于和的声明:
,
条件是λi≥0和
还有一个无限的离散形式。
4
统计物理学
当是指数函数时,Jensen不等式在中特别重要,给出:
,
其中期望值是关于随机变量X 中的一些概率分布。
这种情况下的证明非常简单(参见Chandler,第5.5节)。理想的不平等直接来自书写
•{\ displaystyle \ operatorname {E} \ left [e ^ {X} \ rightname = {E ^ {\ operatorname {E} [X]} \ operatorname {E} \ [X]} \右]}
然后应用不等式ë≥1 +X至最终指数。
信息论
如果p(X)是用于真正的概率分布X和q(X)是另一种分布,然后施加Jensen不等式随机变量ÿ(X)=q(X)/p(X)和函数φ(ÿ)= -log(y)给出
因此:
5
一个称为不平等的结果。
它表明,当代码是基于真实概率p而不是任何其他分布q分配时,平均消息长度被最小化。即非负的量被称为相对熵的q从p。
由于-log(X)为严格凸函数X> 0,它遵循:当等号成立p(X)等于q(X)几乎无处不在。
RaoBlackwell定理
主要文章:Rao-Blackwell定理
如果L 是一个凸函数,一个亚代数,然后,从
Jensen不等式的条件版本中,我们可以
得到
所以如果δ(X)是给定一个可观测量向量X的未观测参数θ的;如果T(X)是θ的;那么可以通过计算获得改进的估计量,即具有较小的预期损失L的意义
,相对于θ的期望值δ在所有可能的观察值向量X上都可以与观察到的相同的T(X)值相匹配。
这个结果被称为Rao-Blackwell定理。
6
7
8