琴生不等式【介绍】和相关高考例题

合集下载
  1. 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
  2. 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
  3. 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。

琴生不等式(Jensen Inequality)是以数学家(Johan Jensen)命名的,给出积分的值和凸函数的积分值间的关系的数学名词。

1概述

1.若是区间上的,则对任意的,有不等式:

有当且仅当时等号成立。

2.若是区间上的

,则对任意的

,有不等式:

有当且仅当时等号成立。

3.其加权形式为:

若是区间上的凸函数,则对任意的,且

,有

1

若是区间上的凹函数,则对任意的,且

,有

备注:对于函数凹凸性与上凸、下凸的:凸=下凸=,形如;凹=上凸=,形如.

2应用

有了这个结论以后,使用琴生不等式就非常方便了,

如今我们可以非常容易的证明一般情况的平均不等式

比如

i).

ii).

iii).

2

其中前面两个取就可以了

后面一个取就可以了。

举一个简单的例子:在中为凸函数(国外教材定义;若为凹函数,则国

内教材定义),如图所示:

同时,值得注意的是,上凸、下凸、凹、凸的含义是不同的。如图:

涉及概率密度函数的形式

假设Ω是实线的可测子集,f(x)是一个非负函数

在概率语言中,f是。

然后Jensen的不等式变成了关于凸积分的下面的陈述:

如果g是任何实值可测函数且φ在g的范围内是凸的,那么:

如果g(x)=x,那么这种不等式的形式可以简化为一个常用的特例:

3

例如随机变量的偶数矩

如果g(x)=x,并且X是一个随机变量,那么g是凸的

所以

特别是,如果有的甚至瞬间2N

的X

是有限的,X具有有限的均值。这个论证的延伸表

明X具有每个阶的有限矩划分ñ。

替代有限形式

令Ω= {x1,...xn},并且以μ为Ω上的计数度量,则一般形式简化为关于和的声明:

条件是λi≥0和

还有一个无限的离散形式。

4

统计物理学

当是指数函数时,Jensen不等式在中特别重要,给出:

其中期望值是关于随机变量X 中的一些概率分布。

这种情况下的证明非常简单(参见Chandler,第5.5节)。理想的不平等直接来自书写

•{\ displaystyle \ operatorname {E} \ left [e ^ {X} \ rightname = {E ^ {\ operatorname {E} [X]} \ operatorname {E} \ [X]} \右]}

然后应用不等式ë≥1 +X至最终指数。

信息论

如果p(X)是用于真正的概率分布X和q(X)是另一种分布,然后施加Jensen不等式随机变量ÿ(X)=q(X)/p(X)和函数φ(ÿ)= -log(y)给出

因此:

5

一个称为不平等的结果。

它表明,当代码是基于真实概率p而不是任何其他分布q分配时,平均消息长度被最小化。即非负的量被称为相对熵的q从p。

由于-log(X)为严格凸函数X> 0,它遵循:当等号成立p(X)等于q(X)几乎无处不在。

RaoBlackwell定理

主要文章:Rao-Blackwell定理

如果L 是一个凸函数,一个亚代数,然后,从

Jensen不等式的条件版本中,我们可以

得到

所以如果δ(X)是给定一个可观测量向量X的未观测参数θ的;如果T(X)是θ的;那么可以通过计算获得改进的估计量,即具有较小的预期损失L的意义

,相对于θ的期望值δ在所有可能的观察值向量X上都可以与观察到的相同的T(X)值相匹配。

这个结果被称为Rao-Blackwell定理。

6

7

8

相关文档
最新文档