(完整版)信息论与编码习题参考答案

1.6为了使电视图象获得良好的清晰度和规定的对比度，需要用5×105个像素和10个不同的亮度电平，并设每秒要传送30帧图象，所有的像素是独立的，且所有亮度电平等概出现。求传输此图象所需要的信息率（bit/s ）。 解：

bit/s 104.98310661.130)/)(()/(R bit/frame

10661.1322.3105)(H 105)(H bit/pels

322.310log )(log )()(H 76650510

10⨯=⨯⨯=⨯=∴⨯=⨯⨯=⨯⨯====∑=frame bit X H s frame r x X a p a p x i i i 所需信息速率为：每帧图像的熵是：每个像素的熵是：，由熵的极值性：

由于亮度电平等概出现

1.7设某彩电系统，除了满足对于黑白电视系统的上述要求外，还必须有30个不同的色彩度。试证明传输这种彩电系统的信息率要比黑白系统的信息率大

2.5倍左右。 证:

.

5.2,,5.25.2477.210

log 300log )(H )(H pels

/bit 300log )(log )()(H bit 3001030,10,,3001300

11倍左右比黑白电视系统高彩色电视系统信息率要图形所以传输相同的倍作用大信息量比黑白电视系统彩色电视系统每个像素每个像素的熵是：量化

所以每个像素需要用个亮度每个色彩度需要求下在满足黑白电视系统要个不同色彩度增加∴≈====∴=⨯∑=x x b p b p x i i i

1.8每帧电视图像可以认为是由3×105个像素组成，所以像素均是独立变化，且每像素又取128个不同的亮度电平，并设亮度电平是等概出现。问每帧图像含有多少信息量？若现在有一个广播员，在约10000个汉字中选1000个字来口述这一电视图像，试问若要恰当地描述此图像，广播员在口述中至少需要多少汉字？ 解:

个汉字

最少需要数描述一帧图像需要汉字每个汉字所包含信息量每个汉字所出现概率每帧图象所含信息量556

6

5

5

10322.6/10322.61

.0log 101.2)()()()(,log H(c):1.010000

1000

symble /bit 101.2128log 103)(103)(:

⨯∴⨯=-⨯=≥

≤-=∴==

⨯=⨯⨯=⨯⨯=frame c H X H n c nH X H n p p x H X H

1.9

给

定

一

个

概

率

分

布

)

,...,,(21n p p p 和一个整数m ，

n

m ≤≤0。定义

∑=-=m

i i

m p q 1

1，证明：

)log(),,...,,(),...,,(2121m n q q p p p H p p p H m m m n -+≤。并说明等式何时成立？

证：

∑∑+==-

-=>-=<-=''-=''∴>-

=''-=''>-=n

m i i

i

m

i i i n p

p p p p p p H x x x x f x e

x x x f x x e

x x x f x x x x f 1

121log log ),...,,(

)0(log )( 0log )log ()(0 log )log ()()0(log )( 又为凸函数。即又为凸函数，如下：先证明

时等式成立。

当且仅当时等式成立。当且仅当即可得：

的算术平均值的函数，函数的平均值小于变量由凸函数的性质，变量n m m m m m n m

m m i i i m m m m m m

i i i n

m i i

i

m

i i i n n m m m m m n

m i i

i

m

m n

m i i

n

m i i

n

m i i

n

m i i n

m i i

i p p p m n q q p p p H p p p H q q p p q p p p H m n q q q p p p

p p p p p p H p p p m n q q q p

p m

n q

q m n p m n p m n m n p f m n m

n p f m n p

p ===-+≤--=-+--≤-

-=∴===-+-≤-

--=----=---≤---=-

++==+==+++=+=+=+=+=+=∑∑∑∑∑∑∑∑∑

∑...)log(),,...,,(),...,,(log log ),,...,,()

log(log log log log ),...,,(...)

log(log log log log )()()()

()(log 2121211

211

1

1

21211

1111

1

2.13把n 个二进制对称信道串接起来，每个二进制对称信道的错误传输概率为p(0