信息论与编码试卷及答案(DOC)

，，，，求其熵

14

.3)(7

1

==∑=i i i l a p L 831.014.361

.2)(===

L

X H R

按最大后验概率准则与最大似然译码准则确定译码规则，并计算相应的平均错误概率。

二元对称信道如图。

）求该信道的信道容量。

）共6分

（

2）设码字由得

()012345C C C C C C C =r

T T HC 0= （3分）

⎪⎩⎪

⎨⎧=⊕⊕⊕=⊕⊕=⊕⊕0

00

0135

034012C C C C C C C C C C 令监督位为

，则有

()012C C C （3分）

⎪⎩⎪

⎨⎧⊕=⊕=⊕=340

4513

52C

C C C C C C C C 生成矩阵为 （2分）

⎥⎥⎥⎦⎤

⎢⎢⎢⎣

⎡1011001100100110013）所有码字为000000，001101，010011，011110，100110，101011，110101，111000。（4分）4）由得T

T

HR S =

，（2分）该码字在第5位发生错误，（101001）纠正为（101011），即译码为

()101=S （101001）（1分）

一、填空题（本题10空,每空1分,共10分）

1、必然事件的自信息量是____0____，不可能事件的自信息量是___无穷______。

2、一信源有五种符号{a ，b ，c ，d ，e}，先验概率分别为

P a =0.5，P b =0.25，P c =0.125，P d =P e =0.0625。符号“a”的自信息量为___1_____bit ，此信源的熵为__1.875______bit/符号。

3、如某线性分组码的最小汉明距d min =6，最多能纠正___2___个随机错。

4、根据密码算法所使用的加密密钥和解密密钥是否相同，可将密码体制分成___对称（单密钥）_____和___非对称（双密钥）____。

5、平均互信息量I(X;Y)与信源熵和条件熵之间的关系是__I(X:Y)=H(X)-H(X/Y)______。

6、克劳夫特不等式是唯一可译码__存在_______的充要条件。{00，01，10，11}是否是唯

一可译码？___是______。

三、单项选择题(本题共10小题；每小题2分，共20分)1、对连续集的熵的描述不正确的是（A ）

A 连续集的熵和离散集的熵形式一致，只是用概率密度代替概率，用积分代替求和

B 连续集的熵值无限大

C 连续集的熵由绝对熵和微分熵构成

D 连续集的熵可以是任意整数

2、设信道输入为x m，输出为y，若译码准则是当P(y | x m’)≥P(y | x m)，对所有m≠m’时，将y 判为m’，则称该准则为（D）

A 最大后验概率译码准则

B 最小错误概率准则

C 最大相关译码准则

D 最大似然译码准则

3、线性分组码不具有的性质是（C）

A 任意多个码字的线性组合仍是码字

B 最小汉明距离等于最小非0重量

C 最小汉明距离为3

D 任一码字和其校验矩阵的乘积c m H T=0

4、关于伴随式的描述正确的是（A）

A 伴随式s与传送中信道出现的错误图样e有关

B 通过伴随式s可以完全确定传送中信道出现的错误图样e

C 伴随式s与发送的具体码字有关

D 伴随式s与发送的具体码字有关，与传送中信道出现的错误图样e也有关

5、率失真函数的下限为（B）

A H(U) B0 C I(U; V) D没有下限

6、纠错编码中，下列哪种措施不能减小差错概率（D）

A 增大信道容量

B 增大码长

C 减小码率

D 减小带宽

7、已知某无记忆三符号信源a,b,c 等概分布，接收端为二符号集，其失真矩阵为

,则信源的最大平均失真度Dmax 为（D）

A 1/3

B 2/3

C 3/3

D 4/3

8、一珍珠养殖场收获240 颗外观及重量完全相同的特大珍珠，但不幸被人用外观相同但重量仅有微小差异的假珠换掉1 颗。一人随手取出3 颗，经测量恰好找出了假珠，不巧假珠又滑落进去，那人找了许久却未找到，但另一人说他用天平最多6 次能找出，结果确是如此，这一事件给出的信息量（A）。

A 0bit

B log6bit

C 6bit

D log240bit

9、已知随机噪声电压的概率密度函数p(x) =1/2，x 的取值范围为－1V 至+1V，若把噪声幅度从零开始向正负幅度两边按量化单位为0.1V 做量化，并且每秒取10 个记录，求该信源的时间熵（B ）

A 21.61bit/s

B 43.22bit/s

C 86.44 bit /s

D 以上都不对

10、彩色电视显像管的屏幕上有5×105 个像元，设每个像元有64 种彩色度，每种彩度又有16

种不同的亮度层次，如果所有的彩色品种和亮度层次的组合均以等概率出现，并且各个组合之

间相互独立。每秒传送25 帧图像所需要的信道容量（C ）

A 50.106

B 75.106

C 125.106

D 250.106

第7章线性分组码

1. 已知一个(5, 3)线性码C的生成矩阵为：