《信息论》(电子科大)试卷答案

电子科技大学二零零 五 至二零零 六 学年第 二 学期期 末 考试

《信息论导论》 课程考试题 B 卷 （ 120 分钟） 考试形式： 开卷 考试日期 200 6 年 8 月 31 日

课程成绩构成：平时 20 分， 期中 分， 实验 分， 期末 80 分

一、已知平稳无记忆信源X 1X 2X 3X 4X 5X 6任一符号的数学模型⎭⎬⎫

⎩⎨⎧=⎥⎦⎤⎢⎣⎡1.02.03.04.03210)X (P X i i ，i =1,2,3,4,5,6；①求符号序列取值013020时的联合自信息量I(013020)；②求该信源的联合熵H(X 1X 2X 3X 4X 5X 6)。（8分）

①I(013020) = 11.347(bit) (4) ②H(X 1X 2X 3X 4X 5X 6) = 6H(X) = 11.079(bit/symbol) (4)

二、二元二阶马尔科夫信源的状态图如图所示，求该信源的极限熵H ∞。（10分）

p(00) = p(11) =

185,p(01) = p(10) =18

4

(6) H ∞=H 2+1= 0.984(bit/symbol) (4)

三、已知信源的数学模型⎭⎬⎫⎩⎨⎧=⎥⎦⎤⎢⎣⎡05.005.01.025.025.03.0x x x x x x )X (P X 65432

1；对该信源编二进制哈夫曼码，并求其编码效率。（12分）

(6) H(X) = 2.286(bit/symbol)

3.2K =(bit/symbol)

%4.99K

)

X (H ==

η (6) 四、已知信源的概率分布P(X) ={0.6,0.4}，信道的信道矩阵P(Y/X) =⎥

⎦

⎤

⎢⎣⎡8.02.03.07.0；①求信宿Y 的香农熵H(Y)；②求噪声 0.6

x 2 x 3 x 4 x 5 x 6 1

1 0

1 0

1

1

01 10 110 1110

1111

0.25 0.25 0.1 0.05 0.05 0.1 0.2

0.45

x 1 0.3

1

0.55

00

熵H(Y/X)；③求平均互信息量I(X;Y)。（12分）

①p(y 1) = p(y 2) = 0.5; H(Y) = 1(bit/symbol) (4) ②H(Y/X) = 0.818(bit/symbol) (4) ③I(X;Y) = H(Y)-H(Y/X) = 0.182(bit/symbol) (4)

五、已知信道矩阵P(Y/X) =⎥⎥⎥⎦

⎤

⎢⎢⎢⎣⎡6.01.03.03.06.01.01.03.06.0；①该信道为什么信道？②求该信道的信道容量C ，并说明达到信道容量时信

源的概率分布P(X)。（8分）

①行可排列、列可排列，对称信道 (2) ②C = 0.290(bit/symbol) (4)

p(x 1) = p(x 2) = p(x 3) =3

1

(2)

六、已知(5,2)线性分组码的校验矩阵H =⎥⎥⎥⎦

⎤

⎢⎢⎢⎣⎡111001*********；①求生成矩阵G 及编出的码字；②求最小码距d min 并说明其纠

错能力。（12分）

①G =⎥⎦

⎤

⎢⎣⎡1101001101 (4) 00→00000 01→01011 10→10110

11→11101 (4) ②d min =3, 具有检出并纠正一位错码能力 (4)

七、已知高斯加性信道的噪声单边功率谱密度N 0=4×10-9W/Hz ，最大信息传输速率C t =5×104bps ；①当信噪功率比为30dB 时，求所需带宽W ；②当带宽W 减小为3.5kHz 时，求所需功率P x 。（8分）

①W = 5.016(kHz) (4) ②P x = 0.280(W) (4)

八、已知信源的概率分布P(X)=}3

1,31,31{，失真矩阵⎥⎥⎥⎦

⎤

⎢⎢⎢⎣⎡=022202220]D [；①求失真度D 的取值范围；②当失真度D = 1时，求该信源的信息率失真函数R(D)。（10分）

① 0≤D ≤3

4

(4)

② R(1) = ln3+41ln 21+2

1

ln 21= 0.059(nat/symbol) (6)