信号与系统习题()

1，某系统（7，4）码

)()(01201230123456c c c m m m m c c c c c c c ==c 其三位校验位

与信息位的关系为：

（1）求对应的生成矩阵和校验矩阵； （2）计算该码的最小距离；

（3）列出可纠差错图案和对应的伴随式；

（4）若接收码字R =1110011，求发码。

解：（1） 10001100

10001100101110001101G ⎡⎤

⎢⎥⎢

⎥=⎢⎥

⎢⎥⎣⎦

101110011100100111001H ⎡⎤

⎢⎥=⎢⎥⎢⎥⎣⎦

（2） d min =3 （3）

S E 000 0000000 001 0000001 010 ******* 100 0000100 101 0001000 111 0010000 011 0100000 110

1000000

（4）. RH T =[001] 接收出错

E =0000001 R+E=C = 1110010 (发码) 2.

已知(),X Y 的联合概率(),p x y 为： 求()H X ，()H Y ，(),H X Y ，();I X Y 解:

(0)2/3p x == (1)1/3p x ==

()()(1/3,2/3)H X H Y H ===0.918 bit/symbol (),(1/3,1/3,1/3)H X Y H ==1.585 bit/symbol ();()()(,)I X Y H X H Y H X Y =+-=0.251 bit/symbol

3.一阶齐次马尔可夫信源消息集},,{321a a a X ∈，

状态集},,{321S S S S

∈，且令3,2,1,==i a S i i ，条件转移概率为

01

X Y

011/31/30

1/3

[

]

⎥⎥

⎥⎦

⎤

⎢⎢⎢⎣⎡=03132313131214141)/(i j S a P ，(1)画出该马氏链的状态转移图；

(2)计算信源的极限熵。 解：(1)

（2）⎪⎪⎩

⎪⎪⎨⎧=++=+=++=++132132

311212331

2311411332231141w w w w w w w w w w w w w w →⎪⎩⎪

⎨⎧===3.03.04.03

21w w w H(X|S 1) =H (1/4,1/4,1/2)=1.5比特/符号

H(X|S 2)=H (1/3,1/3,1/3)=1.585比特/符号

H(X|S 3)=H (2/3,1/3)= 0.918比特/符号

()

3

|0.4 1.50.3 1.5850.30.918 1.3511

H

w H X S i i

i ==⨯+⨯+⨯=∑∞=比特/符号 4.若有一信源⎥⎦

⎤

⎢⎣⎡=⎥⎦⎤⎢⎣⎡2.08.021x x P X ，每秒钟发出2.55个信源符号。

将此信源的输出符号送入某一个二元信道中进行传输 （假设信道是无噪无损的，容量为1bit/二元符号）， 而信道每秒钟只传递2个二元符号。

（1） 试问信源不通过编码（即x 1?0,x 2?1在信道中传输） （2） 能否直接与信道连接？

（3） 若通过适当编码能否在此信道中进行无失真传输？ （4） 试构造一种哈夫曼编码(两个符号一起编码)， （5） 使该信源可以在此信道中无失真传输。

解：（1）不能，此时信源符号通过0，1在信道中传输，2.55二元符号/s>2二元符号/s （2）从信息率进行比较， 2.55*(0.8,0.2)H = 1.84 < 1*2 可以进行无失真传输 （3）4

1

0.640.16*20.2*3i i i K

p K ===++=∑ 1.56 二元符号/2个信源符号

此时 1.56/2*2.55=1.989二元符号/s < 2二元符号/s 5.

两个BSC 信道的级联如右图所示：

（1）写出信道转移矩阵； （2）求这个信道的信道容量。

解： （1）

6.设随机变量}1,0{},{21==x x X 和}1,0{},{21==y y Y 的联合概率空间为 x 1x 1x 1x 2x 2x 1x 2x 2

0.64

0.16

0.16 0.041

011

100

101

0.64 0.2

0.16

010

1

0.64

0.36

01

10

1

1

ε

ε

εε1ε

-1ε

-1ε

-1ε

-

定义一个新的随机变量Y X Z ⨯=(普通乘积)

（1） 计算熵H （X ），H （Y ），H （Z ），H （XZ ），H （YZ ），以及H （XYZ ）；

（2） 计算条件熵 H （X|Y ），H （Y|X ），H （X|Z ），H （Z|X ），H （Y|Z ），H （Z|Y ），H （X|YZ ），

H （Y|XZ ）以及H （Z|XY ）；

（3） 计算平均互信息量I （X ；Y ），I （X ：Z ），I （Y ：Z ），I （X ；Y|Z ），I （Y ；Z|X ）以及I （X ：，

Z|Y ）。

解：（1） （2） (3)

7.设二元对称信道的输入概率分布分别

为

]4/14/3[][=X P ，转移矩阵为

[]

⎥⎦

⎤⎢⎣⎡=3/23/13/13/2|X

Y P ，

（１） 求信道的输入熵，输出熵，平均互信息量； （２） 求信道容量和最佳输入分布； （３） 求信道剩余度。 解：（1）信道的输入熵4log 4/1)3/4(log 4/3)(22+=X H ；

（2）最佳输入分布为]2/12/1[][=X P ，此时信道的容量为)3/1,3/2(1H C -=

(3)信道的剩余度：);(Y X I C -

8.

[][]25.025.05.0=X P ，试确定最佳译码规则和极大似然译码规则，并计算出相应的平均差错率。

解：⎥⎥⎥⎦⎤⎢⎢⎢⎣⎡=8/124/112/112/18/124/112/16/14/1][XY P 最佳译码规则：⎪⎩

⎪

⎨⎧===331

211)()()(a

b F a b F a b F ，平均差错率为1-1/4-1/6-1/8=11/24；

极大似然规则：⎪⎩

⎪

⎨⎧===33221

1)()()(a

b F a b F a b F ，平均差错率为1-1/4-1/8-1/8=1/2。

9.设有一批电阻，按阻值分70%是2k Ω，30%是5k Ω；按功耗分64%是1/8W ，36%是1/4W 。现已知2k Ω电阻中80%是1/8W ，假如得知5k Ω电阻的功耗为1/4W ，问获得多少信息量。 解：根据题意有⎥⎦⎤⎢

⎣⎡===3.07.05221k r k r R ，⎥⎦

⎤

⎢⎣⎡===36.064.04/128/11w w W ，8.0)1/1(=r w p

由15/4)2/1()2/1()2()1/1()1()1(=⇒+=r w p r w p r p r w p r p w p

X\Y 0

1

0 1/8 3/8 1/2 1

3/8 1/8 1/2

1/2 1/2

X\Z 0 1

0 1/2 0 1/2 1

3/8 1/8 1/2

7/8 1/8 Y\Z 0 1

0 1/2 0 1/2 1

3/8 1/8 1/2

7/8

1/8