信息论与编码理论-第6章信道编码概述-习题解答-20071203
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
第6章 信道编码概述
习题答案
1．计算码长n =5的二元重复码的平均译码错误概率。假设无记忆二元对称信道错误传递概率为p 。此码能检测出多少位错误？又能纠正多少位错误？如令p =0.01,平均译码错误概率是多大？ 解：
码长n=5的二元重复码是（00000，11111），码间最短距离为5， d min =5=e+1 e=4 可以检测出小于等于4位以下的错误。 d min =5=2×2+1=2t+1 t=2 可以纠正2位及2位以下的错误。
5544332
5555
(1)(1)0.9810E E P C p C p p C p p P -=+-+-∴=⨯p=0.01
2． 设有一个离散无记忆信道，其信道矩阵为
1/2 1/3 1/61/6 1/2 1/3.1/3 1/6 1/2P ⎡⎤
⎢⎥=⎢⎥
⎢⎥⎣⎦
若信源概率分布为p (x 1)=1/2，p (x 2)=p (x 3)=1/4，求最佳译码时的平均错误译码概率。 解：
极大似然译码规则译码时，由转移概率矩阵可知：第一列中12，第二列中1
2
，第三列中
1
2
为转移概率的最大值，所以平均错误概率为： 1111111111()()()2364364362
E P =⨯++⨯++⨯+=
最小错误概率译码，输入x 与输出y 的联合概率分布为：
111,,4612111,,24812111,,12248⎡⎤⎢⎥⎢⎥⎢⎥⎢⎥⎢⎥⎢⎥⎢⎥⎣
⎦
11111111
(
)()()2412824121224E P =+++++=
由于111242<
可以看出最佳译码为最小错误概率译码，平均错误概率为
1124
3． 将M 个消息编成长为n 的二元数字序列，此特定的M 个二元序列从2n 个可
选择的序列中独立地等概率地选出。设采用最大似然译码规则译码，求在图6-8中(a)、(b)、(c)三种信道下的平均错误译码概率。
图6-8 三个信道
解：
（1）由图可知，其转移概率矩阵为：1-p p p 1-p ⎡⎤
⎢
⎥
⎣⎦
该信道任意一个序列译码错误概率为：
0n 0n 1n-11n n 0n n
n n n n
111p=[1-(1-p)(1-p)]C ()+[1-(1-p)(1-p)]C ()+.......+[1-(1-p)(1-p)]C ()
222
=1-(1-p)
平均译码错误概率为：
222
n n
1-(1-p)1-(1-p)E n n M M P M ⎡⎤⎡⎤=⨯⨯=⨯⎣⎦⎣⎦ （2）由图可知，其转移概率矩阵为：1 0p 1-p ⎡⎤
⎢⎥
⎣⎦
任意一个序列译码错误的概率为：
n 0n n-11n 0n n
n n n n
111p=[1-(1-p)]C ()+[1-(1-p)]C ()+.......+[1-(1-p)]C ()
222
2-p =1-()
2
(a)
1
1
1
1
(b)
0 1
1
(c)
平均译码错误概率为：
222n n 2-p 2-p 1-()1-()22E n n M M P M ⎡⎤⎡⎤
=⨯⨯=⨯⎢⎥⎢⎥⎣⎦⎣⎦
（3）由图可知，其转移概率矩阵为：1-p p 00 p 1-p ⎡⎤
⎢⎥⎣⎦
一个序列错误译码的概率为：
n 0n n 1n n n n
n n n n
111p=[1-(1-p)]C ()+[1-(1-p)]C ()+.......+[1-(1-p)]C ()
222=1-(1-p)
平均译码错误概率为：
222
n n
1-(1-p)1-(1-p)E n n M M P M ⎡⎤⎡⎤=⨯⨯=⨯⎣⎦⎣⎦ 4．某一个信道输入X 的符号集为{0, 1/2, 1}，输出Y 的符号集为{0, 1}，信道矩阵为
1 01/
2 1/2.0 1P ⎡⎤
⎢⎥=⎢⎥
⎢⎥⎣⎦
现有4个消息的信源通过该信道传输，设每个消息等概出现。若对信源进行编码，选用的码为C ={(0, 0, 1/2, 1/2)，(0, 1, 1/2, 1/2)，(1, 0, 1/2, 1/2)，(1,1, 1/2, 1/2) }。译码规则为
12341211(,,,),,,.22f y y y y y y ⎛
⎫= ⎪⎝
⎭
解：
(1) 求信息传输率；
log 41
2
R n =
= bit/符号 (2) 求平均错误译码概率。
根据信道的传输特性，可知可以输出24=16种序列，可以分成4个子集，分别为：
1342343
344
3411α=(0 0
)→(0 0 y y )2211
α=(0 1
)→(0 1 y y )2211
α=(1 0 )→(1 0 y y )2211
α=(1 1 )→(1 1 y y )22
34y ,y ∈(0 1)
传输信道如下所示：
11(0 0 )
2211(0 1 )
2211(1 0 )
2211(1 1 )
22
0000 0001 0010 0011 0100 0101 0110 0111 1000 1001 1010 1011 1100 1101 1110 11111111 0 0 0 0 0 0 0 0 0 0 0 044441111
0 0 0 0 04444 0 0 0 0 0 0 011110 0 0 0 0 0 0 0 0 0 0 0 444411110 0 0 0 0 0 0 0 0 0 0 0 4444⎡⎢⎢⎢⎢⎣⎤⎥⎥⎥⎥⎢⎥⎢⎥
⎢⎥
⎢⎥⎢⎥
⎢⎥
⎢
⎥⎢⎥⎦
译码规则为：,12341211
f(y ,y ,y ,y )=(y ,y ,)22
每个码字引起错误的概率：(|)(())0 e i i r
p p p f βαβα=⨯≠=∑ i=1、2、3、4
所以 ()0E i
e
C
p p p
α=
=∑