第五章 纠错编码习题

合集下载

第五章信道编码习题解答

第五章信道编码习题解答

第五章信道编码习题解答第五章信道编码习题解答1.写出与10011的汉明距离为3的所有码字。

解:共有10个:01111,00101,00000,01010,01001,00110,11101,10100,11000,11110。

2.已知码字集合的最⼩码距为d ,问利⽤该组码字可以纠正⼏个错误可以发现⼏个错误请写出⼀般关系式。

解:根据公式:(1)1d e ≥+ 可发现e 个错。

(2)21d t ≥+ 可纠正t 个错。

得出规律: ?(1)1d = ,则不能发现错及纠错。

(2)d 为奇数:可纠12d -个码元错或发现1d -个码元错。

(3)d 为偶数:可纠12d-个码元错,或最多发现1d -个码元错。

(4)码距越⼤,纠、检错能⼒越强。

3.试计算(8,7)奇偶校验码漏检概率和编码效率。

已知码元错误概率为410e p -=。

解:由于410e p -=较⼩,可只计算错两个码元(忽略错4或6个码元)的情况:228788!10 2.8106!2!e p C p --=== 787.5%8η== |4.已知信道的误码率410e p -=,若采⽤“五三”定⽐码,问这时系统的等效(实际)误码率为多少解:由于410e p -=较⼩,可只计算错两个码元的情况1125211283232(1)610e e e p C C p p C C p --=-≈=?5.求000000,110110,011101,101011四个汉明码字的汉明距离,并据此求出校正错误⽤的校验表。

解:先求出码字间距离:000000 110110 011101 101011000000 4 4 4 110110 4 4 4 、011101 4 4 4 101011 4 4 4 汉明距离为4,可纠⼀位错。

由于⼀个码字共有6个码元,根据公式:21617rn ≥+=+= 得 3r = 即每个码字应有3位监督码元,6-3=3位信息码元。

直观地写出各码字:12345600000110110011101101011x x x x x x 令456x x x 为监督码元,观察规律则可写出监督⽅程:413523612x x x x x x x x x=⊕??=⊕??=⊕?从⽽写出校验⼦⽅程:113422353126s x x x s x x x s x x x *********?=⊕⊕?=⊕⊕??=⊕⊕?列出校验表:—6.写出信息位6k =,且能纠正1个错的汉明码。

信息论与纠错编码课后练习题含答案

信息论与纠错编码课后练习题含答案

信息论与纠错编码课后练习题含答案前言信息论与纠错编码是计算机科学与通信工程中非常重要的领域。

本文档将介绍该领域中一些常见的练习题,并且配有答案供参考。

第一部分:信息论题目一假设在信道中有两个符号a和b,其发生概率分别为P(a)和P(b)。

则符号a和b在信道中的平均传输信息量为多少?答案一符号a和b分别传输的信息量为 $I(a)=-\\log_2P(a)$ 和 $I(b)=-\\log_2P(b)$。

因此,符号a和b在信道中的平均传输信息量为:$$I_{avg}=\\frac{1}{2}(I(a)+I(b))=\\frac{1}{2}(-\\log_2P(a)-\\log_2P(b))=-\\frac{1}{2}\\log_2(P(a)P(b))$$题目二以上一题中的符号为例,若P(a)=0.2,P(b)=0.8,则符号b传输的信息量是符号a的多少倍?答案二符号a和b的信息量为:$$I(a)=-\\log_2P(a)=-\\log_2(0.2)=2.322$$$$I(b)=-\\log_2P(b)=-\\log_2(0.8)=0.321$$因此,符号b传输的信息量为符号a的 $\\frac{0.321}{2.322}=0.138$ 倍。

第二部分:纠错编码题目三对于一个二元码,其生成矩阵为$G=\\begin{bmatrix}1&0&1\\\\0&1&1\\end{bmatrix}$。

请问该码的最小汉明距离是多少?答案三对于二元码,最小汉明距离等于最小权值。

该码的所有码字是:$$\\begin{bmatrix}1&0&0\\end{bmatrix},\\begin{bmatrix}0&1&0\\end{bmatrix},\\begin{bmatrix}1&1&0\\end{bmatrix},\\begin{bmatrix}0&0&1\\end{bmatrix},\\begin{bmatrix}1&0&1\\end{bmatrix},\\begin{bmatrix}0&1&1\\end{bmatrix},\\begin{bmatrix}1&1&1\\end{bmatrix},\\begin{bmatrix}0&0&0\\end{bmatrix}$$因此,该码的最小汉明距离是d min=1。

信息论与编码习题与答案第五章

信息论与编码习题与答案第五章

5-10 设有离散无记忆信源}03.0,07.0,10.0,18.0,25.0,37.0{)(=X P 。

(1)求该信源符号熵H(X)。

(2)用哈夫曼编码编成二元变长码,计算其编码效率。

(3)要求译码错误小于310-,采用定长二元码达到(2)中的哈夫曼编码效率,问需要多少个信源符号连在一起编? 解:(1)信源符号熵为symbolbit x p x p X H i ii /23.203.0log 03.007.0log 07.010.0log 10.018.0log 18.025.0log 25.037.0log 37.0)(log )()(222222=------=-=∑ (2)1x 3x 2x 6x 5x 4x 0.370.250.180.100.070.030111110.100.200.380.621.0000011110110001001符号概率编码该哈夫曼码的平均码长为符号码元/3.2403.0407.0310.0218.0225.0237.0)(=⨯+⨯+⨯+⨯+⨯+⨯==∑iii K x p K 编码效率为9696.03.223.2)(===KX H η (3)信源序列的自信息方差为2222)(792.0)]([)]()[log ()(bit X H x p x p X i ii =-=∑σ7.00696.90)()(==+=εεη得,由X H X H53222102.6110)7.00(92.70)(⨯=⨯=≥-δεσX L 由切比雪夫不等式可得所以,至少需要1.62×105个信源符号一起编码才能满足要求。

5-12 已知一信源包含8个消息符号,其出现的概率}04.0,07.0,1.0,06.0,05.0,4.0,18.0,1.0{)(=X P ,则求:(1)该信源在每秒内发出1个符号,求该信源的熵及信息传输速率。

(2)对这8个符号作哈夫曼编码,写出相应码字,并求出编码效率。

第五章 信道编码 习题解答

第五章 信道编码 习题解答

第五章 信道编码 习题解答1.写出与10011的汉明距离为3的所有码字。

解:共有10个:01111,00101,00000,01010,01001,00110,11101,10100,11000,11110。

2. 已知码字集合的最小码距为d ,问利用该组码字可以纠正几个错误?可以发现几个错误?请写出一般关系式。

解:根据公式:(1)1d e ≥+ 可发现e 个错。

(2)21d t ≥+ 可纠正t 个错。

得出规律:(1)1d = ,则不能发现错及纠错。

(2)d 为奇数:可纠12d -个码元错或发现1d -个码元错。

(3)d 为偶数:可纠12d-个码元错,或最多发现1d -个码元错。

(4)码距越大,纠、检错能力越强。

3.试计算(8,7)奇偶校验码漏检概率和编码效率。

已知码元错误概率为410e p -=。

解:由于410e p -=较小,可只计算错两个码元(忽略错4或6个码元)的情况:228788!10 2.8106!2!e p C p --==⨯=⨯⨯ 787.5%8η==4.已知信道的误码率410e p -=,若采用“五三”定比码,问这时系统的等效(实际)误码率为多少? 解:由于410e p -=较小,可只计算错两个码元的情况1125211283232(1)610e e e p C C p p C C p --=-≈=⨯5.求000000,110110,011101,101011四个汉明码字的汉明距离,并据此求出校正错误用的校验表。

解:先求出码字间距离:000000 110110 011101 101011000000 4 4 4 110110 4 4 4 011101 4 4 4 101011 4 4 4汉明距离为4,可纠一位错。

由于一个码字共有6个码元,根据公式:21617rn ≥+=+= 得 3r = 即每个码字应有3位监督码元,6-3=3位信息码元。

直观地写出各码字:123456000000110110011101101011x x x x x x 令456x x x 为监督码元,观察规律则可写出监督方程:413523612x x x x x x x x x=⊕⎧⎪=⊕⎨⎪=⊕⎩从而写出校验子方程:113422353126s x x x s x x x s x x x *********⎧=⊕⊕⎪=⊕⊕⎨⎪=⊕⊕⎩列出校验表:6.写出信息位6k =,且能纠正1个错的汉明码。

信道编码习题解答

信道编码习题解答

第五章 信道编码 习题解答1.写出与10011的汉明距离为3的所有码字。

解:共有10个:01111,00101,00000,01010,01001,00110,11101,10100,11000,11110。

2. 已知码字集合的最小码距为d ,问利用该组码字可以纠正几个错误?可以发现几个错误?请写出一般关系式。

解:根据公式:(1)1d e ≥+ 可发现e 个错。

(2)21d t ≥+ 可纠正t 个错。

得出规律:(1)1d = ,则不能发现错及纠错。

(2)d 为奇数:可纠12d -个码元错或发现1d -个码元错。

(3)d 为偶数:可纠12d-个码元错,或最多发现1d -个码元错。

(4)码距越大,纠、检错能力越强。

3.试计算(8,7)奇偶校验码漏检概率和编码效率。

已知码元错误概率为410e p -=。

解:由于410e p -=较小,可只计算错两个码元(忽略错4或6个码元)的情况:228788!10 2.8106!2!e p C p --==⨯=⨯⨯ 787.5%8η==4.已知信道的误码率410e p -=,若采用“五三”定比码,问这时系统的等效(实际)误码率为多少? 解:由于410e p -=较小,可只计算错两个码元的情况1125211283232(1)610e e e p C C p p C C p --=-≈=⨯5.求000000,110110,011101,101011四个汉明码字的汉明距离,并据此求出校正错误用的校验表。

解:先求出码字间距离:000000 110110 011101 101011000000 4 4 4 110110 4 4 4 011101 4 4 4 101011 4 4 4 汉明距离为4,可纠一位错。

由于一个码字共有6个码元,根据公式:21617rn ≥+=+= 得 3r = 即每个码字应有3位监督码元,6-3=3位信息码元。

直观地写出各码字:123456000000110110011101101011x x x x x x 令456x x x 为监督码元,观察规律则可写出监督方程:413523612x x x x x x x x x=⊕⎧⎪=⊕⎨⎪=⊕⎩从而写出校验子方程:113422353126s x x x s x x x s x x x *********⎧=⊕⊕⎪=⊕⊕⎨⎪=⊕⊕⎩列出校验表:6.写出信息位6k =,且能纠正1个错的汉明码。

信息论与编码第五章课后习题答案

信息论与编码第五章课后习题答案

第五章课后习题【5.1】某信源按43)0(=P ,41)1(=P 的概率产生统计独立的二元序列。

(1)试求0N ,使当0N N >时有01.005.0)()(≤≥−S H N I P i α 式中,)(S H 是信源的熵。

(2)试求当0N N =时典型序列集N G ε中含有的信源序列个数。

解:(1)该信源的信源熵为811.0)(log )()(=−=∑i i s p s p S H 比特/符号自信息的方差为4715.0811.04log 4134log 43)()]([)]([22222=−+=−=S H s I E s I D i i 根据等长码编码定理,我们知道δεα−≤≥−1)()(S H N I P i 根据给定条件可知,05.0=ε,99.0=δ。

而[]2)(εδN s I D i =因此[]5.19099.0*05.04715.0)(220==≥δεi s I D N 取1910=N 。

(2)ε典型序列中信源序列个数取值范围为:])([])([22)1(εεεδ+−<<−S H N N S H N G代入上述数值得451.164351.1452201.0<<×N G ε【5.2】有一信源,它有六个可能的输出,其概率分布如下表所示,表中给出了对应的码A 、B 、C 、D 、E 和F 。

表5.2消息 )(i a P A B C D E F 1a 1/2 000 0 0 0 0 0 2a 1/4 001 01 10 10 10 100 3a 1/16 010 011 110 110 1100 101 4a 1/16 011 0111 1110 1110 1101 110 5a 1/16 100 01111 11110 1011 1110 111 6a1/1610101111111111011011111011(1) 求这些码中哪些是惟一可译码; (2) 求哪些码是非延长码(即时码); (3) 求对所有惟一可译码求出其平均码长L 。

信息论与编码第5章习题解答

信息论与编码第5章习题解答
x ˆ x
= λ ( 0) ⋅ p * (1) ⋅ e 2s + 0.5 ⋅ λ (1) ⋅ p * (0) ⋅ e s Rs = s ⋅ Ds + 0.5 ⋅ [log λ ( 0) + log λ (1)]
其中参数 s < 0 。
5.7
x2 X x1 1 设信源 = ( p < ) ,其失真度为 Hamming 失真度,试问当允许 2 p (x ) p 1 − p 1 平均失真度 D = p 时,每个信源符号平均最少需要几个二进制符号表示? 2
所以转移概率矩阵具有与失真矩阵相同的置换对称。
α a1 a 2 a 3 β b1 γ a α a a β b γ 3 2 1 P= 1 a a α a b β γ 2 3 1 1 a a a α b β γ 3 2 1 1 ˆ ˆ 由于对于使失真 d ( xi , x j ) = ∞ 的 ( xi , xi ) ,相应的转移概率必须为零,即
所以
R( D ) =
β =D − 3 γ ≥0 α =1− D +2γ ≥0 γ ≥0
β = D − 3γ ≥ 0 α = 1 − β − γ = 1 − D + 2γ ≥ 0 γ ≥0 min {2 − D + γ }
= ( 2 − D ) bit
当1 ≤ D ≤ 3 ,
所以
D α + β + γ = 1 β = D − 3γ ≥ 0 γ ≤ 3 β + 3γ = 0 ⇒ α = 2γ − D + 1 ≥ 0 ⇒ D −1 γ ≥0 γ ≥ α , β , γ ∈ [ 0,1] 2 R( D ) = min {2 − D + γ }

信息论与纠错编码题库

信息论与纠错编码题库

信息论与纠错编码题库(总7页)--本页仅作为文档封面,使用时请直接删除即可----内页可以根据需求调整合适字体及大小--第九章循环码什么是循环码如何用多项式来描述一个循环码解答:一个线性分组码,若具有如下特性,则称为循环码。

设码字c=(cn-1 cn-2 … c1 c0)将码元左移一位,得 c1=(cn-2 …c1 c0 cn-1) 也是一个码字,则称此分组码为循环码。

把码长为n的码组中的各码元当作n-1次多项式的系数若码组C=(cn-1,cn-2,……,c1,c0),则其相应的码多项式为:C(x)= cn-1xn-1+ cn-1xn-1+ ……+ c1x+ c0对应于每一码字,可以写出相应的码字多项式(最高次数小于n次)C (x) = c n-1 x n-1 +cn-2 x n-2+…+c1 x +c0C1(x) = cn-2 x n-1+c n-3 x n-2+…+c0 x +c n-1C2(x) = cn-3xn-1+cn-4xn-2+…+cn-1x+cn-2………………………………Cn-1(x) =c0 xn-1+cn-1xn-2+…+c2 x+c1对于上述多项式,有x •C (x) + C1 (x) = cn-1 x n + cn-1 = cn-1 (xn + 1 )x •C (x) + C1 (x) ≡0 mod (xn +1)C1 (x) ≡x•C (x)x2• C (x) + C2 (x) = cn-1 (xn +1)C2 (x) ≡ x2 •C (x) mod (xn +1)……………………Ci (x) ≡xi •C(x) mod (xn + 1)……………………C n-1 (x)≡x n-1 C1(x) mod (xn+1)得出结论:在循环码中,若C(x)是一个长为n的许用码组,则xi• C(x)在按模xn+1运算下,也是一许用码组。

即若xi• C(x)≡Ci(x) (模xn+1)则Ci(x) 也是一许用码组,且为C(x)码组向左循环移位i次的结果。

信息论与编码技术第五章课后习题答案

信息论与编码技术第五章课后习题答案

码,并求出其编码效率。
解:
信源符号 概率 编码
码字 码长
X1
3/8 0
0
1
X2
1/6 1
0
10 2
X3
1/8
1
11 2
X4
1/8 2
0
20 2
X5
1/8
1
21 2
X6
1/12
2
22 2
H(X)=-((3/8)*log(3/8)+(1/6)*log(1/6)+(1/8)*log(1/8)+(1/8)*log(1/8)+(1/8)*log(1/8)+(1/12)*log(1/12))
=2.3852 (三进制单位/信源符号)
H3(X)= H(X)/ 1.5850=2.3852/1.5850= 1.5049(三进制单位/信源符号)
L =(3/8)*1+ (1/6)*2+ (1/8)*2+ (1/8)*2+ (1/8)*2+ (1/12)*2=1.625(码符号/信源符号)
η= H3(X)/ L =1.5049/1.625= 92.61 %
5.8 已知符号集合 {x1, x2 , x3,"} 为无限离散消息集合,它们出现的概率分别为 p(x1) = 1/ 2 , p(x2 ) = 1/ 4 , p(x3 ) = 1/ 8 , p(xi ) = 1/ 2i ,……。
(1) 用香农编码方法写出各个符号消息的码字。 (2) 计算码字的平均信息传输速率。
L =4*(1/4)*1=1(码符号/信源符号)
Rt= H(X)/(t* L )=1/(1*10*10-2)=10(比特/秒)

信息论与纠错编码编码习题答案

信息论与纠错编码编码习题答案

第1章 信息论基础1.7 ⎥⎥⎦⎤⎢⎢⎣⎡=⎥⎦⎤⎢⎣⎡36136236336436536636536436336236112111098765432)(X q X 1.8 p (s 0 ) = 0.8p (s 0 ) + 0.5p (s 2 )p (s 1 ) = 0.2p (s 0 ) + 0.5p (s 2 ) p (s 2 ) = 0.5p (s 1 ) + 0.3p (s 3 ) p (s 3 ) = 0.5p (s 1 ) + 0.7p (s 3 ) p (s 0 ) + p (s 1 ) + p (s 2 ) + p (s 3 ) = 1 p (s 0 ) =3715, p (s 1 ) = p (s 2 ) = 376,p (s 3 ) = 37101.9 P e = q (0)p + q (1)p = 0.06(1-0.06)﹡1000﹡10 = 9400 < 9500 不能1.10 ⎥⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎢⎣⎡------------=22222222)1(0)1()1(00)1(0)1()1(000000)1()1(0)1(00000)1()1(0)1(p p p pp p p p p p p p p p p p p p p p p p p p P 第2章 信息的度量2.4 logk2.5 I (X ; Y Z )= I (X ; Y )+ I (X ; Z ∣Y ) 2.7 010434()()()111111p s p s p s === H = 0.25(Bit/符号)2.8 H = 0.82(Bit/符号) 2.10 (1)1()log225.6()52!i I x Bit =-= (2)1352!()log ()log 413!39!i i I x q x =-=(3))/(4.713log 234log 52log 521log )(符号-Bit U H ==⨯===(4))/(7.313log 131log )(符号Bit X H ==- 2.11(1)H (X ) = log6 = 2.58 (Bit/符号) (2)H (X ) =2.36 (Bit/符号)(3)I (A+B=7) = - log1/6 = log6 = 2.585 (Bit) 2.12 (1)I (x i ) = -log1/100 = log100(2)H(X)=log100.2.13 039.0log )(-=Y X I2.14 R t =1000/4 (码字/秒) × H (U ) =250×9=2250(Bit/秒) 2.15 ―log p = log 55/44。

信息论与纠错编码答案2-5

信息论与纠错编码答案2-5

第二章作业参考答案1. 补充作业解:设{0,1,2}X =,1p p =-(1) 转移概率矩阵/2/2/2/2/2/2p p p P p p p p p p ⎡⎤⎢⎥=⎢⎥⎢⎥⎣⎦(2) 平稳分布001211022201012()2()2()21p p pp p p p p pp p p p p pp p p p p p ⎧=++⎪⎪⎪=++⎪⎨⎪=++⎪⎪⎪++=⎩解得01213p p p ===(3) 信源熵321()()i i i H X p H X s ==∑0(,,)322(,,)22(log log)2p p p H p p pH p p p p p =⨯==-+(4) 当做无记忆信源时,信源熵为()log 3H X =bit/符号 (5) 2()(,,)22p p H X H p =当12p p p =-=,2/3p =,即信源符号等概率分布时,2()H X 达到极大值2m a x ()l o g 3H X =bit/符号;0p =时,2()(1,0,0)0H X H ==; 1p =时,211()(0,,)log 2122H X H ===bit/符号 2.8 解:将其看作一阶马尔科夫信源转移概率矩阵为223310P ⎡⎤⎢⎥=⎢⎥⎣⎦,由P 可画出香农线图。

x 1:2/3x 2:1/31由香农线图列方程组求解平稳分布112211221()()()331()()3()()1p x p x p x p x p x p x p x ⎧=+⎪⎪⎪=⎨⎪+=⎪⎪⎩解得12()3/4()1/4p x p x =⎧⎨=⎩ 信源熵23211()(,)(1,0)0.6894334H X H H =+=bit/符号 2.11 解:(1)点数集合记为{1,2,3,4,5,6}X =,出现各点数的概率分别记为,1,...,6i p i =信源概率空间为123456111111666666X P ⎡⎤⎡⎤⎢⎥=⎢⎥⎢⎥⎣⎦⎣⎦掷骰子的熵记为信源熵()log 6 2.585H X ==bit/符号 (2)由题意可得61111121i p i p ==⇒=∑,1,...,621i i p i ⇒==此时的信源熵为61()log 2.399i i i H X p p ==-=∑bit/符号(3)总点数为7这个事件集合为1212{(,)7}{(1,6),(2,5),(3,4),(4,3),(5,2),(6,1)}x x x x +==,其中每个组合出现的概率均为1/36,故点数和为7这个事件发生的概率为6/36=1/6,从而这个事件的自信息量为1log log log 6 2.5856i I p =-=-==bit2.16 解:由题意可写出该系统的转移概率矩阵为10000000.500.2500.2500100000.2500.500.2500001000.250.250.5P ⎡⎤⎢⎥⎢⎥⎢⎥=⎢⎥⎢⎥⎢⎥⎢⎥⎣⎦由题目的已知条件,每个符号等概率发出,可求得接收每个符号的概率[]01234510000000.500.2500.25001000111111[]00.2500.500.2566666600001000.250.250.5111111[]666666qq q q q q ⎡⎤⎢⎥⎢⎥⎢⎥=⎢⎥⎢⎥⎢⎥⎢⎥⎣⎦=11()log 6log 6 2.58566H Y ⎛⎫=-⨯== ⎪⎝⎭bit/符号51111()()()(,,)3(1)30.756244i i i H Y X p x H Y x H H =⎡⎤==⨯+⨯=∑⎢⎥⎣⎦bit/符号 (;)()() 2.5850.75 1.835I X Y H Y H Y X =-=-=bit/符号2.17 解:用“1”表示收到1,“10”表示收到10,“100”表示收到100()q ⋅表示接收符号的概率(1) 由4(14)(1;)log(1)p u I u q =,先求(1)q711(1)()(1)[4(1)4]82i i i q p u p u p p ===-+=∑代入上式可得4(14)(1)(1;)logloglog 2(1)(1)1/2p u p I u p q -===-或可由4444(1)(1;)(;1)log()p u I u I u p u ==,先求(1)q ,再求4(14)(4)1(1)(1)4p u p u p p u q -==,代入到定义式中求解(2) 由4(104)(10;)log(10)p u I u q =,先求(10)q72211(10)()(10)[4(1)22(1)]84i i i q p u p u p p p p ===-++-=∑代入上式可得24(104)(1)(10;)loglog2log 2(1)(10)1/4p u p I u p q -===-(24(104)(4)(1)(10)(10)2p u p u p p u q -==)(3) 由4(1004)(100;)log(100)p u I u q =,先求(100)q771(100)()(100)()(1)(0)(0)8i i i i i i i i q p u p u p u p u p u p u =====∑∑代入上式可得34(1004)(1)(100;)loglog3log 2(1)(10)1/8p u p I u p q -===-(34(1004)(4)(100)(1)(100)p u p u p u p q ==-)2.24 解:(法一)由(;)()()I X Y H Y H Y X =- 设信宿符号接收概率分别为0q 和1q01010.760.240.760.2411[][][][0.540.46]0.320.680.320.6822q q p p ⎡⎤⎡⎤===⎢⎥⎢⎥⎣⎦⎣⎦()(0.54,0.46)0.9954H Y H ==bit/符号[]11()()(0.76,0.24)(0.32,0.68)0.84972i i H Y X p H Y i H H ===+=∑bit/符号从而(;)()()I X Y H Y H Y X =-=0.9954-0.8497=0.146bit/符号(法二)直接由平均互信息量的定义式,()(;)()log()X Yp y x I X Y p xy q y =∑由信源分布及信道转移概率矩阵可得XY 的联合分布0.380.120.160.34XY P ⎡⎤=⎢⎥⎣⎦,将其代入到定义式中可得 0.760.240.320.68(;)0.38log 0.12log 0.16log 0.34log0.540.460.540.46I X Y =+++=0.146bit/符号2.25 解:由联合概率分布可求得X 和Y 的一维概率分布[]0.10.30.50.1X P =,[]0.30.40.3Y P =及转移概率矩阵100210333205501YXP ⎡⎤⎢⎥⎢⎥⎢⎥=⎢⎥⎢⎥⎢⎥⎢⎥⎣⎦()(0.1,0.3,0.5,0.1) 1.685H X H ==bit/符号()(0.3,0.4,0.3) 1.571H Y H ==bit/符号2132()()()0.1(1,0,0)0.3(,,0)0.5(,,0)0.1(0,0,1)3355XH Y X p x H Y x H H H H ==+++∑21320.3(,)0.5(,)0.7613355H H =+=bit/符号 ()()() 1.6850.761 2.446H XY H X H Y X =+=+=bit/2符号(;)()()()() 1.5710.7610.81I X Y H X H X Y H Y H Y X =-=-=-=第三章作业参考答案:3.2 答:(1)当log ()n D LH X ≥时,可实现无失真编码;(2)等长编码时,从总的趋势来说,增加L 可提高编码效率,且当L →∞时,1η→。

信息论与编码第五章习题参考答案

信息论与编码第五章习题参考答案

信息论与编码第五章习题参考答案5.1某离散⽆记忆信源的概率空间为采⽤⾹农码和费诺码对该信源进⾏⼆进制变长编码,写出编码输出码字,并且求出平均码长和编码效率。

解:计算相应的⾃信息量1)()(11=-=a lbp a I ⽐特 2)()(22=-=a lbp a I ⽐特 3)()(313=-=a lbp a I ⽐特 4)()(44=-=a lbp a I ⽐特 5)()(55=-=a lbp a I ⽐特 6)() (66=-=a lbp a I ⽐特 7)()(77=-=a lbp a I ⽐特 7)()(77=-=a lbp a I ⽐特根据⾹农码编码⽅法确定码长1)()(+<≤i i i a I l a I平均码长984375.164/6317128/17128/1664/1532/1416/138/124/112/1L 1=+=?+?+?+?+?+?+?+?=由于每个符号的码长等于⾃信息量,所以编码效率为1。

费罗马编码过程5.2某离散⽆记忆信源的概率空间为使⽤费罗码对该信源的扩展信源进⾏⼆进制变长编码,(1) 扩展信源长度,写出编码码字,计算平均码长和编码效率。

(2) 扩展信源长度,写出编码码字,计算平均码长和编码效率。

(3) 扩展信源长度,写出编码码字,计算平均码长和编码效率,并且与(1)的结果进⾏⽐较。

解:信息熵811.025.025.075.075.0)(=--=lb lb X H ⽐特/符号(1)平均码长11=L ⽐特/符号编码效率为%1.81X)(H 11==L η(2)平均码长为84375.0)3161316321631169(212=?+?+?+?=L ⽐特/符号编码效率%9684375.0811.0X)(H 22===L η(3)当N=4时,序列码长309.3725617256362563352569442569242562732562732256814=?+?+??+??+??+?+??+?=L平均码长827.04309.34==L %1.98827.0811.0X)(H 43===L η可见,随着信源扩展长度的增加,平均码长逐渐逼近熵,编码效率也逐渐提⾼。

纠错码复习题

纠错码复习题

纠错码复习题
1.设一个线性分组码的生成矩阵为
1 0 0 0 1 1 1
0 1 0 0 1 0 1
G0= 0 0 1 0 0 1 1
0 0 0 1 1 1 0
(1)求该码的码率R;
(2)求出该码的全部码字,该码是系统码吗?为什么?
(3)求出该码的最小距离,该码能纠多少个错?
(4)求出该码的监督矩阵H;
(5)设计该码的编码电路;
(6)作出该码的标准阵列译码表,并求对码字(1101110)译码;
(7)该码是完备码码?为什么?
(8)若在该码加一奇偶校验位,求变化后的H'。

2.用GF(2)上素多项式f(x)=x3+x+1构造GF(8),
(1)写出用多项式表达的全部元素;
(2)写出该域的矢量表示法;
(3)设α为本原元,写出该域的幂表示法;
(4)写出该域用α表示的加、乘法表;
(5)设计GF(2)上n=7,纠一个错的BCH码,写出其g(x).
3.设计GF(2)上的[7,3]循环码,要求:
(1)求该码的生成多项式g(x),校验多项式h(x);
(2)写出系统形式的生成矩阵G和校验矩阵H;
(3)写出优化的系统串行编码器;
(4)写出该码的译码器。

4.数字音频广播中,使用了(4,1)卷积码,G(D)=(1+D2+D3+D5+D6, 1+D+D2+D3+D6, 1+D+D4+D6,
1+D2+D3+D5+D6),
(1)求该码的基本生成矩阵g∞;
(2)求该码的编码电路;
(3)求出相对应于信息序列(101100……)的码序列。

纠错编码习题解答

纠错编码习题解答

纠错编码习题解答第一章1.1 Solution: p=0.05(1)The correct decoding P c is P c= P0 =C40p0(1-p)4=0.8145(2)The decoding error P e is P e = P2+P4 = C42p2(1-p)2 + C44p4(1-p)0 = 0.0135(3)The decoding failure P f is P f= C41p(1-p)3 + C43p3(1-p) = 0.17201.2 Solution:Because the success rate does not fall below 99%,then the decoding failure P f <1% .And p<<1, P f = P1 = n*0.001*0.999n-1 < 0.01So n<=10 .then the maximum blocklength n such that the success rate does not fall below 99% is 10.1.3 Solution: p=0.01P f = P2 = C42p2(1-p)2 = C42 * 0.012 * 0.992 = 0.000588So the decoding failure rate is 0.000588.1.4 Solution:(a)Error: There is one error(b)Correct(c)Failure(d)Error: There is two error1.5 Solution:S1 = v1+v2+v3+v4+v6+v8+v9+v12S2 = v2+v3+v4+v5+v7+v9+v10+v13S3 = v3+v4+v5+v6+v8+v10+v11+v144 12357811151.6 Solution(1)s=(0000) ~e = 0000 0000 0000 000~c= ~e+v1 = (000000000000000)+(100010011001001)= (100010011001001)(2)s=(1011) ~e = 0000 0001 0000 000~c= ~e+v2 = (000000010000000)+(001001110100110)= (001001100100110)1.7 Solution(1) v=(1011 110) s=(110)~e = (001 0000) ~c=(1001 110)(2) v=(1100 110) s=(100)~e = (0000 100) ~c=(1100 010)(3) v=(0001 011) s=(000)~e=(0000 000) ~c=(0001 011)第二章i j .2.2 Solution1 1 1 1 1 1 1 r1-r2 1 0 0 0 1 0 1G2= 0 1 1 1 0 1 0 r2-r3 0 1 0 0 1 1 1 = G10 0 1 1 1 0 1 0 0 1 0 1 1 00 0 0 1 0 1 1 r3-r40 0 0 1 0 1 1G1 is systematic form.And every liner coder is equivalent to a systematic linear codeSo the (7,4) linear codes generated by G1 and G2 equivalent.2.3 Solution(a) C 0 = (000) G = (000000) C 1 = (001) G = (001110) C 2 = (010) G = (010101) C 3 = (011) G = (011011) C 4 = (100) G = (100011) C 5 = (101) G = (101101) C 6 = (110) G = (110110) C 7 = (111) G = (111000)(b)If p=0 thenIf p=1 then2.4 SolutionBecause the (4,3) even-parity code is a linear code , The minimum distance d(C i ,C j )= W min = 2 The error detection limit is L=2-1=1The error correction is t=(2-1)/2=ly 0.2.5 Solution1 1 1 0 1 0 0 01 1 1 0 1 0 0 0 0 1 1 1 0 1 0 0 r4-r3-r2-r1 0 1 1 1 0 1 0 0 H= 1 1 0 1 0 0 1 0 1 1 0 1 0 0 1 0 1 1 1 1 1 1 1 1 1 0 1 1 0 0 0 1So the systematic forms is 1 1 1 0 1 0 0 00 1 1 1 0 1 0 01 1 0 1 0 0 1 01 0 1 1 0 0 0 1Because H = [P T | I n-k] and G=[I k | P]Then G = 1 0 0 0 1 0 1 10 1 0 0 1 1 1 00 0 1 0 1 1 0 10 0 0 1 0 1 1 12.6 Solution1 1 1 0 1 0 0 0 1 0 1 10 1 1 1 0 1 0 0 H T = 1 1 1 1H= 1 1 0 1 0 0 1 0 1 1 0 11 1 1 1 1 1 1 1 0 1 1 11 0 0 10 1 0 10 0 1 10 0 0 1第三章3.1 solutionBecause x3+1x4+x+1 x7+x3+1x7+x4+x3x4+1x4+x+1then q(x)= x3+1 and r(x)= xcheck answer : p1(x)q(x)+r(x)= (x3+1)( x4+x+1)+x= x7+x3+1 = p2(x) so the solution is correct.3.2 Solution(a) x3+x2+1x+1 x4+x2+x+1x4+x3x3+x2+x+1x3+x2x+1x+1R(x+1) (x4+x2+x+1) = 0(b) x3+x2+x+1x2+x+1 x5+x3+x2+x+1x5+x4+x3x4+x2+x+1x4+x3+x2x2+x+1x3+x2+xx3+x2x2+x+1xso R(x2+x+1) (x5+x3+x2+x+1) = x3.3 Solution(1) Systematic code :x3i(x)=x3(x3+x2+x+1)= x6+x5+x4+x3x3+x2+1x3+x+1 x6+x5+x4+x3x6+x4+x3x5x5+x3+x2x3+x2x3+x+1x2+x+1so q(x)= Q g(x) (x3i(x)) = x3+x2+1r(x)= R g(x) (x3i(x)) = x2+x+1then c(x)= x3i(x) +r(x)= x6+x5+x4+x3 +x2+x+1or c(x)=q(x)g(x)=( x6+x5+x4+x3)( x3+x+1) = x6+x5+x4+x3 +x2+x+1(2)Nonsystematic code :C(x)=i(x)g(x)=( x3+x2+x+1)( x3+x+1)= x6+x5+x3+13.4 SolutionWhen the codeword polynomials is x6+x3+x2+xThen s(x)= R g(x) (c(x)+e(x))= R g(x) (x6+x3+x2+x+x3)= R g(x) (x6+x2+x)x3+x+1x3+x+1 x6+x2+xx6+x4+x3x4+x3+x2+xx4 +x2+xx3x3+x+1x+1so s(x)= R g(x) (c(x)+e(x))= x+1When the codeword polynomials is x5+x3+x2The s(x)= R g(x) (c(x)+e(x)) = R g(x) (x5+x3+x2+x3)= R g(x) (x5+x2)x2 +1x3+x+1 x5+x2x5+x3+x2x3x3+x+1x+1so s(x)= R g(x) (c(x)+e(x))= x+1so the resulting syndrome polynomials are the same .3.5 Solution(a)The number of cyclic codes with blocklength 15 isC51+C52+C53+C54 =5+10+10+5=30(b)The number of (15,11)cyclic codes is 3 .when g(x)= x4+x+1 or g(x)= x4+x3+1 or g(x)= x4+x3+ x2+x+1 (c)The generator polynomials for the (15,7) cyclic codes isg1(x) =(x4+x+1)(x4+x3+1)=x8+x7+x5+x4+x3+x+1g2(x) =(x4+x+1)(x4+x3+ x2+x+1)=x8+x7+x6+x4 +1g3(x) =(x4+x3+1)(x4+x3+ x2+x+1)=x8+x4+x2+x+13.6 SolutionThe parity-check polynomial h(x)=( x15+1)/g(x)And g(x) = x10+x8+x5+x4+x2+x+1x5+x3+x+1x10+x8+x5+x4+x2+x+1 x15+1x15+x13+x10+x9+x7+ x6+x5x13+x10+x9+x7+x6+x5+1x13+x11+x8+x7+x5+ x4+x3x11+x10+x9+x8+x6+ x4+x3+1x11+x9+x6+x5+x3+ x2+xx10+x8+x5+x4+x2+x+1x10+x8+x5+x4+x2+x+1So h(x)= x5+x3+x+1h*(x)= x5(x-5+x-3+x-1+1)= x5+x4+x2+1So the blocklength of the cyclic code that is dual to the (15,5) codeis 15 and the information length is 15-5=10第四章4.1 Solution p(x)= x5+x4+x32q(x)=x5+x3+1 g(x)=x3+x2+x+1 r(x)= x2+x+1so q(x)g(x)+r(x)=( x5+x3+1)( x3+x2+x+1)+( x2+x+1)= x3(x5+x4+x)=x r p(x)4.2 Solution g(x)= x4+x3+13f2f210in fq(x)=x r(x)= x2+x+1So q(x) g(x)+r(x)= x(x4+x3+1)+( x2+x+1)=x5+x4+x2+1=p(x)4.3 Solution r(x)= R g(x)[x8i(x)]=R(x8+x4+x+1)[x8(x5+x2+1)]x5+x2+x+1x8+x4+x+1 x13+x10+x8x13+x9+x6+x5x10+x9+x8+x6+x5x10+x6+x3+x2x9+x8+x5+ x3+x2x9+x5+x2+xx8+x3+xx8+x4+x+1x4+x3+1so r(x)= x4+x3+1then the codeword is 010010100011001.4.4 Solutiong(x)g(x)n-k4.5 SolutionLow-order input i(x)=x8+x6+x+1 with g(x)=x4+x+1c(x)=x12+x10+x5+x4 +x3+x2+14.6 Solutionv(x)=x6+x4+x3+x2s(x)=R g(x)[v(x)]= x+1e(x)=x4So c(x)=v(x)+e(x)=x6+x3+x2第五章5.1 Solution(a)No. Because this set does not have a unique identity element. (b)No. Because this set does not have a unique inverse. (c)Yes.(d)No. Because this set does not satisfy the property of closure.5.2 Solution x 属于{0,1,2,3,4,5}5.3 SolutionModule-5 multiplication5.4 SolutionModulo-5 arithmetic(a)2*7+6=2*2+6=4+6=4+1=0(b)(4-8)*3-2=(4+2)*3-2=1*3-2=1(c)(3+6)/2-4/3=4*3-4*2=2-3=2+2=4Modulo-7 arithmetic(a)2*7+6=2*0+6=6(b)(4-8)*3-2=(4+6)*3-2=3*3-2=2-2=0(c)(3+6)/2-4/3=2*4-4*5=1-6=1+1=25.5 SolutionBecause (01010)+(10110)=(11100)(10011)+(10110)=(00101)(11001)+(10110)=(01111)do not belong to any one of the set of vectors.So the set of vectors does not form a vector subspace of V5.5.6 SolutionThe three vectors are (00101),(11100)and (01111)10 Take any 2 linearly independent vectors ,say (01010).(10110) as the initial set of vectorswhich is not a basis of the given subspace.20 Of the remaining 5 nonzero vectors (11100)=(01010)+(10110) is linearly dependent on the 2 vector already in the set .Any one of the remaining 5 nonzero vectors except (11100) can be appended to the initial set.30 Taking ,say, (00101) as the 3rd basis vector we find all the vectors with in the subspace.123because there are 3 basis vectors.5.7 SolutionBecause r=n-k=k the code is (8,4), then it satisfy this law.Because a self-dual code should satisfy H=G.G = [I k|P]1 1 1 0 1 0 0 0 1 0 0 1 1 1 0 0H = [P T|I n-k]= 0 1 1 1 0 1 0 0 r1+r2 1 0 1 0 0 1 1 01 1 0 1 0 0 1 0 r2+r30 1 1 0 0 0 1 11 0 1 1 0 0 0 1 r3+r4 1 0 1 1 0 0 0 10 0 1 0 1 1 0 1 0 0 1 0 1 1 0 1r1+r4 1 0 0 0 1 0 1 0 r4+r1+r2 1 0 0 0 1 0 1 1r2+r1 0 1 0 0 1 1 1 0 0 1 0 0 1 1 1 0r3+r3 1 0 1 1 0 0 0 1 0 0 0 1 0 1 1 11 0 0 0 1 0 1 10 1 0 0 1 1 1 0 =G0 0 1 0 1 1 0 10 0 0 1 0 1 1 11 0 1 1 1 1 1 0 1 0 0 0PP T= 1 1 1 0 0 1 1 1 = 0 1 0 0 = I1 1 0 1 1 1 0 1 0 0 1 00 1 1 1 1 0 1 1 0 0 0 1So the (8,4) code with generator matrix is self-dual.第六章6.1 Solution(1)p1(x)=x4+x3+x+1(a) p1(1)=1+1+1+1=0Then p1(x) is not irreducible.(b) p1(x) is not primitive.(2) p 2(x)= x 2+x+1 (a) p 2(0)= p 2(1)=1Then p 2(x) is irreducible.(b)Image a 2+a+1=0 ,then a 2=a+1 a is a root and a ∈GF(22) So p 2(x) is primitive. (3) p 3(x)= x 3+x 2+1 (a) p 3(0)= p 3(1)=1.Then p 2(x) is irreducible.(b) Image a 3+a 2+1=0 ,then a 3=a 2+1 a is a root and a ∈GF(23) So p 3(x) is primitive.6.2 SolutionImage a 2+a+1=0 ,then a 2=a+1 The field elements of GF(22) P(0)=0+0+1=1 P(1)=1+1+1=1P(a)= a 2+a+1= a+1+a+1=0 P(a 2)= a 4+a+1= (a+1)2+a+1=0So the root of p(x)=0 are x=a and x=a 26.3 SolutionWhen β3+β2+1=0 then β3=β2+13When β3+β+1=0 then β3=β+1 The field element of GF(23)Xx3+x2+1 is the same as that constructed using x3+x+1 ,they differ only in the way in which elements are labeled.6.4 SolutionTo m1(x)=x5+x2+1m1(0)=1 , m1(1)=1 , m1(α)= α5+α2+1=α2+1+α2+1=0So the minimal polynomials of αis m1(x)=x5+x2+1To m3(x)=x5+ x4+x3+x2+1m3(0)=1 ,m3(1)=1 ,m3(α)= α5+α4+α3+α2+1=α2+1+α4+α3+α2+1=α4+α3m3(α2)= α10+α8+α6+α4+1=(α4+1)+( α3+α2+1)+(α3+α)+ α4+1=α2+α+1m3(α3)= α15+α12+α9+α6+α3=(α4+α3+α2+α+1)+( α3+α2+α)+( α4+α3+α)+( α3+α)+1=0So the minimal polynomials of α3 is m3(x)= x5+x4+x3+x2+16.5 Solution(1) Over GF(24)1 α4 x α5α5 α2 y = α3Then x = 14 -1α5 = (1/α11) α2 α4α5y α5 α2 αα5 1 α3= (1/α11) α2 *α5+α4*α3α5 *α5+1 *α3=(1/α11) 0 = 0α12 α[α2 *α5+α4*α3=α7+α7 =0α5 *α5+1 *α3=α10+α3= (α2+α+1)+ α3=α12]so the linear equations have a solution x=0 over GF(24)y=α(2) Over GF(23)Simplify the linear equations x+(α2+α)y=(α2+α+1)(α2+α+1)x+α2y=(α+1)Then the linear equations have a solution x=1 over GF (23y=1。

编码原理 习题(含答案或提示)

编码原理 习题(含答案或提示)

纠错编码课程习题及解答提示1. 奇校验码码字是011(,,,,)k m m m p −=c ",其中奇校验位p 满足方程,2 mod 1110=++++−p m m m k "证明奇校验码的检错能力与偶奇校验码的检错能力相同,但奇校验码不是线性分组码。

证明提示:奇数个差错的发生总导致校验方程不满足。

全0向量不是奇校验码码字。

2. 一个)2,6(线性分组码的一致校验矩阵为123410001000110010101110h h h h ⎡⎤⎢⎥⎢⎥=⎢⎥⎢⎥⎣⎦H(1)求4,3,2,1,=ih i 使该码的最小码距3min ≥d 。

(2)求该码的系统码生成矩阵s G 及其所有4个码字。

解题提示:(1)对H 作行初等变换得1213142310001100101010001000h h h H h h h h h ⎡⎤⎢⎥+⎢⎥′=⎢⎥+⎢⎥++⎣⎦要使最小码距等于3,有11213423, , , h h h h h h h h ++++中任意两项为1,其余为零。

当要使最小码距大于3,有11213423,, , h h h h h h h h ++++中三项或四项均为1,其余为零。

有上述关系可以求得一组或多组关于4,3,2,1,=i h i 的解。

(2)对H ′作行初等变换得()4233121101000101001001010001T k r r h h h h h H Q I h h h ×++⎡⎤⎢⎥+⎢⎥⎡⎤′′==⎣⎦⎢⎥+⎢⎥⎣⎦3. 一个纠错码的全部消息与码字的对应关系如下:(00)—(00000),(01)—(00111),(10)—(11110),(11)—(11001)(1)证明该码是线性分组码;(2)求该码的码长,编码效率和最小码距; (3)求该码的生成矩阵和一致校验矩阵; (4)构造该码在BSC 上的标准阵列;(5)若在转移概率310−=p 的BSC 上消息等概发送,求用标准阵列译码后的码字差错概率和消息比特差错概率。

信息理论与编码课后答案第5章

信息理论与编码课后答案第5章

第5章 有噪信道编码5.1 基本要求通过本章学习,了解信道编码的目的,了解译码规则对错误概率的影响,掌握两种典型的译码规则:最佳译码规则和极大似然译码规则。

掌握信息率与平均差错率的关系,掌握最小汉明距离译码规则,掌握有噪信道编码定理(香农第二定理)的基本思想,了解典型序列的概念,了解定理的证明方法,掌握线性分组码的生成和校验。

5.2 学习要点5.2.1 信道译码函数与平均差错率5.2.1.1 信道译码模型从数学角度讲,信道译码是一个变换或函数,称为译码函数,记为F 。

信道译码模型如图5.1所示。

5.2.1.2 信道译码函数信道译码函数F 是从输出符号集合B 到输入符号集合A 的映射:*()j j F b a A =∈,1,2,...j s =其含义是:将接收符号j b B ∈译为某个输入符号*j a A ∈。

译码函数又称译码规则。

5.2.1.3 平均差错率在信道输出端接收到符号j b 时,按译码规则*()j j F b a A =∈将j b 译为*j a ,若此时信道输入刚好是*j a ,则称为译码正确,否则称为译码错误。

j b 的译码正确概率是后验概率:*(|)()|j j j j P X a Y b P F b b ⎡⎤===⎣⎦ (5.1)j b 的译码错误概率:(|)()|1()|j j j j j P e b P X F b Y b P F b b ⎡⎤⎡⎤=≠==-⎣⎦⎣⎦ (5.2)平均差错率是译码错误概率的统计平均,记为e P :{}1111()(|)()1()|1(),1()|()s se j j j j j j j ssj j j j j j j P P b P e b P b P F b b P F b b P F b P b F b ====⎡⎤==-⎣⎦⎡⎤⎡⎤⎡⎤=-=-⎣⎦⎣⎦⎣⎦∑∑∑∑ (5.3)5.2.2 两种典型的译码规则两种典型的译码规则是最佳译码规则和极大似然译码规则。

信息论与纠错编码课后作业答案5

信息论与纠错编码课后作业答案5

第5章作业参考答案5.1 解:如果信道是无噪无损信道,则有k =s ,此时信道容量为max ()max (;)()log p x C I X Y H X k === 如果信道是无噪确定信道,则有k s >,此时信道容量为{}()()()max (;)max ()()max{()}log p x p x q y C I X Y H Y H Y X H Y s ==-== 5.2解:(1)为行对称信道,不是准对称信道;(2)行集合和列集合均不同,不是准对称信道;(3)是行对称信道,也是准对称信道;(4)是准对称信道。

5.4 答: 由信息传输率的定义式()(;)()()log ()p x y R I X Y p x p y x p x ==∑可知,信息传输率是信道输入分布的函数;而信道容量C 是在某个特定输入分布下R 所取得的极大值,因此与输入分布无关,而只反映信道的特性。

5.6 解:(1)100101p p P p p p p -⎡⎤⎢⎥=-⎢⎥⎢⎥-⎣⎦由信道矩阵可知,该信道为对称信道。

由信道容量定理,对于对称信道,当信源等概率分布时达到信道容量,且此时输出也等概率分布。

因此有{}[]()()max (;)max ()()log3(1)log(1)log p x p x C I X Y H Y H Y X p p p p ==-=+--+(4)11P ααδδ-⎡⎤=⎢⎥-⎣⎦ 此信道只有两个输入符号,分别设为0x 和1x ,并假设两个符号出现的概率分别为p 和(1-p )。

假设接收符号的概率分别为0q 和1q ,则有[][][]0111(1)(1)(1)1q q p p p p αααδδδαδδδ-⎡⎤=-=--+----⎢⎥-⎣⎦{}0011(;)()()log log (1,)(1)(1,)R I X Y H Y H Y X q q q q pH p H ααδδ==-=-+----- 01(;){(1)log (1)(1)log (1)}()()I X Y q q pH H αδαδαδαδαδ∂=---+--------∂-+ 01{(1)l o g }()()q H H q αδαδ=----+ 令(;)0I X Y p∂=∂可得01()()log 1q H H q δααδ-=-- 从而()()011H H q e q δααδ---=,令()()1H H e K δααδ---= 则有01K q K =+,111q K =+,(1)(1)(1)K K p K δαδ-+=---, 因此,在(1)(1)(1)K K p K δαδ-+=---时信道取得信道容量,将p ,q 0,q 1的值代入R 的表达式即可求出信道容量。

  1. 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
  2. 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
  3. 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。

第五章 纠错编码习题
1、已知一纠错码的三个码组为(001010)、(101101)、(010001)。

若用于检错,能检出几位错码?若用于纠错,能纠正几位错码?若纠检错结合,则能纠正几位错码同时检出几位错码?
2、设某(n ,k )线性分组码的生成矩阵为:
001011100101010110G ⎡⎤⎢⎥=⎢⎥⎢⎥⎣⎦
①试确定该(n ,k )码中的n 和k ;
②试求该码的典型监督矩阵H ;
③试写出该码的监督方程;
④试列出该码的所有码字;
⑤试列出该码的错误图样表;
⑥试确定该码的最小码距。

3、已知一种(7,3)循环码的全部码组为:
0000000 0101110 1001011 1100101
0010111 0111001 1011100 1110010
试求该码的生成多项式g (x )、典型生成矩阵G 和典型监督矩阵H ;
4、已知一个(3,1,4)卷积码编码器的输出和输入关系为:
11
21234
3134c b c b b b b c b b b ==⊕⊕⊕=⊕⊕
试画出该编码器的电路方框图和码树图。

当输入信息序列为10110时,试求出其输出码序列。

5、已知一个(2,1,2)卷积码编码器的输出和输入关系为
112
223c b b c b b =⊕=⊕
试画出该编码器的电路方框图、码树图、状态图和网格图。

6、简要叙述前向纠错(FEC )差错控制方法的原理和主要优缺点。

7、已知(7,3)循环码的生成矩阵为
101110001011100010111G ⎡⎤⎢⎥=⎢⎥⎢⎥⎣⎦
①试写出该码的生成多项式g (x )和监督矩阵H ;
②若输入信息码为011,试写出对应的循环码码组; ③该码能纠正几位错误?。

相关文档
最新文档