线性分组码(9,4)
信息理论与编码-期末试卷A及答案
题号 一 二 三 四 总分 统分人 题分 35 10 23 32 100得分 一、填空题（每空1分，共35分） 得分| |阅卷人|1、1948年，美国数学家 发表了题为“通信的数学理论”的长篇论文，从而创立了信息论。
信息论的基础理论是 ，它属于狭义信息论。
2、信号是 的载体，消息是 的载体。
3、某信源有五种符号}{,,,,a b c d e ，先验概率分别为5.0=a P ，25.0=b P ，125.0=c P ，0625.0==e d P P ，则符号“a ”的自信息量为 bit ，此信源的熵为 bit/符号。
4、某离散无记忆信源X ，其概率空间和重量空间分别为1234 0.50.250.1250.125X x x x x P ⎡⎤⎡⎤=⎢⎥⎢⎥⎣⎦⎣⎦和1234 0.5122X x x x x w ⎡⎤⎡⎤=⎢⎥⎢⎥⎣⎦⎣⎦，则其信源熵和加权熵分别为 和 。
5、信源的剩余度主要来自两个方面，一是 ，二是 。
6、平均互信息量与信息熵、联合熵的关系是 。
7、信道的输出仅与信道当前输入有关，而与过去输入无关的信道称为 信道。
8、马尔可夫信源需要满足两个条件：一、 ； 二、 。
9、若某信道矩阵为⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎣⎡0100010000001100，则该信道的信道容量C=__________。
10、根据是否允许失真，信源编码可分为 和 。
11、信源编码的概率匹配原则是：概率大的信源符号用 ，概率小的信源符号用 。
（填短码或长码）12、在现代通信系统中，信源编码主要用于解决信息传输中的 性，信道编码主要用于解决信息传输中的 性，保密密编码主要用于解决信息传输中的安全性。
13、差错控制的基本方式大致可以分为 、 和混合纠错。
14、某线性分组码的最小汉明距dmin=4，则该码最多能检测出 个随机错，最多能纠正 个随机错。
15、码字101111101、011111101、100111001之间的最小汉明距离为 。
线性分组码
系统码的校验矩阵和生成矩阵可以转换。
13
线性分组码的性质
线性分组码中任意两个码字的模2加仍为一个码字，这个性 质称为码的封闭性。 零矢量必须是任一线性分组码中的一个码字，称为零码字。 生成矩阵中各行都是一个码字，且生成矩阵的各行是线性 无关的（任意两行相加不为零）。任意码字C是生成矩阵中 各行的某一线性组合。 校验矩阵的各行应该是线性无关的，否则将得不到r个线性 无关的监督关系式，从而得不到r个独立的监督位。
23
汉明码
汉明码实际上是(2m-1, 2m-m-1)线性分组码，其校验行有m行，共有 n=2m-1列，任一列都不为零且两两互不相等，因此能纠正任何单 个错误。 汉明码的校验矩阵一般有两种构造方式： 一是校验矩阵的标准形式，即H=[PI] 式中P为m×(n-m)维矩阵，I为m×m维单位阵。按这种校验矩阵编 出的码是系统码。 二是校验矩阵的列是按二进制数的自然顺序从左到右排列的非零 列，例如，当n=7,k=4时，H中的第一列为[0 0 1]，第二列为[0 1 0]，…,第七列为[1 1 1]，按这种校验矩阵编出的码是非系统码。 发生单个错误时，伴随式是H中与错误位置对应的列，所以汉明码 伴随式二进制数的值就是错误位置的序号。
14
例题-由生成矩阵生成码字
由生成矩阵 所有码字为
m 000
1 0 0 1 1 1 0 G 0 1 0 0 1 1 1 0 0 1 1 1 0 1
生成的（7，3）码的
C 0000000
0 0 0 1 1 1 1
0 1 1 0 0 1 1
1 0 1 0 1 0 1
在校验方程的矩阵形式中，令
1 1 则校验方程可以写成 H 1 0
HCT=0 或CHT=0
线性分组编码
背景
在通信中，由于信息码元序列是一种随机序列，接收端无法预知码元的取值，也无法识别其中有无错码。所 以在发送端需要在信息码元序列中增加一些差错控制码元，它们称为监督码元（校验元）。这些监督码元和信息 码元之间有确定的关系。
在信息码元序列中加监督码元就称为差错控制编码，差错控制编码属于信道编码。
信息码元和监督码元之间有一种关系，关系不同，形成的码类型也不同。可分为两大类：分组码和卷积码。 其中，分组码是把信息码元序列以每k个码元分组，编码器将每个信息组按照一定规律产生r个多余的码元（称为 校验元），形成一个长为n=k+r的码字。
感谢观看
校验矩阵H
这也表示由G的行矢量所扩张成的k维子空间与H矩阵行矢量所扩张成的r维子空间是正交的。
G与H中只要有一个确定，另一个就是可以确定的。只要校验矩阵给订=定，校验码元和信息码元之间的关系 就完全确定了。
举例
下面是一个（7,3）线性分组码，有信息组(m2m1m0),信息组在码字的前部，即： 生成矩阵为 信息组和对应的码字由表3.1给出。 则其校验矩阵为
基本概念
当分组码的信息码元与监督码元之间的关系为线性关系时（用线性方程组），这种分组码就称为线性分组码。 包括汉明码和循环码。
对于长度为n的二进制线性分组码，它有种可能的码字，从中可以选择M=个码字（k<n）组成一种编码，其中 码字称为许用码字，其余码字称为禁用码字。这样，一个k比特信息可以映射到一个长度为n的码组中，该码字是 从M个码字构成的码字集合中选出来的，剩下的码字即可以对这个分组码进行检错或纠错。
在线性分组码中，两个码字对应位上数字不同的位数称为码字距离，简称距离，又称汉明距离。 编码中各个码字间距离的最小值称为最小码距d，最小码距是衡量码组检错和纠错能力的依据，其关系如下： （1）为了检测e个错码，则要求最小码距d>e+1; （2）为了纠正t个错码，则要求最小码距d>2t+1; （3）为了纠正t个错码，同时检测e个错码，则要求最小码距d>e+t+1,e>t。
信息理论与编码-期末试卷A及答案
一、填空题（每空1分，共35分） 1、1948年，美国数学家 发表了题为“通信的数学理论”的长篇论文，从而创立了信息论。
信息论的基础理论是 ，它属于狭义信息论。
2、信号是 的载体，消息是 的载体。
3、某信源有五种符号}{,,,,a b c d e ，先验概率分别为5.0=a P ，25.0=b P ，125.0=c P ，0625.0==e d P P ，则符号“a ”的自信息量为 bit ，此信源的熵为 bit/符号。
4、某离散无记忆信源X ，其概率空间和重量空间分别为1234 0.50.250.1250.125X x x x x P ⎡⎤⎡⎤=⎢⎥⎢⎥⎣⎦⎣⎦和12340.5122X x x x x w ⎡⎤⎡⎤=⎢⎥⎢⎥⎣⎦⎣⎦，则其信源熵和加权熵分别为 和 。
5、信源的剩余度主要来自两个方面，一是，二是 。
6、平均互信息量与信息熵、联合熵的关系是 。
7、信道的输出仅与信道当前输入有关，而与过去输入无关的信道称为 信道。
8、马尔可夫信源需要满足两个条件：一、 ； 二、。
9、若某信道矩阵为⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎣⎡010001000001100，则该信道的信道容量C=__________。
10、根据是否允许失真，信源编码可分为 和 。
12、在现代通信系统中，信源编码主要用于解决信息传输中的 性，信道编码主要用于解决信息传输中的 性，保密密编码主要用于解决信息传输中的安全性。
13、差错控制的基本方式大致可以分为 、 和混合纠错。
14、某线性分组码的最小汉明距dmin=4，则该码最多能检测出 个随机错，最多能纠正 个随机错。
15、码字101111101、011111101、100111001之间的最小汉明距离为 。
16、对于密码系统安全性的评价，通常分为 和 两种标准。
17、单密钥体制是指 。
18、现代数据加密体制主要分为 和 两种体制。
19、评价密码体制安全性有不同的途径，包括无条件安全性、 和 。
数字通信基本与应用(第二版)课后答案解析6章答案解析
习题6.1 设计能检测分组中所有1、3、5、7位错误图样的（n ，k ）奇偶校验码。
求出n 和k 的值。
如果信道码元错误概率是10-2，试求不能检测分组错误的概率。
解：()()7,8,=k n()()()826446288168148128p p p p p p p P nd ⎪⎪⎭⎫ ⎝⎛+-⎪⎪⎭⎫ ⎝⎛+-⎪⎪⎭⎫ ⎝⎛+-⎪⎪⎭⎫ ⎝⎛= ()()()()()()()38242624242622210*6.210101102810110701011028--------=+-+-+-=nd p6.2 计算将12位数据序列编码为（24，12）线性分组码后的错误概率。
假定码本能够纠正所有的1位、2位错误图样，而不能纠正所有2位以上的错误图样。
同时，假定信道码元错误概率为10-3。
解：()()()∑=----=-⎪⎪⎭⎫ ⎝⎛≅-⎪⎪⎭⎫ ⎝⎛=2436213332410*98.110110324124k k k M p p k P6.3 考虑一个能纠正3个错误的（127，92）线性分组码。
a ）如果信道码元错误概率为10-3，对于未编码的92位信息，其消息错误概率是多少？b ）如果信道码元错误概率为10-3，对于使用（127，92）分组编码的信息，其消息错误概率是多少。
解：（a ）()292310*8.81011--=--=v m P(b) ()()()∑=----=-⎪⎪⎭⎫ ⎝⎛≅-⎪⎪⎭⎫ ⎝⎛=1274612334312710*14.91011041271127k kk cmp p k P6.4 假定采用相关BPSK 解调，接收E b /N 0=10dB ，计算使用（24，12）纠双错线性分组码，编码前后消息差错概率性能的改善。
解：()()610210*05.4247.412147.410*222---==≅==⎪⎪⎭⎫ ⎝⎛=e e x Q Q NE Q P x o bM ππ ()512610*86.410*05.411--=--=vm P对于（24,12）编码，码率是21，由于ocN E 比obN E 小3dB ，所以数据速率是非编码速率的两倍01.57==dB N E oc()()16.301.5*22Q Q NE Q P o c c ==⎪⎪⎭⎫⎝⎛= 查表 B.1 得 0008.0=c P()()()213242430008.010008.0324124-⎪⎪⎭⎫ ⎝⎛≅-⎪⎪⎭⎫ ⎝⎛=-=∑k k k c mp p k P 610*02.1-≅c m P6.4710*02.110*86.465==--TIMPROVEMEN ERFORMANCEP6.5 考虑一个（24，12）线性分组码，它能纠正双错。
信息论与编码_第7章线性分组码
Information and Coding Theory
第7章 线性分组码
王永容 机械与电气工程学院 wangyr416@
1
线性分组码
线性分组码概念 线性分组码的生成矩阵 线性分组码的校验矩阵 线性分组码的最小汉明重量 线性分组码的译码 完备码 汉明码
2
线性分组码概念 (n, k)线性分组码=“(n, k)分组”+“线性” 2元 (n, k)分组码 f : S=(F2)k C (F2)n m=(m2,…,mk)c=(c1c2,…,cn) C是(F2)n的一个k维线性子空间！
系统生成矩阵 1 0 0 1 1 1 Gs 0 1 0 1 1 0 I | P 0 0 1 0 1 1
校验矩阵 1 1 0 1 0 0 H P T | I 1 1 1 0 1 0 . 1 0 1 0 0 1
1 1 1 0 1 1 [000]. 0 0 1 0 0 1
17
线性分组码的校验矩阵
例7-2（续2）：求对偶码C
1 1 0 1 0 0 对偶码的生成矩阵=校验矩阵H 1 1 1 0 1 0 . 1 0 1 0 0 1
c mH , c1 m1 m2 m3 c m m 1 2 2 c3 m2 m3 c4 m1 c5 m2 c6 m3
f
F2n S=F2k
C
4
线性分组码
线性分组码概念 线性分组码的生成矩阵 线性分组码的校验矩阵 线性分组码的最小汉明重量 线性分组码的译码 完备码 汉明码
5
线性分组码的生成矩阵
生成矩阵 C是F2n的一个k维线性子空间，设{g1,g2,…, gk}是C的一个基
信息论与编码题库
信息论与编码题库信息论与编码模拟题⼀、填空题1、已知 8 个码组为（000000）、（001110）、（010101）、（011011）、（100011）、（101101）、（110110）、（111000）。
则该码组的最⼩码距是 3 ，若只⽤于检错可检测 2 位错码，若只⽤于纠错可纠正 1 位错码。
2、同时掷两个正常的骰⼦，也就是各⾯呈现的概率都是 1/6，则“两个 1 同时出现”这⼀事件的⾃信息量为 5.17 ⽐特。
3、已知信源的各个符号分别为字母A ，B ，C ，D ，现⽤四进制码元表⽰，每个码元的宽度为10ms ，如果每个符号出现的概率分别为1/5，1/4，1/4，3/10，则信源熵H （x ）为 1.985 ⽐特/符号，在⽆扰离散信道上的平均信息传输速率为 198 bit/s 。
4．1948 年，美国数学家⾹农发表了题为“通信的数学理论”的长篇论⽂，从⽽创⽴了信息论。
5．对离散⽆记忆信源来说，当信源呈____________分布情况下，信源熵取最⼤值。
6、对于某离散信道，具有3 x 5的转移矩阵，矩阵每⾏有且仅有⼀⾮零元素，则该信道噪声熵为；最⼤信息传输率为。
7、⼆元删除信道BEC(0.01)的信道转移矩阵为，信道容量为；信道矩阵为100001010001010??的DMC 的信道容量为。
8．数据处理定理：当消息经过多级处理后，随着处理器数⽬的增多，输⼊消息与输出消息之间的平均互信息量趋于变⼩。
9.(7,3)码监督矩阵有 4 ⾏,⽣成矩阵有 3 ⾏。
10.对线性分组码,若要求它能纠正3个随机差错,则它的最⼩码重为 7 ,若要求它能在纠错2位的同时检错3位,则它的最⼩码重为 8。
11．汉明码是⼀种线性分组码，其最⼩码距为 3 。
12.信道编码的⽬的是提⾼数字信息传输的可靠性 ,其代价是降低了信息传输的有效性。
13.在通信系统中,纠检错的⼯作⽅式有反馈重发纠错、前向纠错、混合纠错等。
14.离散对称信道输⼊等概率时，输出为( 等概)分布。
线性分组码
C mG
G是一个k*n阶矩阵，称为(n,k)码的生成矩阵。
7
1 0 G 0
0 0 1 0 0 1
p11 p 21 p k1
p12 p 22 pk 2
p1( n k ) p 2( nk ) I P k pk ( nk )
n 1
u和v之间的距离表示2个码字对应位不同的数目。
如(7,3)码的两个码字：u=0011101
v=0100111
它们之间的距离d=4
4
码的最小距离的dmin ：在（n,k）线性码字集合中， 任意两个码字间的距离最小值，是衡量抗干扰能力的 重要参数，dmin越大，抗干扰能力越强。 码字的重量W：码字中非零码元符号的个数；在二元 线性码中，码字的重量是码字中含“1”的个数。 码的最小重量Wmin：线性分组码中，非零码字重量的 最小值，称为码的最小重量，表示为：
限， 性能界限，即码的译码错误概率的上、下 限。 对码距限而言，最重要的限是汉明限，普 洛特金限和吉尔伯特－瓦尔沙莫夫限，汉 明码和普洛特金限告诉我们，在给定码长n 和码的传输速率R=k/n下，最小距离可以达 到的最大值，故它们都是上限，而吉尔伯 特一瓦尔沙莫夫限给出了码的最小距离的 下限。
HC 0
T
T
r=n-k
H
阵是n列，(n-k)行的矩阵；
为了得到确定的码，r个监督方程必须是线性
无关的，即要求H阵的秩为r。
6
2. 生成矩阵G
把方程组写成矩阵的形式为
h11 h 21 h r1
h12 h1k h 22 h 2k h r2 h rk
m 信道编码
C
线性分组码
线性分组码一、原理：监督矩阵：线性分组码()k n ，中许用码组为k 2个。
定义线性分组码的加法为模二加法，乘法为二进制乘法。
即011=+、101=+、110=+、000=+；111=⨯、001=⨯、000=⨯、010=⨯。
且码组与码组的运算在各个相应比特位上符合上述二进制加法运算规则。
线性分组码具有如下性质()k n ，的性质：1. 封闭性。
任意两个码组的和还是许用的码组。
2. 码的最小距离等于非零码的最小码重。
对于码组长度为n 、信息码元为k 位、监督码元为k n r -=位的分组码，常记作()k n ，码，如果满足n r ≥-12，则有可能构造出纠正一位或一位以上错误的线性码。
下面我们通过（7，4）分组码的例子来说明如何具体构造这种线性码。
设分组码()k n ，中，4=k ，为能纠正一位误码，要求3≥r 。
取3=r ，则7=+=r k n 。
该例子中，信息组为()3456a a a a ,码字为()0123456a a a a a a a 。
用1S ，2S ，3S 的值与错码位置的对应关系可以规定为如表1所列。
由表中规定可知，当已知信息组时，按以下规则得到三个校验元，即：⎪⎩⎪⎨⎧⊕⊕⊕=⊕⊕⊕=⊕⊕⊕=034631356224561aa a a S a a a a S a a a a S （式1.1）表1 错码位置示意表。
在发送端编码时，信息位6a ，5a ，4a 和3a 的值决定于输入信号，因此它们是随机的。
监督位2a ，1a 和0a 应根据信息位的取值按监督关系来确定，即监督位应使上三式中1S ，2S 和3S 的值为零（表示编成的码组中应无错码）。
由上式经移项运算，解出监督位：⎪⎩⎪⎨⎧⊕⊕=⊕⊕=⊕⊕=346035614562aa a a a a a a a a a a （式1.2）给出信息位后，可直接按上式算出监督位，其结果见表2。
接收端收到每个码组后先按式(1.1)计算出1S ，2S 和3S ，再按表1判断错码情况。
信息理论与编码-期末试卷A及答案
一、填空题（每空1分，共35分）1、1948年，美国数学家 发表了题为“通信的数学理论”的长篇论文，从而创立了信息论。
信息论的基础理论是 ，它属于狭义信息论。
2、信号是 的载体，消息是 的载体。
3、某信源有五种符号}{,,,,a b c d e ，先验概率分别为5.0=a P ，25.0=b P ，125.0=c P ，0625.0==e d P P ，则符号“a ”的自信息量为 bit ，此信源的熵为 bit/符号。
4、某离散无记忆信源X ，其概率空间和重量空间分别为1234 0.50.250.1250.125X x x x x P ⎡⎤⎡⎤=⎢⎥⎢⎥⎣⎦⎣⎦和12340.5122X x x x x w ⎡⎤⎡⎤=⎢⎥⎢⎥⎣⎦⎣⎦，则其信源熵和加权熵分别为 和 。
5、信源的剩余度主要来自两个方面，一是 ，二是 。
6、平均互信息量与信息熵、联合熵的关系是 。
7、信道的输出仅与信道当前输入有关，而与过去输入无关的信道称为 信道。
8、马尔可夫信源需要满足两个条件：一、 ；二、 。
9、若某信道矩阵为⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎣⎡010001000001100，则该信道的信道容量C=__________。
10、根据是否允许失真，信源编码可分为 和 。
11、信源编码的概率匹配原则是：概率大的信源符号用 ，概率小的信源符号用 。
（填短码或长码）12、在现代通信系统中，信源编码主要用于解决信息传输中的 性，信道编码主要用于解决信息传输中的 性，保密密编码主要用于解决信息传输中的安全性。
13、差错控制的基本方式大致可以分为 、 和混合纠错。
14、某线性分组码的最小汉明距dmin=4，则该码最多能检测出 个随机错，最多能纠正 个随机错。
15、码字1、0、1之间的最小汉明距离为 。
16、对于密码系统安全性的评价，通常分为 和 两种标准。
17、单密钥体制是指 。
18、现代数据加密体制主要分为 和 两种体制。
信息论与编码理论基础(第六章)
§6.2 线性分组码
证明 （要证明，第一个码中任一个码字也是第二个码中的码 字；第二个码中任一个码字也是第一个码中的码字） 设在第一个码中，u是信息向量x的码字： u=xG； 则在第二个码中，u是信息向量xM-1的码字： u=xM-1MG= xM-1G’。 设在第二个码中，u是信息向量x的码字： u=xG’； 则在第一个码中，u是信息向量xM的码字： u=xMM-1G’= xMG。 证完。
命题5 命题 设一个D元(N, L)线性分组码的生成矩阵为G。设另一 个D元(N, L)线性分组码的生成矩阵为G’=MG，其中M是L 阶可逆方阵。则两个码的码字集合完全重合，只是信息向 量与码字的对应关系不同。 换句话说，如果把线性分组码的生成矩阵G做可逆行变换变成 另一个生成矩阵，则不改变码字集合，只改变信息向量与 码字的对应关系。
2011-3-23 16
§6.2 线性分组码
线性分组码的特例： 线性分组码的特例：系统码 定义(p178) D元(N, L)线性分组码的生成矩阵为 定义 G=[PL×(N-L), IL]， 其中IL是L阶单位阵， PL×(N-L)是(N-L)×L阶矩阵。则称此码 为系统码。此时信息向量(x1, x2, …, xL)的码字是 (u1, u2, …, uN)=(x1, x2, …, xL)G =((x1, x2, …, xL) PL×(N-L), x1, x2, …, xL)。 码字的后L位恰好是信息向量(x1, x2, …, xL)，称为码字的信 息位。称码字的前N-L位为码字的一致校验位。
1 1 0 0 1 1 1 0 = 0 +1+ 0 − 0 − 0 − 0 = 1 ≠ 0 0
2011-3-23
6
§6.1 分组码的概念
现代通信原理(罗新民)第十章+差错控制编码习题答案
第十章 差错控制编码图见附图：10 ①、19、2010-1 请说明随机信道、突发信道、混合信道各自的特点。
答：随机信道的特点是错码的出现是随机的。
且错码之间是统计独立的。
突发信道的特点是错码集中成串出现。
混合信道的特点是既存在随机错码又存在突发错码。
10-2 请说明差错控制方式的目的是什么？常用的差错控制方式有哪些？答：差错控制方式的目的是在数字通信过程中发现（检测）错误，并采取措施纠正，把差错限制在所允许的尽可能小的范围内。
常用的差错控制方式包括：ARQ 、反馈校验、FEC 、HEC 。
10-3请说明ARQ 方式有哪几种？答：停止等待ARQ 、连续ARQ 、选择重发ARQ 。
10-4 已知线性分组码的八个码字为：000000，001110，010101， 011011，100011，101101，110110，111000，求该码组的最小码距。
解：线性分组码的最小码距等于码的最小码重，故30=d。
10-5 上题给出的码组若用于检错，能检出几位错码？若用于纠错， 能纠几位错？若同时用于纠错，检错如何？ 答：1230+≥=d ，故可检出2个错。
11230+⨯≥=d ，故可纠正1个错。
11130++≥=d ，（1≥1）故纠检结合时可检1个错同时纠正1个错。
10-6 若两个重复码字0000，1111，纠检错能力如何？解：d=4,故可检出3个错，纠正1个错，可同时检出2个错、纠正1个错。
10-7 写出k=1，n=5时重复码的一致检验矩阵[H]及生成矩阵[G]，并 讨论它的纠、检错能力。
解：①n=5,k=1,r=4。
设码字为01234|c c c c c ,只取11111或00000，0123c c c c为监督码元。
则有⎪⎪⎩⎪⎪⎨⎧====4414243c c c c c c c c⇒⎪⎪⎩⎪⎪⎨⎧=⊕=⊕=⊕=⊕000040414243cc c c c c c c⇒⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎣⎡=⎥⎥⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎢⎢⎣⎡⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎣⎡00001|10000|10010|10100|110001234c c c c c故⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎣⎡=⨯1000110010101001100054H，[]111141==⨯TPQ。
樊昌信《通信原理》(第6版)(名校考研真题 差错控制编码)【圣才出品】
第11章 差错控制编码一、填空题1．码组（01001）的码重为（ ），它与码组（10011）之间的码距是（）。
[华中科技大学2002研]【答案】2；3。
【解析】在线性分组码中，通常把码组中所含“1”的数目定义为码组重量，称为汉明重量，简称码重。
把两个码组中对应位置上具有不同二进制码元的位数定义为码组距离，称为汉明距离，简称码距。
2．线性分组码（n ，k ），若要求它能纠正2个随机错误其最小码距为（ ）。
若要求它能纠正2个随机错误且能检测到4个随机错误则其量小码距为（ ）。
[华中科技大学2002研；北科2011研]【答案】5；7。
【解析】设码组间的最小码距为。
①若要发现e 个独立随机错误，则要满足min d min d ；②若要纠正t 个独立随机错误，则要满足，所以若纠正2min 1d e ≥+min d min 21d t ≥+个随机错误，则；③若要发现e （e>t ）个同时又纠正t 个独立随机错min 2215d =⨯+=误，则要满足，所以若能纠正2个随机错误且能检测到4个随机错误，min d min 1d t e ≥++则。
min 2417d =++=二、判断题模拟通信可以采用编码加密，从而实现保密通信。
（）[南邮2010研]【答案】×【解析】编码加密是对数字序列而言的，模拟信号无法进行编码加密。
三、选择题1．纠错码的编码效率越高引入的冗余越（），通常纠检错能力越（）。
[南邮2009研]A．少，低B．多，高C．多，低D．长，强【答案】A【解析】纠错码就是用n比特的码元代替k比特的码元（n>k），对于相同的k，编码效率k/n越大，则n越小，引入的冗余n-k越小，而纠检错能力取决于冗余，冗余度小纠检错能力越低。
2．纠错码的应用可以改善通信系统的误码性能，但是付出的代价是（）。
[南邮2010研]A．误码率B．信噪比C．效率D ．带宽【答案】D【解析】纠错码通过在发送信息码元序列中增加监督码元实现纠（检）错功能，这样做的结果使发送序列增长，冗余度增大。
第六章纠错编码4线性分组码资料
例3-1 基底及其性质
例3 -1 直角坐标系中的任何点都可以用一个二维矢量 (x, y)来表示，其中x, y R(实数域)，则可以认为：
两维空间是由两个矢量(1, 0)和(0,1) 作为基底张成的，空间的任意一矢量 可由这两个基底线性组合而成。 (x, y) x (1, 0) y (0,1) 两维空间是由两个矢量(-1, 0)和(0, -1)作为基底张成的， 空间的任意一矢量可由这两个基底线性组合而成。
码字与矢量、矢量空间
码字Ci是n个码元的有序排列，是n维n重矢量空间Vn 的元素之一，但是矢量空间Vn的元素不一定是码字。
例如：k位二进制信息有2k 种组合，如果将一个信息 组合对应成一个码字，那么总共有2k 个码字；而n重码 矢所在的n维n重矢量空重矢量不是码字。
信息编码理论
信道编码定理和方法
之 线性分组码
线性分组码
• 矢量空间与码空间 • 线性分组码编码 • 线性分组码伴随式与译码 • 码的纠检错能力与MDC码 • 完备码与汉明码 • 分组码的性能极限
矢量空间与码空间
分组码： 信息：I (i1,i2, ik ) - - - - k位信息 码字：C (c1,c2, cn ) - - - - n位码字
码字与矢量、矢量空间
为便于区分，码字Ci写作(ci0 , ci1, , ci(n1) )，将码字 的集合写作C，称为码集。码集C不一定能构成Vn的一个 子空间，线性分组码的码集C一定是Vn的一个子空间。
对于一般q进制(n, k)分组码，编码前有qk种信息组合， 属于q元域上k维k重矢量空间；编码后有qn种可能的码字 组合，属于q元域上n维n重矢量空间；通常qn qk
分组码编码任务
分组码的任务： 在q n种可能的组合中选择其中q k 个构成一个k维 n重子空间作为码空间。 确定由k维k重矢量空间 映射到 n维n重矢量空间的 映射方法。
信息论与编码期末考试题1
（一）一、判断题.1. 当随机变量X 和Y 相互独立时，条件熵)|(Y X H 等于信源熵)(X H . （ ）2. 由于构成同一空间的基底不是唯一的，所以不同的基底或生成矩阵有可能生成同一码集. （ ）3.一般情况下，用变长编码得到的平均码长比定长编码大得多. （ ）4. 只要信息传输率大于信道容量，总存在一种信道编译码，可以以所要求的任意小的误差概率实现可靠的通信. （ ）5. 各码字的长度符合克拉夫特不等式，是唯一可译码存在的充分和必要条件. （ ）6. 连续信源和离散信源的熵都具有非负性. （ ）7. 信源的消息通过信道传输后的误差或失真越大，信宿收到消息后对信源存在的不确 定性就越小，获得的信息量就越小.8. 汉明码是一种线性分组码. （ ） 9. 率失真函数的最小值是0. （ ） 10.必然事件和不可能事件的自信息量都是0. （ ） 二、填空题1、码的检、纠错能力取决于 .2、信源编码的目的是 ；信道编码的目的是 .3、把信息组原封不动地搬到码字前k 位的),(k n 码就叫做 .4、香农信息论中的三大极限定理是 、 、 .5、设信道的输入与输出随机序列分别为X 和Y ，则),(),(Y X NI Y X I N N =成立的 条件 .6、对于香农-费诺编码、原始香农-费诺编码和哈夫曼编码，编码方法惟一的是 .7、某二元信源01()1/21/2X P X ⎡⎤⎧⎫=⎨⎬⎢⎥⎣⎦⎩⎭，其失真矩阵00a D a ⎡⎤=⎢⎥⎣⎦，则该信源的max D = .三、计算题.1、某信源发送端有2种符号i x )2,1(=i ,a x p =)(1；接收端有3种符号i y )3,2,1(=j ，转移概率矩阵为1/21/201/21/41/4P ⎡⎤=⎢⎥⎣⎦.（1）计算接收端的平均不确定度()H Y ；（2） 计算由于噪声产生的不确定度(|)H Y X ； （3） 计算信道容量以与最佳入口分布.（二）一、填空题1、信源编码的主要目的是 ，信道编码的主要目的是 。
现代通信技术讲义第四章 差错控制编码
第四章 差错控制编码4．1概述 4．1．1基本概念1、差错控制编码原因：数字信号在传输，由于受到噪声的干扰，产生误码。
在很多通信场合，要求无误码传输。
如（1）两个计算机只的数据传输；（2）多址卫星通信中各站的站址编码信息； (3）各种遥控或武器控制的信息传输。
2、差错控制编码的基本思想差错控制编码在通信系统中也称为信道编码，意味为适应信道传输而进行的编码。
编码思想是对信息序列进行某种变化，使原来彼此独立、相关性极小的信息码元产生某种相关性。
使接收端利用这种规律性来检查或进而纠正信息码元在信道传输过程中所造成的差错。
3、差错类型1）随机差错：差错是相互独立、不相关的。
存在这种差错的信道是无记忆信道或随机信道，如卫星通信，错误比较分散。
2）突发差错：差错成串出现，错误与错误之间有相关性。
即一个错误往往要影响到后面的一串码字。
如短波和散射信道产生的差错，错误比较集中。
4、错误图样若发送数字序列S 为： 1 1 1 1 1 1 1 1 1 1 接收数字序列R 为： 1 0 0 1 0 0 1 1 1 1 则错误图样定义为 E=S ⊕R ，⊕为逻辑加，或异 此时错误图样E 为： 0 1 1 0 1 1 0 0 0 0 显然，知道错误图样E ，就可以确定它属于那类错误。
定义：错误密度M=错误之间的总码元数第一个错误至最后一个错误之间的误码数第一个错误至最后一个规定M=4/5时，表明为突发性差错。
在编码技术中，码的设计与错误性质有关。
因为纠随机错误的码很有效时，往往对纠突发差错的效果不佳。
反之亦然。
而事实上，而者往往是同时存在的。
设计时以一种为主，最好二者兼顾。
4．1．2差错控制方式1、前向纠错方式（FEC ）特点：（1）收端能发现差错，且能纠错。
（2）译码实时性好，但是译码设备较复杂。
应用：一个用户对多个用户的同时通信。
如：移动通信特别适合。
2、自动请求重传方式（ARQ）特点：（1）收端只能检错，不能纠错（2）收端发现错误，控制发端重新发送，直至正确（3）译码实时性茶，但是译码设备简单。
9.4 线性分组码
1 1 0
1 0 1
0 1 1
a 6
a 5
a4
a 3
2020/4/14
海南大学 信息学院
Return Back Next
9.4 线性分组码
或
1 1 1
a 2
a 1
a 0
a 6
aa
5
4
a 1
3 1
1 0
0 1
a 6
a 5
a 4
a 3
Q
0 1 1
Q PT k r阶
给定信息位后，用信息位的行矩阵乘矩阵Q 就产生出监督位。
Return Back Next
9.4 线性分组码
简记为 HAT 0T 或 AH T 0
H称为监督矩阵，H确定，则编码时监督位 和信息位的关系就完全确定了。
P为r × k 阶、Ir 为 r × r 阶单位方阵，具
有[ P Ir ]形式的H矩阵称为典型阵。
a2 1
还可以写成：
a1
=
1
a0 1
由典型生成矩阵得出的码组A中，信息位不
变，监督位附加其后，这种码称为系统码。
2020/4/14
海南大学 信息学院
Return Back Next
9.4 线性分组码
5、错误图样与校正子之间的关系
发送码组A在传输过程中可能发生误码，设接
收到的码组为B =[ bn-1 bn-2 … b0]
则
B–A=E
E= [ en-1 en-2 … e0] 错码行矩阵 — 错误图样
S3 B3H T 0 1 1 B3错
（2） ∵ S EH T S2为H 的第1列
∴ E = [1 0 0 0 0 0] 第1位错
线性分组码
m5+m4 m6+m5 m6+m5+m4 m6+m4
D0
D1
+
D2
+
D3
+
0 1 2 3 4 5 6 7 8 9 10 11 12 13
m6 m5m6
设信息组m = (m6m5m4) c6=m6 c5=m5 c4=m4 c3=m6+m4=c6+c4 c2=m6+m5+m4=c6+c5+c4 c1=m6+m5=c6+c5 c0=m5+m4=c5+c4
例： 已知[7，3]码（p52, 例3.1)
101 |1000
H=
111 |0100 110 |0010
011 |0001
c=(c6c5c4c3c2c1c0) 由HcT=0T得 c3=c6+c4 c2=c6+c5+c4 c1=c6+c5 c0=c5+c4
1110 P= -QT= 0 1 1 1
1101
cn-k-1= h1,n-1cn-1+h1,n-2cn-2+…+h1,n-kcn-1 cn-k-2= h2,n-1cn-1+h2,n-2cn-2+…+h2,n-kcn-1
..........
c0= hn-k,n-1cn-1+hn-k,n-2cn-2+…+hn-k,n-kcn-1
h1,n-1 h1,n-2 … h1,n-k 10 … 0 h2,n-1 h2,n-2 … h2,n-k 01… 0
..........
hn-k,n-1hn-k,n-2 … hn-k,n-k00…1
09-线性分组码
最小距离与最小重量的关系：线性分组码的最小距 离等于它的最小重量。
2013/8/1
电信学院 汪汉新
29/58
最小距离与纠错能力：(n,k) 线性码能纠 t 个 错误的充要条件是码的最小距离为
2013/8/1
电信学院 汪汉新
30/58
上式表明：如果接收码字 R 中错误个数 t’≤t，那么接收码字 R 和发送码字 V 间距离≤t ，而与其它任何码字间距离都大于 t，按最小距离译码把R译为V。此时译码正确，码字中的错误 被纠正。
2013/8/1
电信学院 汪汉新
8/58
信息码组 (101)，即C6=1, C5=0, C4=1 由线性方程组得： C3=0, C2=0, C1=1, C0=1 即信息码组 (101) 编出的码字为 (1010011)。 其它7个码字如表。 (7,3)分组码编码表 信息组 对应码字
000 001 010 0000000 0011101 0100111 0111010 1001110 1010011 1101001 1110100
电信学院 汪汉新
14/58
H 的标准形式还说明了相应的监督元是由哪些信息元 决定的。例如 (7,3) 码的H 阵的第一行为 (1011000)，
说明此码的第一个监督元等于第一个和第三个信息元 的模2和，依此类推。
H 阵的 r 行代表了 r 个监督方程，也表示由H 所确定
的码字有 r 个监督元。 为了得到确定的码，r 个监督方程（或H 阵的r 行）必 须是线性独立的，这要求H 阵的秩为 r。
(C6,C5,C4,C3,C2,C1,C0)
C6,C5,C4为信息元，C3,C2,C1,C0为监督元，每个码元取“0”或 “1”
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
*******************实践教学*******************兰州理工大学计算机与通信学院计算机通信课程设计题目：线性分组码(9，4)码的编译码仿真设计专业班级：姓名：学号：指导教师：成绩：目录前言 (1)第一章线性分组码原理 (2)1.1差错控制概述 (2)1.2差错控制原理 (2)1.3线性分组码概念 (3)1.4线性分组码的基本原理 (3)第二章线性分组码的编码 (5)2.1生成矩阵 (5)2.2校验矩阵 (7)第三章线性分组码的译码 (9)3.1纠错码的介绍 (9)3.2纠错的原理 (9)3.3线性分组码译码原理 (10)第四章推导过程 (12)4.1编码过程 (12)4.2译码过程 (12)第五章仿真结果分析 (16)5.1编码程序流程图 (16)5.2译码程序流程图 (17)5.3运行结果分析 (18)设计总结.................................................................................................................. 错误!未定义书签。
致谢 (21)参考文献 (23)附录 (24)前言计算机通信是一种以数据通信形式出现，在计算机与计算机之间，计算机与终端设备之间进行信息传递的方式。
它是现代计算机技术与通信技术相结合的产物，在军队指挥自动化系统、武器控制系统、信息处理系统、决策分析系统、情报检索系统以及办公自动化系统等领域得到了广泛应用。
按通信覆盖地域的广度，计算机通信通常分为局域网、城域网、广域网三类。
在通常情况下，计算机通信都是由多台计算机通过通信线路连接成计算机通信网进行的，这样可共享网络资源，充分发挥计算机系统的效能。
近年来，随着计算机、卫星通信及高速数据网的飞速发展，数据的交换、数据的交换理和存储技术得到了广泛的应用，人们对数据传输和存储系统的可靠性提出了越来越高的要求。
因此，如何控制差错、提高数据传输和存储的可靠性，成为现代数字通信系统设计的重要课题。
目前，绝大多数的数字计算机和数字通信系统中广泛采用二进制形式的码。
而线性分组码具有编译码简单，封闭性好等特点，通常它用于前向纠错。
在分组码中，监督位被加到信息位之后，形成新的码。
在编码时，k个信息位被编为n位码组长度，而n-k个监督位的作用就是实现检错与纠错。
这种码的编码效率比较高，因此得到了广泛的应用。
本课程设计主要是采用Matlab仿真实现线性分组码的编译码。
在加深理论知识的基础上，对Matlab仿真也有进一步的理解。
第一章线性分组码原理1.1 差错控制概述数字信号在传输过程中，由于受到干扰的影响，码元波形将变坏，接收端收到后可能发生错误判决，由乘性干扰引起的码间串扰，一般采用均衡的办法纠正。
加性干扰的影响一般从合理选择调制制度解调方法以及发送功率等方面考虑，使加性干扰不足以影响达到误码率要求。
在仍不能满足要求时，为减少错误、提高通信质量还采用检错、纠错技术，即差错控制措施。
差错控制的主要方法是将数据以某种形式编码。
差错控制的核心为：抗干扰编码，简称差错控制编码。
差错控制编码分为检错码、纠错码两大类。
它在码元间建立了某种数学约束关系，并且对特定的信道总存在某种纠错编码信号以实现最小的能量或最小的带宽或最小的时间代价获得最小的数据传输差错。
对于不同信道，采用不同类型的差错控制技术。
差错控制技术主要有：1) 检错重发：在发送码元序列中加入差错控制码元，接收端利用这些码元检测到有错码时，利用反向信道通知发送端，要求发送端重发，知道正确接收为止。
2) 前向纠错：前向纠错是利用接收端在发送码元序列中加入的差错控制码元，不但能够发现错码，还能够将错码恢复其正确值。
3) 反馈校验：不需要在发送序列中加入差错控制码元，接收端接收到的码元原封不动的转发会发送端。
在发送端将他和原发送码元逐一比较，若发现有不同，就认为接收端接受的序列有错码，发送端立即从发。
4) 检错删除：在接收端发现错码后，立即将其删除，不要求重发。
这种方法只适合在少数特定系统中，在那里发送码元有大量的多余度，删除部分接收码元不影响应用。
1.2 差错控制原理将信息码分组，并为每个信息组附加若干监督的编码，称为“分组码”。
在分组码中，监督码元仅监督本组码中的信息码元。
分组码一般用符号（n）、（k）表示，其中k是每组码二进制信息码元的数目。
n是码组的总位数，又称为码组的长度。
r=n-k为每个码组中的监督码元数目，或称监督位数目。
k位二进制数构成的码组集合为种不同的码组，若组都为有用码组，其中任意码组出现错误都将变成另一码组，则接收端无法检测识别哪一组出错。
若只取部分码组为有用码组，则在传输过程中如接收端接收到的码组为非许用码组即禁用码组时，则可知传输错误。
以3位二进制数构成的码组为例，它共有8种不同的可能组合，若将其全部用来表示天气，则可以表示8种不同天气，例如：000晴、001云、010阴、011雨、100雪、101霜、110雾、111雹。
其中任一码组在传输中若发生一个或多个错误，则将变成另一个信息码组。
这时接收端无法发现错误。
若在上述8种码组中秩序使用4种来传达天气，例如：000晴、011云、101阴、110雨。
这时，虽然只能传达4种不同的天气，但是接收端却可能发现码组中的一个错码。
如000错码一位，则接受码组将变成100或010或011.这三种码组都为禁用码组，故接收端认为接收码错误。
要想能够纠正错误，需增加冗余度。
1.3 线性分组码概念在计算机系统中，信息均按字节或字组成，故一般采用分组码。
对信源输出的序列，若按每组长k位进行分组，则在二进制情况下共有个不同的组合，若按某一种规则，将每一组k位增加r位校验位（r=n-k，n是含有码元的个数）。
使之成为具有一定纠错或检错能力的码字，则在个码字集合构成分组码。
分组码的规律性是局限在一个码组之内的，如果这种规律性是以一线性方程组来表示的，则这种分组码就叫做线性分组码。
1.4 线性分组码的基本原理分组码是一组固定长度的码组，一般可用符号（n,k）表示，其中k是每组的信息元数目，n是码组的总位数，又称为码组的长度（码长）。
r=n-k 为码组的监督元数目。
长为n的所有二进制组（或称n重）共有个，但长为k的信息组只有个，因此分组码实际上就是以一定的规则从个n重中挑选出个n重，使个信息组与个n重之间建立一一对应关系，这个n重组成了一个（n,k）分组码。
通常称这个n重为许用码组，简称码组，码矢或码字，而其余的-个n重为禁用码组。
在（n,k）线性分组码中，常用编码效率R衡量码的有效性，它定义为信息位在码字中所占的比重：R=k/n。
R越大，表明码的冗余度越小。
第二章线性分组码的编码2.1 生成矩阵性分组码（n，k）中许用码字（组）为个。
定义线性分组码的加法为模二加法，乘法为二进制乘法。
即1+1=0、1+0=1、0+1=1、0+0=0；1×1=1、1×0=0、0×0=0、0×1=0。
且码字与码字的运算在各个相应比特位上符合上述二进制加法运算规则。
线性分组码具有如下性质（n，k）的性质：1、封闭性。
任意两个码组的和还是许用的码组。
2、码的最小距离等于非零码的最小码重。
对于码组长度为n、信息码元为k位、监督码元为r＝n－k位的分组码，常记作（n，k）码，如果满足2r－1≥n，则有可能构造出纠正一位或一位以上错误的线性码。
下面我们通过（9，4）分组码的例子来说明如何具体构造这种线性码。
设分组码（n，k）中，k = 4，为能纠正一位误码，要求r≥5。
现取r＝5，则n＝k＋r＝9。
该例子中，信息组为(),码字为().当已知信息组时，按以下规则得到五个校验元，即（2.1）（9，4）线性分组码有42个许用码字或合法码字，另有92-42个禁用码字。
发送方发送的是许用码字，若接收方收到的是禁用码字，则说明传输中发生了错误。
为了深化对线性分组码的理论分析，可将其与线性空间联系起来。
由于每个码字都是一个二进制的n重，及二进制n维线性空间Vn中的一个矢量，因此码字又称为码矢。
线性分组码的一个重要参数是码率r=k/n,它说明在一个码字中信息位所占的比重，r 越大，说明信息位所占比重越大，码的传输信息的有效性越高。
由于(n,k)线性分组，线性分组码的2个码字组成了n 维线性空间Vn 的一个K 维子空间。
因此这个码字完全可由k 个线性无关的矢量所组成。
设此k 个矢量为, ,,有生成矩阵形式为（2.2）(n,k)码字中的任一码字,均可由这组基底的线性组合生成，即i C =[12n n n C C C --K n k C -]·G （2.3）式中，[12n n n C C C --K n k C -]是k 个信息元组成的信息组。
写出线性分组码（9,4）码的所有信息组，由式（2.1）可得到生成的所有码字，如下表2-1所示：表2-1线性分组码（9，4）码对于表2-1给出的线性分组码（9，4）码，可将写成矩阵形式[]=[] （2.4）故（9，4）码的生成矩阵为（2.5）可以看到，从（9，4）码的16个码字中，挑选出k=4个线性无关的码字（100011100）（010011011），（001010110），（000101111）作为码的一组基底，用C=m·G计算得码字。
一个系统码的生成矩阵G，其左边k行k列应是一个k阶单位方阵，因此生成矩阵G表示为G=[ P] （2.6）式中，P是一个k×(n-k)阶矩阵。
2.2 校验矩阵表2-1所示的（9，4）线性分组码的四个校验元由式（2.1）所示的线性方程组决定的。
把式（2.1）移相，（2.7）上式的矩阵形式为=0 （2.8）这里的五行九列矩阵称为（9，4）码的一致校验矩阵，用H表示，即（2.9）由H矩阵得到(n,k)线性分组码的每一码字,(i=1,2),都必须满足由H矩阵各行所确定的线性方程组，即·=0。
（9，4）码的生成矩阵G中每一行及其线性组合都是（n,k）码的码字，所以有G·=0。
由G和H构成的行生成的空间互为零空间，即G和H彼此正交。
H=[]其右边r行r列组成一个单位方阵。
第三章线性分组码的译码3.1 纠错码的介绍纠错码(error correcting code)，在传输过程中发生错误后能在收端自行发现或纠正的码。
仅用来发现错误的码一般常称为检错码。
关系的建立称为编码。
码字到达收端后，可以根据编码规则是否满足以判定有无错误。
当不能满足时，按一定规则确定错误所在位置并予以纠正。
纠错并恢复原码字的过程称为译码。
检错码与其他手段结合使用，可以纠错。
纠错编码又称信道编码，信源编码是信息传输的两个方面。