2013-2014第二学期编码理论
编码理论第一章
编码理论——绪论
14
译码就是把编码器输出的编码信号进行反变换。一般认为 这种变换是可逆的。译码器也可分成信源译码器和信道译码 器及保密译码器三种。信宿是消息传送的对象，即接收消息 的人或机器。图1-1给出的模型只适用于收发两端单向通信的 情况。它只有一个信源和一个信宿，信息传输也是单向的。 更一般的情况是：信源和信宿各有若干个，即信道有多个输 入和多个输出，另外信息传输也可以双向进行，例如广播通 信是一个输入、多个输出的单向传输的通信，而卫星通信则 是多个输入、多个输出的多向传输的通信。
率失真信源编码理论是信源编码的核心问题是编码理论绪论20随着数学理论如小波变换分形几何理论数学形态学等以及相关学科如模式识别人工智能神经网络感知生理心理学等的深入发展世界范围内的有关专家一直在追求寻找现有压缩编码的快速算法同时又在不断探索新的科学技术在压缩编码上的应用因此新颖高效的现代压缩方法相继产生
编码理论——绪论
11
存在着各种天然和人为干扰使被传信号产生错误。除此以 外，非指定用户或敌人还会通过各种方法(如搭线、电磁波接 收、声音接收等)对所传输的信号进行侦听(称被动攻击)。更 有甚者，有些非法入侵者主动对系统进行骚扰，采用删除、 更改、增添、重放、伪造等手段，向系统注入信号或破坏被 传的信号，以达到欺骗别人，有利于自己的目的，这种攻击 称为主动攻击。因此,保护系统中所传消息的真实性、完整性， 是一个更为困难的问题，也是密码系统所必须完成的另一个 更为艰巨的任务。
编码理论——绪论
21
用SOFM算法所生成的码本就很少依赖于初始码本，且生成 的码本的拓扑结构能用来进一步提高编码效率和降低计算复 杂度。然而，现有的一些用于编码的神经网络模型都是在模 拟人脑功能的思想下建立的，没有考虑信源的特点和肉眼的 视觉机理，因此压缩效果不太理想。从理论上讲，神经网络 可以模拟肉眼的信息处理过程。这种模拟不限于网络结构方 面，还包括网络的学习机制；但大多数神经网络的学习算法 中，使用的只是均方误差或P阶矩误差失真准则，也没有考虑 人类视觉系统的特性。
编码理论第5章
000 001 010 100 011 110
乘法运算：
011 110 3 4 1 001
101 111 6 5 4 110
因为本原元a=x，所以p(a)=0
111
101
3 1 x 1 x 1 0
α 010
举例
x7-1=(x-1)[(x-z)(x-z2)(x-z2-z)][(x-z-1)(x-z2-1)(x-z2-z1)] 在扩域GF(23)上，可得到x3+x+1=(x-z)(x-z2)(x-z2z), x3+x2+1=(x-z-1)(x-z2-1)(x-z2-z-1) 计算(x-z)(x-z2)(x-z2-z)=(x2-z2x-zx+z3)(x-z2-z)=x3z2x2-zx2-z2x2+z4x+z3x-zx2+z3x+z2x+z3x-z5z4=x3+(z4+z3+z2)x-(z5+z4), 由于在GF(23)上, z3=z+1, 所以z4+z3+z2=z3z+z3+z2=(z+1)z+(z+1) +z2=1, z5+z4=z3(z2+z)=(z+1)z(z+1)=z(z+1)2=z(z2+1)=z3+z=z +1+z=1，故得到(x-z)(x-z2)(x-z2-z)= x3+x+1 同理可以计算x3+x2+1=(x-z-1)(x-z2-1)(x-z2-z-1)
BCH码限定理
编码理论
第八章 优化方法
8.1 密度进化方法 8.2 基于EXIT图的优化方法
第九章 保密通信
第一章 序论
编码理论的内容包括三个方面
以保证数字信息传输和处理的可靠性为目的的差错控制编 码（error-control coding），又称为信道编码（channel coding）； 以提高数字信息传输、存储处理的有效性为宗旨的信源编 码（Source coding）； 以增加数字信息传输、存储的安全性为目标的数据加密编 码（data encryption）；
虽然分组码在理论分析和数学描述方面已经非常成熟，并且在实
际的通信系统中也已经得到了广泛的应用，但分组码固有的缺陷
因此，在译码过程中必须等待整个码字全部接收到之后才能开始
大大限制了它的进一步发展。首先，由于分组码是面向数据块的，
进行译码。在数据块长度较大时，引入的系统延时是非常大的。
分组码的第二个缺陷是它要求精确的帧同步，即需要对接收码字 或帧的起始符号时间和相位精确同步。另外，大多数基于代数的 分组码的译码算法都是硬判决算法，而不是对解调器输出未量化 信息的软译码，从而造成了一定程度的增益损失。
卷积码的译码通常有如下几个比较流行的译码算法：
由Wozencraft和Reiffen在1961年提出，Fano和 Jelinek分别在1963年和1969年进行改进了的序 贯译码算法。该算法是基于码字树图结构的一种 次优概率译码算法。 由Massey在1963年提出的门限译码算法。这个 算法利用码字的代数结构进行代数译码。
课程内容（续）
第六章 编织码
6.1 编织码编码基本原理 6.2 编织码的译码 6.3 编织卷积码的活性距离特性 6.4 基于删余技术的编织码 6.5 编织码的因子图与和积算法分析
编码理论简介
课堂练习1
• 设x1, x2, …, xn是任意一组正实数，p1, p2, …, pn是任 意一组和为1的非负实数，试问下面的不等式哪一
个正确，请证明pi=1/n的情况：
n
n
(1) pilogxi log( pixi)
i1
i1
n
n
(2) pilogxi log( pixi)
i1
i1
• 证明
i 1j 1
p (u k)p (v j/u k)
k 1
• 设D为允许失真度，对给定信源分布P(U) ，如果把信
道矩阵P(V|U)限定在允许失真信道集合BD内选取，那
么 I(U;V)所能逼近的最小值就是率失真函数:
R(D )m in{I(U ;V)} P(V|U) BD
15
限失真信源编码定理
• 香农第三定理：在信息传输率R>R(D) 时，只 要有足够的码长，则必然存在一种编码方法， 使译码平均失真可以任意接近允许失真D。
18
信道编码理论的研究
• 1948年，香农信道编码定理 • 1952年费诺(R.M.Fano)证明费诺不等式和香农
信道编码逆定理 • 1957年沃尔夫维兹证明信道编码强逆定理 • 1961年费诺描述分组码中码率、码长和错误率
的关系，并证明了香农信道编码定理的充要性 • 1965年格拉格尔(R.G.Gallager)发展并简洁地
• 其中R(D)是率失真函数，也就是最佳编码率
16
现代信源编码方法的研究
• 寻找现有压缩编码的快速算法 • 寻找新颖高效的现代压缩方法，比如： • 分形编码、小波编码 • 神经网络编码，DPCM编码 • 模型编码（Model Based Coding）
2013-2014第二学期编码理论
南 京 师 范 大 学 2013 级硕士研究生 2013 —2014 学年第 二 学期 《编码理论基础》 课程试卷
注：1、本卷考试形式为闭卷，考试时间为 2 小时。
2、考生不得将装订成册的试卷拆散，不得将试卷或答题卡带出考场。
3、可以使用计算器 专业
姓名
学号□□
□□□□
□
□
□
<编码理论> 1 一、（12分）设F 是域K 的一个子域， 证明：F 与K 有相同的特征。
二、（12分）设q F 为一个含有q 个元素的有限域，并且q F 的特征不等
于2.证明：q F 中所有元素之和一定为零。
三、（12分）试求出有限域7F 的所有本原元。
四、（12分）证明：多项式2()1p x x =+和2()4q x x x =++在有限域11F 上
都是不可约的，试问：有限域11[]/()F x p x 〈〉和11[]/()F x q x 〈〉同构吗？为什么？
五、（12分）设12n α,α,⋅⋅⋅,α是多项式1n x -在有限域q F 上的n 个根，证
明：对于任意1k n ≤<，有120k k k n α+α+⋅⋅⋅+α=。
六、（20分）设q F 为一个含有q 个元素的有限域，设r 和n 是两个正整数，r n ≤。
试求q F 上的秩为r 的r n ⨯阶矩阵的个数。
进一步，试求出q F 上的n 阶可逆矩阵的个数。
七、（20分） 设
1336040251262045A ⎛⎫ ⎪ ⎪= ⎪ ⎪⎝⎭ ， 0014b ⎛⎫ ⎪ ⎪= ⎪ ⎪⎝⎭
试求出七元域GF(7)上的非齐次线性方程组T Ax b =的解。
编码理论2(参考答案)
1概念题（30分，每题6分）1.1设C是一个线性分组码，他的生成矩阵G=P I k，I k是一个k X n阶矩阵。
请问：○1码C中含有多少个非零码字？○2码C的校验矩阵是什么？○3校验矩阵的秩与码字最小汉明码之间有什么关系？解：○12k−1个非零码字○2校验矩阵是H=(I n+k|P T)○3d≤R+11.2请分别用生成矩阵和校验矩阵的语言来描述一个向量C=(C1,C2,…,C n)是码字的充要条件。
解：C=M∙GH∙C T=0T或者 C∙H T=01.3伴随式是如何定义的？伴随式为零是否一定无传输错误,为什么？解：设C是一个q元[n, k]线性码，其校验矩阵为H。
对任意y∈V(n,q)，称yH T为y的伴随，记为S(y)。
1.4请描述利用标准阵的伴随式译码方法的主要步骤。
解：1）计算接收矢量y的伴随式S(y)2）在伴随列表中找到S(y)所对应的陪集代表元a。
3）将y译为码字y-a。
1.5伴随式译码、最小距离译码、和最大似然译码三者彼此之间有什么关系？2计算题（30分，每题10分）2.1设C使一个（n, k）线性码。
用A0和A e分别表示码C中汉明重量为奇数和偶数的码字个数。
假设已知A0>0。
请计算A0和A e的值。
解：A0=A e=2k−12.2设某个通信系统中使用的是以H=10001000110111101111为校验矩阵的汉明码。
如果在接收端收到的向量是r=(1001010)，并且假定传输错误个数不超过1个。
请计算出译码后的正确码字。
解：10010112.3设C1是(n1,k1,d1)线性码，C2是(n2,k2,d2)线性码，它们的生成矩阵分别为G1=P1I k和G2=P2I k。
假定C是以H=I n1+n2−k ⋮P1T I k P2T为校验矩阵的线性码。
请问码C的码长=？，信息位=？，码间最小距离=？解：请问码C的码长=n1+n2，信息位=k，码间最小距离=d1+d2…….3 证明题（40分）3.1（20分）请证明循环码中次数最低的非零码字多项式是唯一的。
编码理论第八章
h1n h2n = (h1 , h2 ,, hn ) h(nk )n
其中， h1 , h2 ,, hn 是H矩阵的列向量。
编码理论——线性分组码
17
因此，
T T C i H T = ci1h 1 + ci 2 h T + + cin h n 2 也就是说，n个矢量 h T 一定是线性相关的。 j
2
维n重空间S的一个子空间。这个子空间是由k个基底张成的，记作 码空间C，它是一个k维n重空间。n维n重空间的另外n-k个基底则 张成一个n-k维的子空间，称为校验空间H。分组编码器的工作， k 就是要把k维k重的信息组空间的 2 个矢量一一对应到k维n重码空 间C。
编码理论——线性分组码
8
8.2
（2）矢量空间 由初等数学可知，平面上的二维矢量的全体构成一个二维的矢 量空间，空间的三维矢量全体构成三维矢量空间。推广可以得到一 n 般的n维矢量 VR 空间。 例如：实数域R上的n重数组全体{( a1 , a 2 , , a n ); ai 组成一线性空间。 GF(2)上的n重数组全体{( a1 , a 2 , , a n ); ai 间V n 。
0 1 0 0
0 0 1 0
0 0 0 1
1 1 1 0
0 1 1 1
1 1 0 1
（1）对于信息组(1 0 1 1 )，对应码字是什么？ （2）设计一个（7，4）分组编码器原理图。 （3）若接收到一个7位码r=（1 0 0 1 1 0 1），判断它是否是码字。
编码理论——线性分组码
13
解：（1）由生成矩阵可知，得到的一定是系统码。由 Ci = mG 得
对二进制分组码来说，g ij
g11 g1n G= g g kn k1
编码理论第1章绪论-课件
4．网络信息论
• 1961年 • 香农 • 发表“双路通信信道”论文 • 开拓了多用户信息理论的研究→多用户信息论→网
络信息论
14
5．保密编码
• 保密学——一门研究通信安全和保护信息资源的既 古老又年青的学科
包括：密码编码学、密码分析学 • 密码编码学——信息安全技术的核心 主要任务——对消息进行加密、认证 • 密码分析学——与密码编码学相反 主要任务——破译密码、伪造认证 • 两个分支——既相互对立又相互依存
1977年，齐弗(J．Ziv)和兰佩尔(A．Lempel)提出了 LZ算法——一种通用编码方法
10
2．限失真信源编码
• 1959年，香农发表“保真度准则下的离散信源编码 定理”——Coding theorems for a discrete source at the fidelity criterion
度～信源统计特性相匹配
9
1．无失真信源编码(续)
• 无失真信源编码的方法 1948年，香农提出香农编码 1952年，费诺(Fano)提出费诺编码 1952年，霍夫曼(D．A．Huffman)提出霍夫曼编码，
并证明它是最佳码——有限长度的分组码中，平均 码长最短
1982年，里斯桑内(J．Rissanen)在多年研究的基础 上，与兰登(G．G．Langdon)一起将算术码（非分 组码）实用化
些部分 • 信道噪声——通信系统各处干扰、噪声的集中等
效体现
6
2．通信系统模型(续)
(4)译码器——编码器功能之反 • 也分成信源译码器、信道译码器、保密译码器三种 (5)信宿——消息传送的归宿 [说明] ①对实际通信系统，还应包括换能、调制、发射等各
种变换处理 ②Байду номын сангаас述模型只针对一对一单向通信系统。还有一对多
编码理论第1章绪论(第2版)
1.2 信息编码的发展
1948年，香农在《通信的数学理论》的论文中，用 概率测度和数理统计的方法系统地讨论了通信的基本问 题，得出了几个重要而带有普遍意义的结论。香农理论 的核心是：在通信系统中采用适当的编码后能够实现高 效率和高可靠性的信息传输，并得出了信源编码定理和 信道编码定理。
• 1990 年，贝尔 (T ． C.Bell) 等在 LZ 算法基础上又做了一
系列变化和改进，现在LZ码已广泛应用于文本的数据 压缩中。
从率失真信源编码理论出发
• 1948 年，香农在其论文中已体现出了关于率失真函数 的思想。 • 1959 年他发表了“保真度准则下的离散信源编码定 理”，首先提出了率失真函数及率失真信源编码定理。
于分别发表文章讨论相关信源在多元接入信道的传输 问题。 • 近20多年来，这一领域研究活跃，使得网络信息论的 存在理论已日趋完善。
1.2.3 密码编码学的发展
随着人类进入信息时代，信息的传递、存储和交 换日益骤增。现代化的通信网、计算机信息网，以及 各种类型数据库和电子数据交换系统，特别是因特网 的迅速发展，使得信息的安全和保密问题与越来越多 的人密切相关。 保密学是一门研究通信安全和保护信息资源的既 古老而又年青的科学和技术，它包括密码编码学和密 码分析学两方面。
有效性高，就是经济效果好，即用尽可能短的时间 和尽可能少的设备来传送一定数量的信息。 注意：提高可靠性和提高有效性常常会发生矛盾， 需要统筹兼顾。例如为了兼顾有效性(考虑经济效 果)，有时就不一定要求绝对准确地在接收端再现 原来的消息，可以允许有一定的误差或一定的失真， 或者说允许近似地再现原来的消息。
数学百科小知识：编码理论-word文档
数学百科小知识：编码理论学期来了，已经过了很长时间。
请同学们愉快的度过整个学期生活。
查字典数学网初中频道为大家提供了数学百科小知识，供大家参考。
研究信息传输过程中信号编码规律的数学理论。
编码理论与信息论、数理统计、概率论、随机过程、线性代数、近世代数、数论、有限几何和组合分析等学科有密切关系，已成为应用数学的一个分支。
编码是指为了达到某种目的而对信号进行的一种变换。
其逆变换称为译码或解码。
根据编码的目的不同，编码理论有三个分支：①信源编码。
对信源输出的信号进行变换，包括连续信号的离散化，即将模拟信号通过采样和量化变成数字信号,以及对数据进行压缩,提高数字信号传输的有效性而进行的编码。
②信道编码。
对信源编码器输出的信号进行再变换，包括区分通路、适应信道条件和提高通信可靠性而进行的编码。
③保密编码。
对信道编码器输出的信号进行再变换，即为了使信息在传输过程中不易被人窃取而进行的编码。
编码理论在数字化遥测遥控系统、电气通信、数字通信、图像通信、卫星通信、深空通信、计算技术、数据处理、图像处理、自动控制、人工智能和模式识别等方面都有广泛的应用。
历史背景1843年美国著名画家S.F.B.莫尔斯精心设计出莫尔斯码，广泛应用在电报通信中。
莫尔斯码使用三种不同的符号：点、划和间隔，可看作是顺序三进制码。
根据编码理论可以证明，莫尔斯码与理论上可达到的极限只差15%。
但是直到20世纪30～40年代才开始形成编码理论。
1928年美国电信工程师H.奈奎斯特提出著名的采样定理，为连续信号离散化奠定了基础。
1948年美国应用数学家C.E.香农在《通信中的数学理论》一文中提出信息熵的概念，为信源编码奠定了理论基础。
1949年香农在《有噪声时的通信》一文中提出了信道容量的概念和信道编码定理，为信道编码奠定了理论基础。
无噪信道编码定理(又称香农第一定理)指出，码字的平均长度只能大于或等于信源的熵。
有噪信道编码定理(又称香农第二定理)则是编码存在定理。
编码理论第1章
分组码
编码器：将信息序列分为长度为K比特的消息段U=[u1,u2, …,uK],称为消息,分组进行编码,总共有2K个消息,将每 个消息U独立的变换成长度为N比特的码字的序列 V=[v1,v2, …,vN] (N, K)分组码：所有个2K码字的集合 码速率：比值R=K/N，可以理解为码字含有信息比特数 量，为使编码不冲突，R≤1 纠错机理：当R＜1时,码字比消息多了n-k个比特, 称为 校验位,可以抗干扰 无记忆：因为每个N长的码字V由相应的K长消息U唯一 确定 分组码可用组合逻辑电路来实现
基本概念
设计通信系统的关键问题之一：如何解决可靠性 和有效性(快速性)这对矛盾 可靠性和有效性是一对矛盾：如要求有效性，则 必然使每个数据符号所占的时间缩短、波形变窄、 能量减少，这样，受到干扰后，产生错误的可能 性就增加，传送消息的可靠性就降低；如要求可 靠，则使传送消息的速率变慢 纠错编码：主要用于实现信道纠错，又叫做信道 编码或者差错控制编码
模型各部分的功能
信道编码器：将信息序列U变换成离散的有结构 的编码序列X，这称为码字。即为了使传输有效， 人为的增加一些冗余度，使其具有自动检错和纠 错的能力。码字的结构主要用以对付传输或存储 码字的有扰信道，码字的设计和实现是本课程的 主题 调制器(或写入单元)：离散符号不适合于在实际 信道上传输或记录在数字存储媒质上。调制器将 信道编码器的每个输出的离散符号，通过调制变 成适合传输(或存储)的持续时间为T的波形，此 波型进入信道(或存储媒质)，并受噪声干扰
模型各部分的功能
典型的传输信道：有线信道、无线信道、电话线 路、高频无线线路、遥测线路、微波线路、卫星 线路、光纤信道、磁记录信道、大气光信道、水 声信道等 典型的存储煤质：磁芯和半导体存储器、磁带、 磁鼓、磁盘、光存储器、光盘等 典型的干扰：开关脉冲噪声、热噪声、串音、闪 电、磁涂层缺损、光盘划痕等
编码理论第十章
g 0 (1, n 0 )
g 1 (k 0 , n 0 )
g 1 (1, n 0 )
图5―9 (n0，k0，m0)非系统卷积码的串行编码电路
Cs ( j )
i 1
k0
u
t 1
m0
s t
(i ) gt (i, j ), j 1,2,, n0 (10―1)
11
编码理论——卷积码
下面介绍系统码形式的卷积码。 系统卷积码序列中的任一子码Cs，也有n0个码元，其 前k0位与待编码的信息序列中的第s信息组us(i)相同， 而后n0-k0位监督元由生成序列生成。由于每个码中的 前k0位就是此时刻待编码的k0位信息元，所以在生成序 列g(i,j)中有k0×k0个生成序列是固定的，即:
编码理论——卷积码
25
cs (1) g 0 (k 0 , 1) us g 0 (1, 1) g 1 (k 0 , 1) g 1 (1, 1) g m (k 0 , 1)
0
g m (1, 1)
0
g 0 (k 0 , 2)
g 0 (1, 2)
g 1 (k 0 , 2)
g 1 (1, 2)
g 0 (k 0 , n 0 )
P T 0 P0T I r 1 P 0
T 2
P 0
T 1
T P Ir 1
(10―13)
式中：Ｈ——(n0-k0)N×n0N阶矩阵。
编码理论——卷积码
24
10.3
卷积码的编译码
1.串行输入、串行输出的编码电路
构 造 这 种 编 码 电 路 的 基 础 是 式 (10―1) 和 式 (10―2)。根据式(10―1)构造的是非系统卷积码的编 码器，而由式(10―2)构造的则是系统卷积码的编码电 路。图5―9所示是(n0，k0，m0)非系统卷积码的串行编 码电路，图5―10所示是系统卷积码的串行编码电路。
编码理论第8章
第8章 线性分组码
• 8.1.3 检错及纠错能力 • 1．在一个码组内能检测e个错码，则要求最小码距： • d min ≥e＋1 (8-2) • 或者说，若一种编码的最小距离为 d min ，则它最多能检出 （ d min 一1）个错码。 • 2．一个码组内能纠正t个错码，则要求最小码距为： • d min ≥2t＋1 (8-3) • 或者说，若一种编码的最小码距为 d min ，则它最多能纠正 （ d min－1）/2个错码。 • 3．在一个码组内能纠正t个错码，同时能检测e(e>t)个错码， 则要求最小码距为： • d min ≥e＋t＋1 (e>t) (8-4) • 这里所述能纠正t个错码，同时能检测e个错码的含义，是指当错 码不超过t个时错码能自动予以纠正，而当错码超过t个时，则不 可能纠正错误，但仍可检测e个错码，这正是混合检错纠错的控 制方式。 • 4．纠正t个错误和P个删除，则要求最小码距为： d min ≥ 2t＋P＋1 • (8-5) • 这里所说的删除是指知道错误产生的位置，但不知错误值的大小。
• 8.1.4 线性分组码的性质 • (1)两个属于该码组的码字的和仍是一个属于该码组的码字； • (2)全零码字总是码组中一个码字； • (3)一个线性码组中两个码字之间的最小距离等于任何非零码字 的最小重量。 , , , • [例8-2]码组 C 0000101001011111 • 是一个分组长度n=4的线性分组码。观察码字之间所有十种可能 的和
编码理论
接着(Ri-1)E与第i个选择密钥模2加求和，结果 分为8个6bit分组B1,B2,…,B8,即 (Ri-1)E⊕ Ki=B1,B2,…,B8 每个6bit分组Bj作为一个S盒函数的输入，产生 4bit分组Sj(Bj)。这样48bit通过S盒变为了 32bit。 Bj=b1,b2,b3,b4,b5,b6的转换过程如下，按 b1b6选择行，按b2b3b4b5选择列。例如 B1=110001，那么S1得到第3行第8列的值5， 用二进制表示为0101。
明文：A B C D E F G H I J K L M N O P Q R S T U V W X Y Z 密文：D E F G H I J K L M N O P Q R S T U V W X Y Z A B C
University of Science and Technology of China
1 EK ( M ) M DK (C ) EK
密码破译
ˆ M
明码文本M
明码文本M
加密器 K 密钥
密文 C=EK(M)
公共信道 解密器 安全信道 K
Байду номын сангаас
M DK (C )
1 EK (C )
University of Science and Technology of China
K是一组由符号(码元)或字符组成的密钥(Key)，它决 定了密码变换族中特定的一种加密变换EK。在大多数密 码系统中，拥有密钥的任何人都可以同时加解密消息。 加密方案分两个基本类型： 分组加密和数据流加密或简 称流加密。在分组加密中，明文被分为固定大小的分组， 每个分组独立加密。这样，对每个给定的密钥，每个不 同的明文分组都转换成同一种密文分组(与分组编码相 似)。数据流加密类似于卷积编码．它没有固定的分组长 度。每个明文比特mi，被码元序列(密钥流)中的第i位 元素ki加密，这个码元序列是由密钥产生的。如果这个 密钥流每隔p个字符重复自身一次，那么加密过程是周 期性的，否则就是非周期性的。
编码理论
1.信源编码器、信道编码器的作用分别是？（1）信源编码器对信源输出的消息进行适当的变换和处理，来提高传输的效率。
（2）信道编码是为了抵抗信道的干扰，提高通信的可靠性。
2.什么是离散信道？信道的输入和输出都是时间上离散、取值离散的随机序列。
（数字信道）3.什么是无干扰信道？其输入和输出符号有何关系？这是一种最理想的信道，也称为无噪无损信道，信道的输入和输出符号间有确定的一一对应关系，即p（y∣x）={1 x=y；0 x≠y。
4.什么是奇、偶校验码？在信息序列后面加上一位校验位，使之模2和等于1，这样的编码成为奇校验码。
若使模2和等于0，这样的编码就称为偶校验码，即每个码矢中1的个数固定为奇数或偶数。
5.信息、消息与信号的概念有何区别？信息是关于事物运动的状态和规律。
消息是能被人们感觉器官感知的客观物质和主观思维的运动状态或存在状态。
将消息变换成适合传输和存储的物理量就称为信号。
6.什么是接收序列y的伴随式s？对于任何i=1,2，...，n-1，y（x）的i次循环移位x i y（x）[mod g（x）]的伴随式s（i）（x），必有s（i）（x）=x i s（x） [mod g（x）]即s（i）是s（x）在伴随式计算电路中无输入时，右移i位的结果。
7.为什么伴随式s只由错误图样e决定？当码字c通过噪声信道传送时，会受到干扰而产生错误。
如信道产生的错误图样是e，译码器收到的接收矢量是y，则有y=c+e，可写为y（x）=c（x）+e （x），用生成多项式g（x）除以接收多项式y（x），得y（x）=a（x）g（x）+s （x），式中a（x）为商式，s（x）为余式。
由于码多项式c（x）是生成多项式g（x）的倍式，可以看出s（x）只由错误多项式e（x）所决定。
8.差错控制系统有哪几种方式？前向纠错（FEC）、重传反馈（ARQ）、混合纠错（HEC）。
9.什么是分组码？分组码的特点？信源所给出的二元信息序列首先分成等长的各个信息，每组的信息位长度为k，记为u=（u k-1u k-2...u0），显然信息组m可能有2k种取值。
信息论与编码理论-2B卷--答案
信息论与编码理论-2B卷--答案院、系领导 审批并签名 B 卷广州大学 2013-2014 学年第 2 学期考试卷课程 信息论与编码理论2 考试形式（闭卷，考试）学院 系 专业 班级 学号 姓名_ _ 题次 一 二 三 四 五 六 七 八 九 十 总分 评卷人 分数 15 15 20 25 25 100 评分1. (15分)设一个3元线性码C 的生成阵为⎪⎪⎪⎭⎫ ⎝⎛=210011112000121G ,(1) 求C 的标准型生成阵; (2)求C 的标准型校验阵; (3) 求C 的最小距离.解：（1）⎪⎪⎪⎭⎫ ⎝⎛=210011112000121G ⎪⎪⎪⎭⎫ ⎝⎛→212101112000121⎪⎪⎪⎭⎫ ⎝⎛→212100200000121⎪⎪⎪⎭⎫ ⎝⎛→202100100000121⎪⎪⎪⎭⎫ ⎝⎛→200010100000121⎪⎪⎪⎭⎫⎝⎛→100020100000121，则C 的标准型生成阵为⎪⎪⎪⎭⎫ ⎝⎛100020100000121。
（2）由于C 的标准型生成阵为⎪⎪⎪⎭⎫⎝⎛100020100000121，则C 的标准型校验阵为⎪⎪⎭⎫⎝⎛0011010201。
(3) 由C 的校验阵为⎪⎪⎭⎫ ⎝⎛0011010201，其中4列为0，则C 的最小距离为1。
2. (15分)设1C 是一个q 元最小距离为1d 的),(1k n 线性码,其生成阵为1G ;设2C 是一个q 元最小距离为2d 的),(2k n 线性码,其生成阵为2G .令 21C C ,|),{(1C a b a a ∈+=}2C b ∈,证明:21C C 是一个q 元最小距离为},2min{21d d d =的),2(21k k n +线性码,进一步求其生成阵.略3. (20分)设一个2元线性码C 的生成阵为⎪⎪⎭⎫⎝⎛=1111010101G ,问:1） 该码是否为MDC 码，是否为循环码？2） 若收到向量11111,分别用一般线性码的最小距离译码方法,标准阵列译码方法,伴随式译码方法来译码.解：1）由于C 的生成阵为⎪⎪⎭⎫⎝⎛=1111010101G ，则C 的校验阵为⎪⎪⎪⎭⎫⎝⎛=100110101000111H ，1，2，4列相关，则C 的最小距离d 为2，而该码的码长为5=n ，维数3=k ，于是d =2<3=1+-k n ，则该码不是MDC 码。
编码理论课程教学大纲.doc
1．理解卷积码的基本概念及卷积码的矩阵描述；
2．掌握用延时算子表示卷积码，伴随式计算与代数译码原理；
3．理解大数逻辑译码和卷积码的距离特征。
配套
实践
环节
说明
大纲
编写
责任
人
信息与计算科学
（教研组）
胡海平（签名）
2001年06月30日
系
审核
意见
数学
（系）
顾桂定（签名）
2001年06月30日
学院
审核
意见
张金仓
（签名）
上海大学理学院（公章）
年月日
编码理论来源于现代通信技术与电子计算机技术中差错控制研究的实际需要，是信息论的一个专门分支。通过本理论的学习，学生应掌握信源编码的基本概念和原理，掌握线性分组码。循环码，二元双纠错BCH码及卷积码的基本原理、性质，掌握他们编码方式及检错和纠错能力。
课
程
内
容
及
学
时
分
配
课
程
内
容
及
学
时
分
配
（一）概论（3学时）
二选教材：《纠错编码技术》陈宗杰、左孝彪编人民邮电出版社
参考书目：《纠错编码技术和应用》归绍升编上海交通大学出版社
6．考核形式：考试（笔试）
7．教学环境：课堂
课程
教学
目的
及
要求
要求学生掌握信道编码的概念和基本原理，学会线性分组码、循环码、BCH码以及卷积码的编码和译码，掌握各种编码方式的检错和纠错能力。
1．了解信道编码的基本思想和分类；
2．理解差错控制的基本方式及最大似然译码。
（二）数学补充知识（5学时）
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
南 京 师 范 大 学 2013 级硕士研究生 2013 —2014 学年第 二 学期 《编码理论基础》 课程试卷
注：1、本卷考试形式为闭卷，考试时间为 2 小时。
2、考生不得将装订成册的试卷拆散，不得将试卷或答题卡带出考场。
3、可以使用计算器 专业
姓名
学号□□
□□□□
□
□
□
<编码理论> 1 一、（12分）设F 是域K 的一个子域， 证明：F 与K 有相同的特征。
二、（12分）设q F 为一个含有q 个元素的有限域，并且q F 的特征不等
于2.证明：q F 中所有元素之和一定为零。
三、（12分）试求出有限域7F 的所有本原元。
四、（12分）证明：多项式2()1p x x =+和2()4q x x x =++在有限域11F 上
都是不可约的，试问：有限域11[]/()F x p x 〈〉和11[]/()F x q x 〈〉同构吗？为什么？
五、（12分）设12n α,α,⋅⋅⋅,α是多项式1n x -在有限域q F 上的n 个根，证
明：对于任意1k n ≤<，有120k k k n α+α+⋅⋅⋅+α=。
六、（20分）设q F 为一个含有q 个元素的有限域，设r 和n 是两个正整数，r n ≤。
试求q F 上的秩为r 的r n ⨯阶矩阵的个数。
进一步，试求出q F 上的n 阶可逆矩阵的个数。
七、（20分） 设
1336040251262045A ⎛⎫ ⎪ ⎪= ⎪ ⎪⎝⎭ ， 0014b ⎛⎫ ⎪ ⎪= ⎪ ⎪⎝⎭
试求出七元域GF(7)上的非齐次线性方程组T Ax b =的解。