信息与编码编码10

R
log
M q
n
2020/9/5
5
第二节码的基本定义与纠错检错能力
定义2 设x,y∈V(n,q), 那么x和y的汉明距离d(x,y)为x 和y中不同的元素的位置的个数,因此
n
d (x, y) d (x j , y j )
其中当u与v相同时d(u,vj)1=0,否则为1,而u,v∈Fq,由此 可知汉明距离是V(n,q)×V(n,q)N的映射,其中N为全 体非负整数, 我们以下记d(x)为x的汉明势,这是x中非 零分量的个数.
1 i1 i2 ... ik n
成立。
设 x (x1, x2...xn ) 是一个固定的向量
那么称 x (xi1 , xi2 ...xik ) 是x的一个部分向量，
这时有 x (x , xc )，其中 c Ν 是a的余集，
而N={1,2,3,…,n}
2020/9/5
10
第二节码的基本定义与纠错检错能力
2020/9/5
8
第二节码的基本定义与纠错检错能力
例1 长度为3的二元重复码为C={000,111}，设000 是发送的码字，收到字000，100，010，001时将 被译成000，当收到字111，110，101，011时将 被 译 成 111 。 这 时 对 任 何 入 口 分 布 ， p(000)=p0,p(111)=1-p0，那么译码误差概率为
2020/9/5
11
第二节码的基本定义与纠错检错能力
如果信源信息可以表示成Fq上长度为k的所有串的集 合Fq(k)，则一个具有k个信息位的q元系统码可以把 每一个信源信息在保持不变的条件下嵌入一个码字， 下面举例说明
例2 二元码C={0000,0110,1001,1010}是系统码。 实际上取i1=1,i2=3即可。如果信源信息是 {00,01,10,11} ，我们可以进行如下编码：
3）代数码理论与通信工程密切结合，在有限域中的运 算都可以通过逻辑电路来实现，且编、译码运算还 要求与通信实时、同步完成。因此我们不仅要考虑 其代数结构还要注意它的计算复杂度。
2020/9/5
4
第二节码的基本定义与纠错检错能力
1 码的基本定义
定义1 如果C为V(n,q)中的任一非空子集，那么称C 为q元分组码，称n为分组长度，C中的每一个向量 （或字串）为一个码字，如果|C|=M，那么称C为一 个(q,n,M)码或q元(n,M)码，该码的码率定义为
定义3 设C是q元(n,qk)码，如果存在一个下标集合
{i1,i2...ik }，使得码C去掉其他的n-k个位置所得字
的全体为Fq上长度为k的所有串的集合，也就是
C {x (xi1 , xi2 ...xik ), x C} Fq(k)
那么码C称为具有k个信息位的q元系统码。集合 {i1, i2 ...ik }称为信息位，其余n-k个位置称为校验位或 冗余度。
000000, 010110, 101001, 111010, 此编 码方法为系统编码，它的译码可直接从信息位上读 取。
例3 二元码C={000,100,010,001}不是系统码
2020/9/5
12
第二节码的基本定义与纠错检错能力
6.2.2 码的检错和纠错能力 检测码和纠错码就是一个码在信息传递时可以自动
第六章编码理论的基本知识
2020/9/5
1
第六章编码理论的基本知识
本章主要介绍编码理论的一些基本知识，主要内容包 括：
编码理论的基本特点 码的基本定义与纠错、检错能力 编码的基本问题
2020/9/5
2
第一节 代数码理论的基本特点
前面我们已给出了通信系统的基本模型与它的信源、 信道编码定理,其中： 无失真信源编码是可计算的； 但信道编码则是不易计算的。
如x=10203,y=12103,则d(x,y)=2,而d(x)=3,d(y)=4
2020/9/5
6
第二节码的基本定义与纠错检错能力
定理1 如果d(x,y)是V(n,q)上的汉明距离函数, 那么 对任意x,y,z∈V(n,q), 满足如下性质:
1. 非负性 d(x,y) ≥ 0,d(x,y)=0 x=y 2. 对称性 d(x,y)=d(y,x) 3. 三角不等式 d(x,y) ≤ d(x,z)+d(y,z)
因此编码理论的基本目的是利用代数结构工具，寻 找易计算的编、译码算法，并实现自动纠错或检错 的目的。
2020/9/5
3
第一节 代数码理论的基本特点
由此可知，编码理论的特点为：
1）充分利用代数工具，把码的结构与编、译码算法用 代数方法给以表达与计算。
2）代数码，对码的好坏评价标准是纠错与检错能力， 若信道对信号传输本身的误差概率很小，那么通过 代数码理论就可以实现优质通信。
因为p<1/2，所以当d<d’时，pd (1 p)nd pd (1 p)nd 成 立。因此对任何y∈V(n,q)，就有一个使x0∈C，
使得对任何 x∈C d(x0 , y) d(x, y) 成立
这时对任何 x∈C p( y | x0 ) p( y | x) 成立
我们称x0是y最大似然译码或最小汉明距离译码。
具有汉明距离的空间V(n,q)是一个距离空间,称为汉明 空间
202Fra Baidu bibliotek/9/5
7
第二节码的基本定义与纠错检错能力
现在我们考虑二元对称信道，其信道矩阵为 其中p<1/2
1
p
p
1
p
p
如果x,y分别是信道的输入与输出码字，信道发生错 误的字符个数等于汉明距离d(x,y)。因此，我们有
p( y | x) p d (x,y) (1 p)nd (x,y)
发现与纠正差错的能力。这种检测和纠错能力与码 的最小距离有关。 定义4 设C是一个(n,M)码，码C的最小距离定义为
d(c)=min{d(x,y)|x,y∈C,x≠y}
我们用(n,M,d)表示码长为n，大小为M，最小距离为 d的码。
e pr{ (3) (3)} 3 p2 2 p3
在代数码理论中常取M=qk,那么相应的码又称为q元 的(n,qk)码。一个q元的(n,qk)码就可对Fq(k)中的全体向 量进行编码。
2020/9/5
9
第二节码的基本定义与纠错检错能力
设 {i1,i2是...i一k }组正整数的集合，使