第六章信道编码
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
2015-6-28 5
居住在某地区的女孩中有25%是大学生，在女大学生 中有75%身高为1.6米以上，而女孩中身高1.6米以上的 占总数一半。假如得知“身高1.6米以上的某女孩是大 学生”的消息，问获得多少信息量？
从大量统计资料知道，男性中红绿色盲的发病率为7%，女 性发病率为0.5%。如果问一位男同志：“你是否是红绿色 盲?”，他的回答可能是“是”，可能是“否”，平均每个回 答中含有多少信息量？如果问一位女同志，则答案中含有的 平均信息量是多少？如何理解这两个结果的大小？
2015-6-28
6
二元信源X,P(0)=2/3,,经过下面的离散无记 忆信道后，输出用Y表示。符号转移矩阵为： 试求:H(X),H(Y|X),H(X,Y)，H(X|Y),H(Y)。* 证明联合熵H(X,Y)与熵H(X)及条件熵H(X|Y)之间的 关系式。 某信道为强对称信道（即均匀信道）输入符号和输出符 号的个数均为m，正确的传输概率为1—ε,错误概率为ε被 对称的均匀分给m—1个输出符号 ，写出其信道容量的表达 式。
总Fra Baidu bibliotek习
1、按发出符号之间的关系来分，信源可以分为（ ）和 （ ） 2、连续信源的熵是（ ），不再具有熵的物理含义。 3、对于有记忆离散序列信源，需引入（ ）描述信源发 出的符号序列内各个符号之间的统计关联特性 3、连续信源X,平均功率被限定为P时，符合（ ）分布 才具有最大熵，最大熵是（ ）。 4、数据处理过程中信息具有（ ）。 5、信源冗余度产生的原因包括（ ）和（ ）。 6、单符号连续信道的信道容量取决于（ ）。 7、 香农信息极限的含义是（ ）。 8、对于无失真信源编码，平均码长越小，说明压缩效率 （ ）。
2015-6-28
4
信息、消息、信号的定义是什么？三者的关系是什么？ 什么样的马尔可夫链是遍历的？ 简述离散信源的最大熵定理。 简述信息率失真函数的物理意义。 叙述变长信源编码定理。 惟一可译码存在的充要条件是什么 ？ 什么是差错图样？有哪些差错图样类型？ 什么是本原多项式？ 对于信道编码，有哪两种译码算法？简述之。 为什么说BSC信道的最小距离译码就是最大似然译码？ 什么是完备吗？举出两种完备吗的例子。 写出卷积码的解析表达式 。说明为什么称之为卷积码？
111010 110001 011101
2015-6-28
10
2015-6-28
11
2015-6-28 8
设有离散无记忆信源P(X)={0.37,0.25,0.18,0.10,0.07,0.03}, （1）求该信源的符号熵。 （2）用哈夫曼编码编成二元变长码，计算其编码效率。 （3）要求其译码错误小于10采用定长二元码要达到（2）中 的哈夫曼编码效率，问需要多少个信源符号连在一起编？ 设信源P(X)={0.20,0.01,0.10, 0.19, 0.18,0.15,0.17 },（1）用香农编码编成二元变长码，计算 其编码效率。 （2）用哈夫曼编码编成二元变长码，计算其编码效率。
2015-6-28 1
9、对于限失真信源编码，保证 D的前提下，尽量减少 （ ）。 10、立即码指的是（ ）。 11、算术编码是（ ）分组码。 12、游程编码是（ ）失真信源编码。 13、线性分组码的（ ）就是该码空间的对偶空 间的生成矩阵。 14、若（n，k）线性分组码为MDC码，那么它的最小 码距为（ ）。 15、完备码的特点是（ ）。 16、卷积码的自由距离决定了其（ ）。
2015-6-28
2
（ （ （ （ （ （
） 1、信息是指各个事物运动的状态及状态变化的方式。 ）2、信息就是信息，既不是物质也不是能量。 ）3、马尔可夫信源是离散无记忆信源。 ）4、不可约的马尔可夫链一定是遍历的。 ） 5、单符号连续信源的绝对熵为无穷大。 ）6、序列信源的极限熵是这样定义的：H(X)= H(XL|X1,X2,…,XL-1)。 （ ）7、平均互信息量I(X;Y)是接收端所获取的关于发送端 信源X的信息量。 （ ）8、信源X,经过处理后，输出为Y，H(Y)小于H(X), 说 明信息不增。 （ ）9、如果一个消息包含的符号比表达这个消息所需要的 符号多，那么该消息存在冗余度。 （ ）10、有噪无损离散信道的输入为X,输出为Y，那么其信 道容量Ｃ＝ｍａｘＨ（Ｙ）。
2015-6-28 7
某有扰离散信道的传输情况如下图所示 ,求该信道的信道容量。 电话信道的带宽为 3.3kHz,若信噪功率比为 20dB.求该信 道的信道容量。 一个平均功率受限的连续信道，其通频带为1MHZ,信道上 存在白色高斯噪声。 （1）已知信道上的信号和噪声的平均功率比值 为10 ，求该信 道的信道容量。 （2）信道上的信号和噪声的平均功率比值降为5，要达到相同 的信道容量，信道的通频带应为多大？ （3）若信道通频带减少为0.5MHZ, 信道上的信号和噪声的平 均功率比值应为多大？
2015-6-28
9
现有线性分组码，其生成矩阵为 G= （1）计算码集，并列出信息组与码字的映射关系。 （2）将该码系统化处理，写出系统形式的生成矩阵。 （3）写出系统码的校验矩阵，若收码r=[100110]，检验 它是否为码字？
下面是某(n,k)线性二元码的全部码字：C1=000000, C2=000111, C3=011001,C4=011110, C5=101011,C6=101100,C7=110010,C8=110101 求n,k为何值？ 构造此码的生成矩阵G. 对G进行系统化，重新编码。
2015-6-28 3
（ ）11、非高斯噪声信道的信道容量比高斯噪声信道的 信道容量小。 （ ）12、信息率失真函数具有单调递减性。 （ ）13、异前缀码不能及时可译。 （ ）14、用码树构造的一定是及时码。 （ ）15、香农编码压缩了符号相关造成的冗余。 （ ）16、有失真信源编码指的是保真度准则下的信源编码。 （ ）17、变长无失真信源编码比定长编码的编码效率高。 （ ）18、香农编码是最佳编码。 （ ）19、卷积、交织都可以达到差错随机化的目的。。 （ ）20、卷积码的序列距离决定了其检错和纠错能力。
居住在某地区的女孩中有25%是大学生，在女大学生 中有75%身高为1.6米以上，而女孩中身高1.6米以上的 占总数一半。假如得知“身高1.6米以上的某女孩是大 学生”的消息，问获得多少信息量？
从大量统计资料知道，男性中红绿色盲的发病率为7%，女 性发病率为0.5%。如果问一位男同志：“你是否是红绿色 盲?”，他的回答可能是“是”，可能是“否”，平均每个回 答中含有多少信息量？如果问一位女同志，则答案中含有的 平均信息量是多少？如何理解这两个结果的大小？
2015-6-28
6
二元信源X,P(0)=2/3,,经过下面的离散无记 忆信道后，输出用Y表示。符号转移矩阵为： 试求:H(X),H(Y|X),H(X,Y)，H(X|Y),H(Y)。* 证明联合熵H(X,Y)与熵H(X)及条件熵H(X|Y)之间的 关系式。 某信道为强对称信道（即均匀信道）输入符号和输出符 号的个数均为m，正确的传输概率为1—ε,错误概率为ε被 对称的均匀分给m—1个输出符号 ，写出其信道容量的表达 式。
总Fra Baidu bibliotek习
1、按发出符号之间的关系来分，信源可以分为（ ）和 （ ） 2、连续信源的熵是（ ），不再具有熵的物理含义。 3、对于有记忆离散序列信源，需引入（ ）描述信源发 出的符号序列内各个符号之间的统计关联特性 3、连续信源X,平均功率被限定为P时，符合（ ）分布 才具有最大熵，最大熵是（ ）。 4、数据处理过程中信息具有（ ）。 5、信源冗余度产生的原因包括（ ）和（ ）。 6、单符号连续信道的信道容量取决于（ ）。 7、 香农信息极限的含义是（ ）。 8、对于无失真信源编码，平均码长越小，说明压缩效率 （ ）。
2015-6-28
4
信息、消息、信号的定义是什么？三者的关系是什么？ 什么样的马尔可夫链是遍历的？ 简述离散信源的最大熵定理。 简述信息率失真函数的物理意义。 叙述变长信源编码定理。 惟一可译码存在的充要条件是什么 ？ 什么是差错图样？有哪些差错图样类型？ 什么是本原多项式？ 对于信道编码，有哪两种译码算法？简述之。 为什么说BSC信道的最小距离译码就是最大似然译码？ 什么是完备吗？举出两种完备吗的例子。 写出卷积码的解析表达式 。说明为什么称之为卷积码？
111010 110001 011101
2015-6-28
10
2015-6-28
11
2015-6-28 8
设有离散无记忆信源P(X)={0.37,0.25,0.18,0.10,0.07,0.03}, （1）求该信源的符号熵。 （2）用哈夫曼编码编成二元变长码，计算其编码效率。 （3）要求其译码错误小于10采用定长二元码要达到（2）中 的哈夫曼编码效率，问需要多少个信源符号连在一起编？ 设信源P(X)={0.20,0.01,0.10, 0.19, 0.18,0.15,0.17 },（1）用香农编码编成二元变长码，计算 其编码效率。 （2）用哈夫曼编码编成二元变长码，计算其编码效率。
2015-6-28 1
9、对于限失真信源编码，保证 D的前提下，尽量减少 （ ）。 10、立即码指的是（ ）。 11、算术编码是（ ）分组码。 12、游程编码是（ ）失真信源编码。 13、线性分组码的（ ）就是该码空间的对偶空 间的生成矩阵。 14、若（n，k）线性分组码为MDC码，那么它的最小 码距为（ ）。 15、完备码的特点是（ ）。 16、卷积码的自由距离决定了其（ ）。
2015-6-28
2
（ （ （ （ （ （
） 1、信息是指各个事物运动的状态及状态变化的方式。 ）2、信息就是信息，既不是物质也不是能量。 ）3、马尔可夫信源是离散无记忆信源。 ）4、不可约的马尔可夫链一定是遍历的。 ） 5、单符号连续信源的绝对熵为无穷大。 ）6、序列信源的极限熵是这样定义的：H(X)= H(XL|X1,X2,…,XL-1)。 （ ）7、平均互信息量I(X;Y)是接收端所获取的关于发送端 信源X的信息量。 （ ）8、信源X,经过处理后，输出为Y，H(Y)小于H(X), 说 明信息不增。 （ ）9、如果一个消息包含的符号比表达这个消息所需要的 符号多，那么该消息存在冗余度。 （ ）10、有噪无损离散信道的输入为X,输出为Y，那么其信 道容量Ｃ＝ｍａｘＨ（Ｙ）。
2015-6-28 7
某有扰离散信道的传输情况如下图所示 ,求该信道的信道容量。 电话信道的带宽为 3.3kHz,若信噪功率比为 20dB.求该信 道的信道容量。 一个平均功率受限的连续信道，其通频带为1MHZ,信道上 存在白色高斯噪声。 （1）已知信道上的信号和噪声的平均功率比值 为10 ，求该信 道的信道容量。 （2）信道上的信号和噪声的平均功率比值降为5，要达到相同 的信道容量，信道的通频带应为多大？ （3）若信道通频带减少为0.5MHZ, 信道上的信号和噪声的平 均功率比值应为多大？
2015-6-28
9
现有线性分组码，其生成矩阵为 G= （1）计算码集，并列出信息组与码字的映射关系。 （2）将该码系统化处理，写出系统形式的生成矩阵。 （3）写出系统码的校验矩阵，若收码r=[100110]，检验 它是否为码字？
下面是某(n,k)线性二元码的全部码字：C1=000000, C2=000111, C3=011001,C4=011110, C5=101011,C6=101100,C7=110010,C8=110101 求n,k为何值？ 构造此码的生成矩阵G. 对G进行系统化，重新编码。
2015-6-28 3
（ ）11、非高斯噪声信道的信道容量比高斯噪声信道的 信道容量小。 （ ）12、信息率失真函数具有单调递减性。 （ ）13、异前缀码不能及时可译。 （ ）14、用码树构造的一定是及时码。 （ ）15、香农编码压缩了符号相关造成的冗余。 （ ）16、有失真信源编码指的是保真度准则下的信源编码。 （ ）17、变长无失真信源编码比定长编码的编码效率高。 （ ）18、香农编码是最佳编码。 （ ）19、卷积、交织都可以达到差错随机化的目的。。 （ ）20、卷积码的序列距离决定了其检错和纠错能力。