信息论与编码期末考试题(全套) (1)
信息论与编码试卷及答案1
二、综合题（每题10分，共60分）1.黑白气象传真图的消息只有黑色和白色两种，求：1）黑色出现的概率为0.3，白色出现的概率为0.7。
给出这个只有两个符号的信源X的数学模型。
假设图上黑白消息出现前后没有关联，求熵；2）假设黑白消息出现前后有关联，其依赖关系为：，，，，求其熵；2.二元对称信道如图。
；1）若，，求和；2）求该信道的信道容量和最佳输入分布。
3.信源空间为，试分别构造二元和三元霍夫曼码，计算其平均码长和编码效率。
4.设有一离散信道，其信道传递矩阵为，并设，试分别按最小错误概率准则与最大似然译码准则确定译码规则，并计算相应的平均错误概率。
5.已知一（8，5）线性分组码的生成矩阵为。
求：1）输入为全00011和10100时该码的码字；2）最小码距。
6.设某一信号的信息传输率为5.6kbit/s，在带宽为4kHz的高斯信道中传输，噪声功率谱NO=5×10－6mw/Hz。
试求：（1）无差错传输需要的最小输入功率是多少？（2）此时输入信号的最大连续熵是多少？写出对应的输入概率密度函数的形式。
二、综合题（每题10分，共60分）1.答：1）信源模型为2）由得则2.答：1）2），最佳输入概率分布为等概率分布。
3.答：1）二元码的码字依序为：10，11，010，011，1010，1011，1000，1001。
平均码长，编码效率2）三元码的码字依序为：1，00，02，20，21，22，010，011。
平均码长，编码效率4.答：1）最小似然译码准则下，有，2）最大错误概率准则下，有，5.答：1）输入为00011时，码字为00011110；输入为10100时，码字为10100101。
2）6.答：1）无错传输时，有即则2）在时，最大熵对应的输入概率密度函数为信息论习题集二、填空（每空1分）（100道）1、在认识论层次上研究信息的时候，必须同时考虑到形式、含义和效用三个方面的因素。
2、1948年，美国数学家香农发表了题为“通信的数学理论”的长篇论文，从而创立了信息论。
信息论与编码期末考试题(全套)之欧阳治创编
（一）时间2021.03.10创作：欧阳治 一、判断题共 10 小题，满分 20 分.1. 当随机变量和相互独立时，条件熵等于信源熵. （ ）2. 由于构成同一空间的基底不是唯一的，所以不同的基底或生成矩阵有可能生成同一码集.（ ）3.一般情况下，用变长编码得到的平均码长比定长编码大得多. （ ）4. 只要信息传输率大于信道容量，总存在一种信道编译码，可以以所要求的任意小的误差概率实现可靠的通信. （ ）5. 各码字的长度符合克拉夫特不等式，是唯一可译码存在的充分和必要条件. （）6. 连续信源和离散信源负性. （ ）7. 信源的消息通过信道或失真越大，信宿收到消息的不确定性就越小，获得的信息量8. 汉明码是一种线性分9. 率失真函数的最小值10.必然事件和不可能事都是.（ ）二、填空题共 6 小题，满分1、码的检、纠错能力取2、信源编码的目的是；的是.3、把信息组原封不动地位的码就叫做 .4、香农信息论中的三是、、.5、设信道的输入与输别为和，则条件 .6、对于香农-费诺编码、原始香农-费诺编码和哈夫曼编码，编码方法惟一的是. 7、某二元信源，其失真矩阵，则该信源的= .三、本题共 4 小题，满分 50 分.1、某信源发送端有2种符号,；接收端有3种符号，转移概率矩阵为.（1）计算接收端的平均不确定度；（2）计算由于噪声产生的不确定度；（3）计算信道容量以及最佳入口分布. 2、一阶马尔可夫信源的状态转移图如右图所示，信源的符号集为.（1）求信源平稳后的概率分布；（2）求此信源的熵；（3）近似地认为此信源为无记忆时，符号的概率分布为平稳分布.求近似信源的熵并与进行比较.4、设二元线性分阵为（1）给出该码的一致校所有的陪集首和与之相对应（2）若接收矢量其对应的伴随小距离译码准试着对其译（二一、填空题（1分）1、信源编码的主要目的是主要目的是。
2、信源的剩余度主要来自是，二是。
3、三进制信源的最小熵为，4、无失真信源编码的平均极限制为。
信息论与编码期末考试题(全套)之欧阳地创编
（一）时间：2021.03.04创作：欧阳地一、判断题共 10 小题，满分 20 分.1. 当随机变量和相互独立时，条件熵等于信源熵.（ ）2. 由于构成同一空间的基底不是唯一的，所以不同的基底或生成矩阵有可能生成同一码集.（ ）3.一般情况下，用变长编码得到的平均码长比定长编码大得多. （ ）4. 只要信息传输率大于信道容量，总存在一种信道编译码，可以以所要求的任意小的误差概率实现可靠的通信.（ ）5. 各码字的长度符合克拉夫特不等式，是唯一可译码存在的充分和必要条件.（）6. 连续信源和离散信源非负性（ ）7. 信源的消息通过信道差或失真越大，信宿收到消息在的不确 定性就越小，获得的信息量8. 汉明码是一种线性分组9. 率失真函数的最小值是10.必然事件和不可能事量都是.（ ）二、填空题共 6 小题，满分 1、码的检、纠错能力取决2、信源编码的目的是；信的是.3、把信息组原封不动地搬位的码就叫做 4、香农信息论中的三大是、、.5、设信道的输入与输出别为和，则成立的条件.6、对于香农-费诺编码、原始香农-费诺编码和哈夫曼编码，编码方法惟一的是.7、某二元信源，其失真矩阵，则该信源的= .三、本题共 4 小题，满分 50 分.1、某信源发送端有2种符号,；接收端有3种符号，转移概率矩阵为.（1）计算接收端的平均不确定度；（2）计算由于噪声产生的不确定度；（3）计算信道容量以及最佳入口分布. 2、一阶马尔可夫信源的状态转移图如右图所示，信源的符号集为.（1）求信源平稳后的概率分布；（2）求此信源的熵；（3）近似地认为此信源为无记忆时，符号的概率分布为平稳分布.求近似信源的熵并与进行比较.4、设二元线性分组阵为.（1）给出该码的一致校验所有的陪集首和与之相对应的（2）若接收矢量出其对应的伴随式并按照最准则试着对其译码（二）一、填空题（共1分）1、信源编码的主要目的是，主要目的是。
2、信源的剩余度主要来自两是，二是。
信息论与编码期末考试题(全套)之欧阳语创编
（一）一、判断题共 10 小题，满分 20 分.1. 当随机变量X 和Y 相互独立时，条件熵)|(Y X H 等于信源熵)(X H . （ ）2. 由于构成同一空间的基底不是唯一的，所以不同的基底或生成矩阵有可能生成同一码集.（ ）3.一般情况下，用变长编码得到的平均码长比定长编码大得多. （ ）4. 只要信息传输率大于信道容量，总存在一种信道编译码，可以以所要求的任意小的误差概率实现可靠的通信.（ ）5. 各码字的长度符合克拉夫特不等式，是唯一可译码存在的充分和必要条件. （）6. 连续信源和离散信源有非负性.7. 信源的消息通过信道误差或失真越大，信宿收到消源存在的不确定性就越小，获得的信息量8. 汉明码是一种线性分组9. 率失真函数的最小值是10.必然事件和不可能事息量都是0.（ ）二、填空题共 6 小题，满分1、码的检、纠错能力取决2、信源编码的目的是；的目的是.3、把信息组原封不动地前k 位的),(k n 码就叫做4、香农信息论中的三大是、、. 5、设信道的输入与输出分别为X 和Y ，则),(N Y X I NN 的条件 .6、对于香农-费诺编码、原始香农-费诺编码和哈夫曼编码，编码方法惟一的是.7、某二元信源01()1/21/2X P X ⎡⎤⎧⎫=⎨⎬⎢⎥⎣⎦⎩⎭，其失真矩阵00a D a ⎡⎤=⎢⎥⎣⎦，则该信源的max D = . 三、本题共 4 小题，满分 50 分. 1、某信源发送端有2种符号i x )2,1(=i ,ax p =)(1；接收端有3种符号i y )3,2,1(=j ，转移概率矩阵为1/21/201/21/41/4P ⎡⎤=⎢⎥⎣⎦.（1）计算接收端的平均不确定度()H Y ；（2）计算由于噪声产生的不确定度(|)H Y X ；（3）计算信道容量以及最佳入口分布.2、一阶马尔可夫信源的状态转移图如右图所示，信源X 的符号集为}2,1,0{. （1）求信源平稳后的概率分布； （2）求此信源的熵；（3）近似地认为此信源为无记忆时，符号的概率分布为平稳分布.求近似信源的熵H ∞进行比较.4、设二元)4,7(线性分组矩阵为⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎣⎡=1000101010011100101100001011G .（1）给出该码的一致校验出所有的陪集首和与之相对式；（2）若接)0001011(=v ，试计应的伴随式S 并按离译码准则试着对其译码.（二）一、填空题（共15分，每空1、信源编码的主要目的是，的主要目的是。
2020年信息论与编码期末考试题
信息论与编码期末考试题（一）一、判断题. 当随机变量和相互独立时，条件熵等于信源熵. （）由于构成同一空间的基底不是唯一的，所以不同的基底或生成矩阵有可能生成同一码集. （）一般情况下，用变长编码得到的平均码长比定长编码大得多. （）只要信息传输率大于信道容量，总存在一种信道编译码，可以以所要求的任意小的误差概率实现可靠的通信. （）各码字的长度符合克拉夫特不等式，是唯一可译码存在的充分和必要条件. （）连续信源和离散信源的熵都具有非负性. （）信源的消息通过信道传输后的误差或失真越大，信宿收到消息后对信源存在的不确定性就越小，获得的信息量就越小. 汉明码是一种线性分组码. （）率失真函数的最小值是. （） 1.必然事件和不可能事件的自信息量都是. （）二、填空题 1、码的检、纠错能力取决于 . 2、信源编码的目的是；信道编码的目的是 . 3、把信息组原封不动地搬到码字前位的码就叫做. 4、香农信息论中的三大极限定理是、、 . 5、设信道的输入与输出随机序列分别为和，则成立的条件 .. 6、对于香农-费诺编码、原始香农-费诺编码和哈夫曼编码，编码方法惟一的是 . 7、某二元信源，其失真矩阵，则该信源的=.三、计算题. 1、某信源发送端有2种符号,；接收端有3种符号，转移概率矩阵为. （1）计算接收端的平均不确定度；（2）计算由于噪声产生的不确定度；（3）计算信道容量以及最佳入口分布. 2、一阶马尔可夫信源的状态转移图如右图所示，信源的符号集为. （1）求信源平稳后的概率分布；（2）求此信源的熵；（3）近似地认为此信源为无记忆时，符号的概率分布为平稳分布.求近似信源的熵并与进行比较. 3、设码符号为，信源空间为试构造一种三元紧致码. 4、设二元线性分组码的生成矩阵为. （1）给出该码的一致校验矩阵，写出所有的陪集首和与之相对应的伴随式；（2）若接收矢量，试计算出其对应的伴随式并按照最小距离译码准则试着对其译码. （二）一、填空题 1、信源编码的主要目的是，信道编码的主要目的是。
信息编码论期末考试试题
信息编码论期末考试试题一、单项选择题（每题2分，共20分）1. 信息论的奠基人是：A. 爱因斯坦B. 牛顿C. 香农D. 麦克斯韦2. 下列哪个不是编码的基本原则？A. 唯一性B. 可识别性C. 可逆性D. 复杂性3. 熵是衡量信息量的一个指标，它在信息论中的定义是：A. 信息的不确定性B. 信息的确定性C. 信息的有序性D. 信息的无序性4. 在信息编码中，冗余度是指：A. 编码中多余的部分A. 编码中重复的部分C. 编码中必需的部分D. 编码中缺失的部分5. 以下哪个编码方式不是基于概率的？A. 霍夫曼编码B. 香农-费诺编码C. 游程编码D. ASCII编码二、填空题（每题2分，共20分）1. 信息论中的信息量通常用______来衡量。
2. 信息的传输速率是指单位时间内传输的______。
3. 在编码理论中，______编码是一种无损压缩编码。
4. 信息论中的信噪比是指______与______的比例。
5. 编码的目的是减少信息的______，提高信息的传输效率。
三、简答题（每题10分，共30分）1. 简述信息论中熵的概念及其计算公式。
2. 描述霍夫曼编码的基本原理及其在数据压缩中的应用。
3. 阐述信道容量的概念，并解释如何通过信道编码来逼近信道容量。
四、计算题（每题15分，共30分）1. 给定一组字符及其出现概率：A(0.4), B(0.25), C(0.15), D(0.1), E(0.1)。
请使用霍夫曼编码为这组字符设计一个最优编码方案，并计算该编码方案的平均码长。
2. 假设一个信道的信噪比为10dB，信道带宽为3000Hz，请计算该信道的最大数据传输速率（香农极限）。
五、论述题（共20分）1. 论述信息编码在现代通信系统中的重要性，并举例说明其在实际应用中的作用。
请考生在规定的时间内完成以上试题，注意保持答题卡的整洁，字迹清晰。
祝您考试顺利！。
信息论与编码期末考试题(全套) (1)
|
S1
2 3
,
P
S2
|
S1
1 3
,
P
S1
|
S2
1,
P
S2
|
S2
0
。
(1) 画出状态转移图。(4 分)
(2) 计算稳态概率。(4 分)
(3) 计算马尔可夫信源的极限熵。(4 分)
(4) 计算稳态下 H1 , H2 及其对应的剩余度。(4 分)
解：(1)
1
3
S1
S2
1
2 (2)由公式 P Si P Si | S j P S j
值
。
9、在下面空格中选择填入数学符号“ , , , ”或“ ”
（1）当 X 和 Y 相互独立时，H（XY）
H(X)+H(X/Y)
H(Y)+H(X)。
（2）
H2
X
H
X1 X 2
2
H3
X
H
X1X2 X3
3
（3）假设信道输入用 X 表示，信道输出用 Y 表示。在无噪
有损信道中，H(X/Y) 0,
H(Y/X) 0,I(X;Y) H(X)。
符号
H2 H 0.205hart 符号符 0号.4符72号nat 0.681bit
对应的剩余度为
1
1
H1 H0
1
1 2
log
0.811
1 2
1 2
log
1 2
0.189
2
1
H2 H0
1
1 2
log
0.681
1 2
1 2
log
1 2
0.319
六、设有扰信道的传输情况分别如图所示。试求这种信道的 信道容量。
信息论与编码期末考试题(全套)之欧阳学创编
（一）一、判断题共 10 小题，满分 20 分.1. 当随机变量X 和Y 相互独立时，条件熵)|(Y X H 等于信源熵)(X H . （ ）2. 由于构成同一空间的基底不是唯一的，所以不同的基底或生成矩阵有可能生成同一码集.（ ）3.一般情况下，用变长编码得到的平均码长比定长编码大得多. （ ）4. 只要信息传输率大于信道容量，总存在一种信道编译码，可以以所要求的任意小的误差概率实现可靠的通信.（ ）5. 各码字的长度符合克拉夫特不等式，是唯一可译码存在的充分和必要条件. （）6. 连续信源和离散信源的熵都具有非负性. （ ）7. 信源的消息通过信道差或失真越大，信宿收到消存在的不确定性就越小，获得的信息量8. 汉明码是一种线性分组9. 率失真函数的最小值是10.必然事件和不可能事量都是0.（ ）二、填空题共 6 小题，满分1、码的检、纠错能力取决2、信源编码的目的是；目的是.3、把信息组原封不动地k 位的),(k n 码就叫做 .4、香农信息论中的三大是、、. 5、设信道的输入与输出分别为X 和Y ，则),(Y X I NN 的条件 .6、对于香农-费诺编码、原诺编码和哈夫曼编码，编码方法惟一的是.7、某二元信源01()1/21/2X P X ⎡⎤⎧⎫=⎨⎬⎢⎥⎣⎦⎩⎭，其失真矩阵00a D a ⎡⎤=⎢⎥⎣⎦，则该信源的max D = . 三、本题共 4 小题，满分 50 分. 1、某信源发送端有2种符号i x )2,1(=i ,ax p =)(1；接收端有3种符号i y )3,2,1(=j ，转移概率矩阵为1/21/201/21/41/4P ⎡⎤=⎢⎥⎣⎦.（1）计算接收端的平均不确定度()H Y ；（2） 计算由于噪声产生的不确定度(|)H Y X ；（3） 计算信道容量以及最佳入口分布. 2、一阶马尔可夫信源的状态转移图如右图所示，信源X 的符号集为}2,1,0{. （1）求信源平稳后的概率分布； （2）求此信源的熵；（3）近似地认为此信源为无记忆时，符号的概率分布为平稳分布.求近似信源的熵)(X H 并与H ∞进行比较.4、设二元)4,7(线性分组码的生成矩阵为⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎣⎡=1000101010011100101100001011G .（1）给出该码的一致校出所有的陪集首和与之相对式；（2）若接收矢量000101(=v 出其对应的伴随最小距离译码准试着对其译码（二）一、填空题（共空1分）1、信源编码的主要目的是，的主要目的是。
信息论与编码期末考试题
、判断题1. 当随机变量X和丫相互独立时，条件熵H(X|Y)等于信源熵H(X). ()2. 由于构成同一空间的基底不是唯一的，所以不同的基底或生成矩阵有可能生成同一码集 ()3•—般情况下，用变长编码得到的平均码长比定长编码大得多()4. 只要信息传输率大于信道容量，总存在一种信道编译码，可以以所要求的任意小的误差概率实现可靠的通信()5. 各码字的长度符合克拉夫特不等式，是唯一可译码存在的充分和必要条件•()6. 连续信源和离散信源的熵都具有非负性(7•信源的消息通过信道传输后的误差或失真越大，信宿收到消息后对信源存在的不确定性就越小，获得的信息量就越小.8. 汉明码是一种线性分组码. ()9. 率失真函数的最小值是0 . (10. 必然事件和不可能事件的自信息量都是0. ()二、填空题1、码的检、纠错能力取决于_________________ . ______________2、信源编码的目的是_____________________ ;信道编码的目的是 ____________ . ________3、把信息组原封不动地搬到码字前k位的(n,k)码就叫做______________________ .4、香农信息论中的三大极限定理是________________ 、__________ 、___________ .5、设信道的输入与输出随机序列分别为X和丫，则I(X N,Y N) NI(X,Y)成立的条件..6、对于香农-费诺编码、原始香农-费诺编码和哈夫曼编码，编码方法惟一的是 _________________ .X 0 1 0 a7、某二元信源，其失真矩阵D ，则该信源的D max= _______P(X) 1/2 1/2 a 0三、计算题.1、某信源发送端有2种符号X i (i 1,2) , p(xj a ；接收端有3种符号y i (j 1,2,3)，转移概率矩阵为1/2 1/2 0 P .1/2 1/4 1/4(1)计算接收端的平均不确定度H (Y)；(2)计算由于噪声产生的不确定度H(Y|X)；(3)计算信道容量以及最佳入口分布.一、填空题1、信源编码的主要目的是_______ ，信道编码的主要目的是________ 。
信息论与编码期末考试题(全套)之欧阳理创编
（一）一、判断题共 10 小题，满分 20 分.1. 当随机变量X 和Y 相互独立时，条件熵)|(Y X H 等于信源熵)(X H . （ ）2. 由于构成同一空间的基底不是唯一的，所以不同的基底或生成矩阵有可能生成同一码集.（ ）3.一般情况下，用变长编码得到的平均码长比定长编码大得多. （ ）4. 只要信息传输率大于信道容量，总存在一种信道编译码，可以以所要求的任意小的误差概率实现可靠的通信.（ ）5. 各码字的长度符合克拉夫特不等式，是唯一可译码存在的充分和必要条件. （）6. 连续信源和离散信源非负性. （7. 信源的消息通过信道差或失真越大，信宿收到消存在的不确定性就越小，获得的信息量8. 汉明码是一种线性分9. 率失真函数的最小值10.必然事件和不可能事量都是0.（ ）二、填空题共 6 小题，满分1、码的检、纠错能力取2、信源编码的目的是；目的是.3、把信息组原封不动地k 位的),(k n 码就叫做4、香农信息论中的三是、、.5、设信道的输入与输分别为X 和Y ，则),(Y X I NN 的条件 .6、对于香农-费诺编码、原始香农-费诺编码和哈夫曼编码，编码方法惟一的是.7、某二元信源01()1/21/2X P X ⎡⎤⎧⎫=⎨⎬⎢⎥⎣⎦⎩⎭，其失真矩阵00a D a ⎡⎤=⎢⎥⎣⎦，则该信源的max D = . 三、本题共 4 小题，满分 50 分. 1、某信源发送端有2种符号i x )2,1(=i ,ax p =)(1；接收端有3种符号i y )3,2,1(=j ，转移概率矩阵为1/21/201/21/41/4P ⎡⎤=⎢⎥⎣⎦.（1）计算接收端的平均不确定度()H Y ；（2） 计算由于噪声产生的不确定度(|)H Y X ；（3） 计算信道容量以及最佳入口分布. 2、一阶马尔可夫信源的状态转移图如右图所示，信源X 的符号集为}2,1,0{. （1）求信源平稳后的概率分布； （2）求此信源的熵；（3）近似地认为此信源为无记忆时，符号的概率分布为平稳分布.求近似信源的H ∞进行比较.4、设二元)4,7(线性分矩阵为⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎣⎡=1000101010011100101100001011G （1）给出该码的一致校出所有的陪集首和与之相式；（2）若接)0001011(=v ，试应的伴随式S 并离译码准则试着对其译码（二）一、填空题（共15分，每空1、信源编码的主要目的是的主要目的是。
完整word版信息论与编码理论复习题一
信息论与编码理论复习题（一）一、填空题（1）1948 年，美国数学家发表了题为“通信的数学理论”的长篇论文，从而创立了信息论。
（2）必然事件的自信息是。
（3）离散平稳无记忆信源X 的 N 次扩展信源的熵等于离散信源X 的熵的。
（4）对于离散无记忆信源，当信源熵有最大值时，满足条件为___。
（5）对于香农编码、费诺编码和霍夫曼编码，编码方法惟一的是。
（6）设有一离散无记忆平稳信道，其信道容量为C，只要待传送的信息传输率R____C （大于、小于或者等于），则存在一种编码，当输入序列长度n 足够大，使译码错误概率任意小。
（7）平均错误概率不仅与信道本身的统计特性有关，还与______________和 ______有关。
二、综合题1..黑白气象传真图的消息只有黑色和白色两种，求：1）黑色出现的概率为0.3，白色出现的概率为0.7。
给出这个只有两个符号的信源X 的数学模型。
假设图上黑白消息出现前后没有关联，求熵H X ；2）假设黑白消息出现前后有关联，其依赖关系为，，，，求其熵。
3）分别求上述两种信源的冗余度，比较它们的大小并说明其物理意义。
2.信源空间为X x1x2x3x4x5x6x7，试构造二元霍夫曼码，计算其平均P(X)0.2 0.19 0.18 0.170.150.10.01码长和编码效率（要求有编码过程）。
3..二元对称信道如图。
3， p 111）若p 0，求H X 、H X|Y和I X;Y ；442）求该信道的信道容量。
0 0 0 1 11 4.设一线性分组码具有一致监督矩阵H0 1 1 0 011 0 1 0 111）求此分组码n=?,k=?共有多少码字？2）求此分组码的生成矩阵G。
3）写出此分组码的所有码字。
4）若接收到码字（101001），求出伴随式并给出翻译结果。
参考答案：填空（1）香农（ 2）0 （ 3）N 倍（ 4）信源符号等概分布综合题1.解： 1）信源模型为2）由题意可知该信源为一阶马尔科夫信源。
信息论与编码期末考试题(全套)之欧阳文创编
（一）一、判断题共 10 小题，满分 20 分.1. 当随机变量X 和Y 相互独立时，条件熵)|(Y X H 等于信源熵)(X H .（ ）2. 由于构成同一空间的基底不是唯一的，所以不同的基底或生成矩阵有可能生成同一码集.（ ）3.一般情况下，用变长编码得到的平均码长比定长编码大得多. （ ）4. 只要信息传输率大于信道容量，总存在一种信道编译码，可以以所要求的任意小的误差概率实现可靠的通信.（ ）5. 各码字的长度符合克拉夫特不等式，是唯一可译码存在的充分和必要条件. （）6. 连续信源和离散信源的非负性（ ）7. 信源的消息通过信道传差或失真越大，信宿收到消息后在的不确定性就越小，获得的信息量就8. 汉明码是一种线性分组9. 率失真函数的最小值是10.必然事件和不可能事件量都是0.（ ）二、填空题共 6 小题，满分 21、码的检、纠错能力取决于2、信源编码的目的是；信道的是.3、把信息组原封不动地搬位的),(k n 码就叫做 .4、香农信息论中的三大是、、.5、设信道的输入与输出随别为X 和Y ，则,(),(YX NI Y X I N N条件 .6、对于香农-费诺编码、原始香农-费诺编码和哈夫曼编码，编码方法惟一的是.7、某二元信源01()1/21/2X P X ⎡⎤⎧⎫=⎨⎬⎢⎥⎣⎦⎩⎭，其失真矩阵00a D a ⎡⎤=⎢⎥⎣⎦，则该信源的max D = .三、本题共 4 小题，满分 50 分. 1、某信源发送端有2种符号i x )2,1(=i ,ax p =)(1；接收端有3种符号i y )3,2,1(=j ，转移概率矩阵为1/21/201/21/41/4P ⎡⎤=⎢⎥⎣⎦.（1）计算接收端的平均不确定度()H Y ；（2） 计算由于噪声产生的不确定度(|)H Y X ；（3） 计算信道容量以及最佳入口分布.2、一阶马尔可夫信源的状态转移图如右图所示，信源X 的符号集为}2,1,0{. （1）求信源平稳后的概率分布； （2）求此信源的熵；（3）近似地认为此信源为无记忆时，符号的概率分布为平稳分布.求近似信源的熵)(X H 并与H ∞进行比较.4、设二元)4,7(线性分组码的生成矩阵为⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎣⎡=1000101010011100101100001011G .（1）给出该码的一致校验矩所有的陪集首和与之相对应的伴（2）若接收矢量0001011(=v 出其对应的伴随式S 并按照最小准则试着对其译码（二）一、填空题（共151分）1、信源编码的主要目的是，信主要目的是。
信息论与编码期末试卷
信息论与编码期末试卷题号一二三四五六七八九十十一十二总成绩得分一．选择题（每小题3分，共15分）1）设信源⎥⎦⎤⎢⎣⎡=⎥⎦⎤⎢⎣⎡8/18/14/12/14321xxxxPX，则此信源的熵为：比特/符号A） 1.25 B） 1.5 C） 1.75 D） 22）对于离散信道⎥⎦⎤⎢⎣⎡=0.50.50.50.5P，信道容量是比特/符号A） 0 B） 1 C） 2 D） 33）对于三个离散信源⎥⎦⎤⎢⎣⎡=⎥⎦⎤⎢⎣⎡6.01.03.0321xxxPX、⎥⎦⎤⎢⎣⎡=⎥⎦⎤⎢⎣⎡3.04.03.0321yyyPY、⎥⎦⎤⎢⎣⎡=⎥⎦⎤⎢⎣⎡2.05.03.0321zzzPZ，其中熵最小A） X B） Y C） Z D）无法计算4）信源编码的变长编码中，下面说法不正确的是A）无失真r进制变长码平均码长不得低于信源r进制符号熵B）变长编码时，随着信源序列长度的增大，编码效率会提高C）变长码要求各个码字的长度各不相同D）变长编码的编码效率通常高于定长码5）以下约束条件属于保真度准则的是共 4 页第 1 页共 4 页第 2 页共 4 页第 3 页共 4 页第 4 页练习题一 参考答案一．选择题（每小题3分，共15分） 1）C ） 2）A ） 3）A ） 4）C ） 5）C ）二．三状态马尔科夫（Markov ）信源，其一步状态转移概率矩阵为⎥⎥⎥⎦⎤⎢⎢⎢⎣⎡=p qp qp qP 000， 1)、求出其二步转移概率矩阵2)、计算其稳态时处于各个状态的概率3)、极限熵∞H （15分）解：1）二步转移概率矩阵为P 2P 2=⎥⎥⎥⎦⎤⎢⎢⎢⎣⎡++=⎥⎥⎥⎦⎤⎢⎢⎢⎣⎡⨯⎥⎥⎥⎦⎤⎢⎢⎢⎣⎡=⨯22222220000p pq pq q p pq q p pqpq q p qp q p qp qp q p qP P2）假设稳态时各个状态概率为p(0)，p(1)，p(2)，则 [p(0) p(1) p(2)]= [p(0) p(1) p(2)]P 且p(0)+p(1)+p(2)=1 得到：()()⎪⎪⎪⎩⎪⎪⎪⎨⎧-=-=-=pq p p pq pq p pq q p 12111)0(223）极限熵∞H 为稳态时各个状态熵的数学期望三．两个串接的信道转移概率矩阵都为⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎣⎡=0100001/21/210001000P ，第一个信道的输入符号为X ，4个符号等概率分布，输出符号为Y ，第二个信道的输入符号为Y ，输出符号为Z ，求I （X ；Y ），I （Y ；Z ），I （X ；Z ）其信道容量及信源最佳分布（8分）解：由第一个信道的转移矩阵，以及全概率公式()()()4,3,2,1,/41==∑=j x P x y P y P i i i j j计算得到：()()2/1)(,4/1)(,8/14321====y P y P y P y P)/(5.1)0,1,0,0(4/1)0,0,,2/1,2/1(4/1)1,0,0,0(4/12)2/1,4/1/,8/1,8/1()/()();(symbol bit H H H H X Y H Y H Y X I =--⨯-=-= )/(5.1)0,1,0,0(4/1)0,0,,2/1,2/1(4/1)1,0,0,0(4/12)2/1,4/1/,8/1,8/1()/()();(symbol bit H H H H Y Z H Z H Z Y I =--⨯-=-= ⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎣⎡=⨯=002/12/1100001000100][/P P P X Z 从而()()())/)(((log log )(2020symbol bit q orH p H q q p p p H i p H i p H i ii =--===∑∑==∞)/(5.1)0,1,0,0(4/1)0,0,,2/1,2/1(4/1)1,0,0,0(4/12)2/1,4/1/,8/1,8/1()/()();(symbol bit H H H H X Z H Z H Z X I =--⨯-=-= 按一般情况下求信道容量C ，⎪⎪⎩⎪⎪⎨⎧====00-1-14321ββββ ()()3/13/16/1)(6/1)()/(3log 2432141======∑=x p x p x p x p symbol bit C i j此时：β四．信源概率分布为⎥⎦⎤⎢⎣⎡=⎥⎦⎤⎢⎣⎡16/116/116/116/18/18/14/14/187654321x x x x x x x x P X ，现采用二进制fano 编码，求各自的码字和编码效率（8分） 解：编码过程如下： 1)2) 由题意)/(75.2)(log )()(81symbol bit x p x p X H i i i =-=∑=而平均码长()75.291==∑=i i i x p l K则编码效率()%1001===Kx H η 五．设信源先验等概⎥⎦⎤⎢⎣⎡=⎥⎦⎤⎢⎣⎡5.05.010P X ，接收符号{}21,0，=Y ,失真矩阵为⎥⎦⎤⎢⎣⎡∞∞=1010D ，求()()max min max min ,,,D R D R D D 和对应的信道矩阵（10分）解：根据题意可知如果信道矩阵为⎥⎦⎤⎢⎣⎡=010001P ，则可得到失真值得最小值0m in =D ，此时信道传输的是信源的熵())/(1)()0(min symbol bit X H R D R === 对于最大的允许失真，对应的信道传输的信息为0，此时{}3,21max ,min D D D D =⎥⎦⎤⎢⎣⎡=001001P 时，∞=1D ⎥⎦⎤⎢⎣⎡=010010P 时，∞=2D ⎥⎦⎤⎢⎣⎡=100100P 时，11=D 则，1m ax =D ，()0)1(max ==R D R (bit /symbol ),且⎥⎦⎤⎢⎣⎡=100100P六．二元(n ,k )线性分组码的全部码字：000000，000111，011001，011110，101011，101100，110010，110101，求1）n ,k 各为多少? 2）求该码的生成矩阵G s ？3)此码的校验矩阵H ？（12分） 解：1）n 为码字长度，所以n=6，而码字个数M=8，所以k=logM=log8=3 2）G 为三行6列的矩阵，其行向量线性无关。
信息论与编码期末考试题(全套)之欧阳术创编
（一）时间：2021.02.02创作：欧阳术 一、判断题共 10 小题，满分 20 分.1. 当随机变量和相互独立时，条件熵等于信源熵. （ ）2. 由于构成同一空间的基底不是唯一的，所以不同的基底或生成矩阵有可能生成同一码集.（ ）3.一般情况下，用变长编码得到的平均码长比定长编码大得多.（ ）4. 只要信息传输率大于信道容量，总存在一种信道编译码，可以以所要求的任意小的误差概率实现可靠的通信. （ ）5. 各码字的长度符合克拉夫特不等式，是唯一可译码存在的充分和必要条件.（）6. 连续信源和离散信源的熵都具有非负性. （ ）7. 信源的消息通过信道传输或失真越大，信宿收到消息后对的不确定性就越小，获得的信息量就越8. 汉明码是一种线性分组码.9. 率失真函数的最小值是.（10.必然事件和不可能事件的都是.（ ）二、填空题共 6 小题，满分 20 分1、码的检、纠错能力取决于2、信源编码的目的是；信道的是.3、把信息组原封不动地搬到位的码就叫做 .4、香农信息论中的三大极是、、.5、设信道的输入与输出随别为和，则条件 .6、对于香农-费诺编码、原始香农码和哈夫曼编码，编码方法惟一的7、某二元信源矩阵，则该信源的= .三、本题共 4 小题，满分 50 分.1、某信源发送端有2种符号,；接收端有3种符号，转移概率矩阵为.（1）计算接收端的平均不确定度；（2）计算由于噪声产生的不确定度；（3）计算信道容量以及最佳入口分布. 2、一阶马尔可夫信源的状态转移图如右图所示，信源的符号集为.（1）求信源平稳后的概率分布；（2）求此信源的熵；（3）近似地认为此信源为无记忆时，符号的概率分布为平稳分布.求近似信源的熵并与进行比较.4、设二元线性分组码的生成矩阵为.（1）给出该码的一致校验矩阵，写出所有的陪集首和与之相对应的伴随（2）若接收矢量，其对应的伴随式并按照最小距则试着对其译码.（二）一、填空题（共151分）1、信源编码的主要目的是，信主要目的是。
信息论与编码复习题1(1)
一、填空题1.设信源X 包含4个不同离散消息，当且仅当X 中各个消息出现的概率为___Pi=1/4___时，信源熵达到最大值，为__2bit_，此时各个消息的自信息量为____2bit_______。
2.如某线性分组码的最小汉明距dmin=4，则该码最多能检测出___3_____个随机错，最多能 纠正___INT(1.5)__个随机错。
3.克劳夫特不等式是唯一可译码___存在___的充要条件。
4.平均互信息量I(X;Y)与信源熵和条件熵之间的关系是_I （X ：Y ）=H （X ）-H （X/Y ）5.__信源__编码的目的是提高通信的有效性，_信道_编码的目的是提高通信的可靠性，__加密__编码的目的是保证通信的安全性。
6.信源编码的目的是提高通信的 有效性 ，信道编码的目的是提高通信的 可靠性 ，加密编码的目的是保证通信的 安全性 。
7.设信源X 包含8个不同离散消息，当且仅当X 中各个消息出现的概率为__1/8_____时，信 源熵达到最大值，为___3bit/符号_________。
8.自信息量表征信源中各个符号的不确定度，信源符号的概率越大，其自信息量越__小____。
9.信源的冗余度来自两个方面，一是信源符号之间的_相关性__，二是信源符号分布的 __不均匀性___。
10.最大后验概率译码指的是 译码器要在已知r 的条件下找到可能性最大的发码Ci 作为移码估值 。
11.常用的检纠错方法有__前向纠错__、反馈重发和混合纠错三种。
二、单项选择题1.下面表达式中正确的是（ A ）。
A.∑=ji j x y p 1)/( B.∑=ii j x y p 1)/(C.∑=jj j i y y x p )(),(ω D.∑=ii j i x q y x p )(),(2.彩色电视显像管的屏幕上有5×105个像元，设每个像元有64种彩色度，每种彩度又有16种不同的亮度层次，如果所有的彩色品种和亮度层次的组合均以等概率出现，并且各个组合之间相互独立。
信息论与编码期末试卷
10:对有32个符号的信源编4进制HUFFMAN码，第一次取_______个信源进行编码.
11:若一个线性分组码的所有码字为：00000,10101,01111,11010，则该码为（____,_____）,该码最多可以纠正_______位错误，共有________陪集.
1：写出信道矩阵。
2：求此信道的噪声熵，疑义度，信息传输率。
3：求此信道的信道容量与最佳分布。
2：（本题满分2知条件概率为p(0/0)=0.25, P(0/1)=0.5
计算该信源的状态极限概率分布与极限熵
用3个符号合成一个来编2进制HUFFMAN码,要求有具体的编码过程，再求新符号的平均码字长度和编码效率。
6:若某信道的信道矩阵为 ，则该信道为具有____归并____性能的信道
7：根据香农第一定理（定长编码定理）若一个离散无记忆信源X的信源熵为H(X)，对其n个符号进行二元无失真编码时，其码字的平均长度必须大于____________
8：若某二元序列是一阶马尔科夫链，P(0/0)=0.8，P(1/1)=0.7，则‘0’游程长度为4的概率为____________,若游程序列为312314，则原始的二元序列为_________.
3：信源X经过宥噪信道后，在接收端获得的平均信息量称为______________.
4：一个离散无记忆信源输出符号的概率分别为p(0)=0.5,p(1)=0.25,p(2)=0.25,则由60个符号构成的消息的平均自信息量为__________.
5：信源编码可提高信息传输的___有效___性，信道编码可提高信息传输的___可靠_性.
12：码长为10的线性分组码若可以纠正2个差错,其监督吗至少有__5____位.
信息论与编码期末考试题(全套)之欧阳美创编
（一）时间：2021.01.01创作：欧阳美 一、判断题共 10 小题，满分 20 分.1. 当随机变量和相互独立时，条件熵等于信源熵.（ ）2. 由于构成同一空间的基底不是唯一的，所以不同的基底或生成矩阵有可能生成同一码集.（ ）3.一般情况下，用变长编码得到的平均码长比定长编码大得多.（ ）4. 只要信息传输率大于信道容量，总存在一种信道编译码，可以以所要求的任意小的误差概率实现可靠的通信.（ ）5. 各码字的长度符合克拉夫特不等式，是唯一可译码存在的充分和必要条件.（）6. 连续信源和离散信源的熵都具有非负性（ ）7. 信源的消息通过信道传差或失真越大，信宿收到消息后在的不确定性就越小，获得的信息量就越8. 汉明码是一种线性分组码9. 率失真函数的最小值是10.必然事件和不可能事件的量都是.（ ）二、填空题共 6 小题，满分 201、码的检、纠错能力取决于2、信源编码的目的是；信道的是.3、把信息组原封不动地搬到位的码就叫做 .4、香农信息论中的三大极是、、.5、设信道的输入与输出随别为和，则条件 .6、对于香农-费诺编码、原始香编码和哈夫曼编码，编码方法惟一的是.7、某二元信源，其失真矩阵，则该信源的= .三、本题共 4 小题，满分 50 分.1、某信源发送端有2种符号,；接收端有3种符号，转移概率矩阵为.（1）计算接收端的平均不确定度；（2）计算由于噪声产生的不确定度；（3）计算信道容量以及最佳入口分布. 2、一阶马尔可夫信源的状态转移图如右图所示，信源的符号集为.（1）求信源平稳后的概率分布；（2）求此信源的熵；（3）近似地认为此信源为无记忆时，符号的概率分布为平稳分布.求近似信源的熵并与进行比较.4、设二元线性分组码的生成矩阵为.（1）给出该码的一致校验矩所有的陪集首和与之相对应的伴随（2）若接收矢量出其对应的伴随式最小距离译码准则试着对其译码.（二）一、填空题（共151分）1、信源编码的主要目的是，信主要目的是。
信息论与编码期末考试题(全套)之欧阳道创编
（一）时间：2021.03.06创作：欧阳道 一、判断题共 10 小题，满分 20 分.1. 当随机变量和相互独立时，条件熵等于信源熵. （ ）2. 由于构成同一空间的基底不是唯一的，所以不同的基底或生成矩阵有可能生成同一码集.（ ）3.一般情况下，用变长编码得到的平均码长比定长编码大得多. （ ）4. 只要信息传输率大于信道容量，总存在一种信道编译码，可以以所要求的任意小的误差概率实现可靠的通信. （ ）5. 各码字的长度符合克拉夫特不等式，是唯一可译码存在的充分和必要条件. （）6. 连续信源和离散信源的熵都具有非负性. （ ）7. 信源的消息通过信道传或失真越大，信宿收到消息后的不确定性就越小，获得的信息量8. 汉明码是一种线性分组9. 率失真函数的最小值是10.必然事件和不可能事件都是.（ ）二、填空题共 6 小题，满分 21、码的检、纠错能力取决2、信源编码的目的是；信的是.3、把信息组原封不动地位的码就叫做 .4、香农信息论中的三是、、.5、设信道的输入与输出别为和，则 条件 .6、对于香农-费诺编码、原始码和哈夫曼编码，编码方法惟一的是.7、某二元信源，其失真矩阵，则该信源的= .三、本题共 4 小题，满分 50 分.1、某信源发送端有2种符号,；接收端有3种符号，转移概率矩阵为.（1）计算接收端的平均不确定度；（2）计算由于噪声产生的不确定度；（3）计算信道容量以及最佳入口分布. 2、一阶马尔可夫信源的状态转移图如右图所示，信源的符号集为.（1）求信源平稳后的概率分布；（2）求此信源的熵；（3）近似地认为此信源为无记忆时，符号的概率分布为平稳分布.求近似信源的熵并与进行比较.4、设二元线性分组码的生成矩阵为.（1）给出该码的一致校验所有的陪集首和与之相对应的（2）若接收矢量其对应的伴随式小距离译码准则试着对其译码（二一、填空题（共1分）1、信源编码的主要目的是，主要目的是。
2、信源的剩余度主要来自两是，二是。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
p/2
1-p
1
定度 H (Y ) ；
（2） 计算由于噪声产生的不
p/2 p/2
p/2 p/2
确定度 H (Y | X ) ；
（3） 计算信道容量以及最佳
2
入口分布.
2、一阶马尔可夫信源的状态转 移图如右图所示，
1-p
图2-13
信源 X 的符号集为
{0,1,2} .
（1）求信源平稳后的概率分布； （2）求此信源的熵； （3）近似地认为此信源为无记忆时，符号的概率分布为
叫做
.
4、香农信息论中的三大极限定理是
、
、
.
5、设信道的输入与输出随机序列分别为 X 和Y ，则
I ( X N ,Y N ) NI ( X ,Y ) 成立的
条件
..
6、对于香农-费诺编码、原始香农-费诺编码和哈夫曼编码，
编码方法惟一的是
.
7、某二元信源
X P( X
)
1
0 /2
1
1 / 2
，其失真矩阵
D
0 a
a 0 ，则该信源的 Dmax =
.
三、本题共 4 小题，满分 50 分.
1、某信源发送端有 2 种符号 xi (i 1,2) , p(x1) a ；接收
端有 3 种符号 yi ( j 1,2,3) ，转移概率矩阵为
P
1 1
/ /
2 2
1/ 2 1/ 4
0 1/ 4 .
1-p
p/2
0
（1） 计算接收端的平均不确
（2）计算平均码长 L ;（4 分） （3）计算编码信息率 R ;（2 分）
（1）信息传输速率 Rt 。（5 分） （2）将这些数据通过一个带宽为 B=2000kHz 的加性白高斯 噪声信道传输，噪声的单边功率谱密度为 n0 106 W Hz 。 试计算正确传输这些数据最少需要的发送功率 P。（5 分）
定性就越小，获得的信息量就越小.
8.
汉明码是一种线性分组码.
（）
9. （）
率失真函数的最小值是 0 .
10.必然事件和不可能事件的自信息量都是 0 .
（）
二、填空题共 6 小题，满分 20 分.
1、码的检、纠错能力取决于
2、信源编码的目的是 的目的是
；信道编码
.
3、把信息组原封不动地搬到码字前 k 位的 (n, k) 码就
信道容量。
X
12
Y
12 12
12 12
12 12
12
七、(16 分)设 X、Y 是两个相互独立的二元随机变量，其取 0 或 1 的概率相等。定义另一个二元随机变量 Z=XY(一般乘 积)。试计算
(1) H X , H Z ;
(2) H XY , H XZ ;
(3) H X | Y , H Z | X ;
(4) I X ;Y , I X ; Z ;
八、(10 分)设离散无记忆信源的概率空间为
X P
x1 0.8
x2 0.2
，通过干扰信道，信道输出端的接收符
号集为Y y1, y2 ，信道传输概率如下图所示。
，二是
。
3、三进制信源的最小熵为 ，最大熵为
。
4、无失真信源编码的平均码长最小理论极限制为
。
5、当
时，信源与信道达到匹配。
6、根据信道特性是否随时间变化，信道可以分为
和
。
7、根据是否允许失真，信源编码可分为
和
。
8、若连续信源输出信号的平均功率为 2 ，则输出信号幅度
的概率密度是
时，信源具有最大熵，其值为
二、（6 分）若连续信源输出的幅度被限定在【2,6】区域
内，当输出信号的概率密度是均匀分布时，计算该信源的相 对熵，并说明该信源的绝对熵为多少。
三、（16 分）已知信源
S
P
s1 0.2
s2 0.2
s3 0.2
s4 s5 s6 0.2 0.1 0.1
（1）用霍夫曼编码法编成二进制变长码；（6 分）
值
。
9、在下面空格中选择填入数学符号“ , , , ”或“ ”
（1）当 X 和 Y 相互独立时，H（XY）
H(X)+H(X/Y)
H(Y)+H(X)。
（2）
H2
X
H
X1 X 2
2
H3
X
H
X1X2 X3
3
（3）假设信道输入用 X 表示，信道输出用 Y 表示。在无噪
有损信道中，H(X/Y) 0,
H(Y/X) 0,I(X;Y) H(X)。
四、（10 分）某信源输出 A、B、C、D、E 五种符号，每一个 符号独立出现，出现概率分别为 1/8、1/8、1/8、1/2、1/8。如果符号的码元宽度为 0.5 s 。计算：
一、填空题（共 15 分，每空 1 分）
1、信源编码的主要目的是
，信道编码的主要目的是
。
2、信源的剩余度主要来自两个方面，一是
平
稳分布.求近似信源的熵 H ( X ) 并与 H 进行比较.
3、设码符号为 X {0
s2 0.2
s3 0.1
s4 0.1
s5 0.05
s6 0.05
s7 0.05
s8 0.05
试构造一种三
元紧致码.
4、设二元 (7,4) 线性分组码的生成矩阵为
1 1 0 1 0 0 0
（一）
一、判断题共 10 小题，满分 20 分.
1.
当随机变量 X 和Y 相互独立时，条件熵
H ( X | Y ) 等于信源熵 H ( X ) . （ ）
2. 由于构成同一空间的基底不是唯一的，所以不同的
基底或生成矩阵有可能生成同一码集.
（）
3.一般情况下，用变长编码得到的平均码长比定长编码
大得多.
G
0 1
1 1
1 1
0 0
1 0
0 1
0 . 0
1 0 1 0 0 0 1
（1）给出该码的一致校验矩阵，写出所有的陪集首和与
之相对应的伴随式；
（2）若接收矢量 v (0001011) ，试计算出其对应的伴 随式 S 并按照最小距离译码准则
试着对其译码.
（二）
（4）计算编码后信息传输率 R ;（2 分） （5）计算编码效率 。（2 分）
（）
4. 只要信息传输率大于信道容量，总存在一种信道编
译码，可以以所要求的任意小的误差概率实现可靠的
通信.
（）
5. 各码字的长度符合克拉夫特不等式，是唯一可译码
存在的充分和必要条件. （ ）
6.
连续信源和离散信源的熵都具有非负性.
（）
7. 信源的消息通过信道传输后的误差或失真越大，信
宿收到消息后对信源存在的不确
五、(16 分)一个一阶马尔可夫信源，转移概率为
P
S1
|
S1
2 3
,
P
S2
|
S1
1 3
,
P
S1
|
S2
1,
P
S2
|
S2
0
。
(1) 画出状态转移图。(4 分)
(2) 计算稳态概率。(4 分)
(3) 计算马尔可夫信源的极限熵。(4 分)
(4) 计算稳态下 H1 , H2 及其对应的剩余度。(4 分)
六、设有扰信道的传输情况分别如图所示。试求这种信道的