西安科技大学2005—2006信息论期末考试试题
《信息论》期末考试试题(A 卷) 标准答案
(2) 通过错误概率为 p, 0 ≤ p ≤ 1/ 2 的二元删除信道，求最佳译码准则的判决
函数和平均译码错误率；
(2+2=4 分)
(3) 通过(1)与(2)的串联信道，求最佳译码准则的判决函数和平均译码错误
率，并与(1)和(2)的平均译码错误率进行比较，得到怎样的结论？
(2+2+3=7 分)
(4) 根据(3)的结果，求信源经过串联信道后信息量损失的上界？ (3 分)
①确定
σ12
，
σ
2 2
和
P
的关系；
②写出信道容量表达式；
(3+3+3=9 分)
③写出达到容量时信道的输入概率密度 p(x1, x2 ) ； 解：
(1) E[x12 ] = 0 ，则
(3+3=6 分)
①
σ
2 1
≥
σ
2 2
+
P
，
②
C
=
1 2
log(1 +
P σ 22
)
，
(2) E[x22 ] > 0 ，则
从零均值的高斯分布，且相互独立，方差分别为 σ12
和σ22
，且 σ12
>
σ
2 2
，信道输
入均值为零, E x12 + x22 ≤ P ；
(1) 当达到信道容量时， E[x12 ] = 0 ；
(3+3=6 分)
①确定σ12 ，σ 22 和 P 的关系；
②写出信道容量表达式；
(2) 当达到信道容量时， E[x22 ] > 0 ；
(2 分)
(3) 写出香农第三定理中存在平均失真不大于 D 的信源编码充要条件；
《信息论》期末考试试题(A 卷) 标准答案
①确定
σ12
，
σ
2 2
和
P
的关系；
②写出信道容量表达式；
(3+3+3=9 分)
③写出达到容量时信道的输入概率密度 p(x1, x2 ) ； 解：
(1) E[x12 ] = 0 ，则
(3+3=6 分)
①
σ
2 1
≥
σ
2 2
+
P
，
②
C
=
1 2
log(1 +
P σ 22
)
，
(2) E[x22 ] > 0 ，则
从零均值的高斯分布，且相互独立，方差分别为 σ12
和σ22
，且 σ12
>
σ
2 2
，信道输
入均值为零, E x12 + x22 ≤ P ；
(1) 当达到信道容量时， E[x12 ] = 0 ；
(3+3=6 分)
①确定σ12 ，σ 22 和 P 的关系；
②写出信道容量表达式；
(2) 当达到信道容量时， E[x22 ] > 0 ；
平均译码错误率： pE1 = ω / 2 + ω / 2 = ω 。 (2) 信道的概率转移矩阵为：
0 21
P2
=
01− 1 0
p
p 0 p 1− p
(2+2=4 分)
判决函数：
G( y = 0) = 0,G( y = 1) = 1,G( y = 2) = 0 或
G( y = 0) = 0,G( y = 1) = 1, G( y = 2) = 1， 平均译码错误率： pE2 = p / 2 。 (3) 串联信道的概率转移矩阵为：
《信息论基础》试卷（期末）（B卷）
《信息论基础》试卷（期末）（B卷）重庆邮电⼤学2007/2008学年2学期《信息论基础》试卷（期末）（B 卷）（半开卷）⼀、填空题（共20分，每空1分）1、通信系统中，编码的主要⽬的有两个，分别是和。
2、离散⽆记忆信源存在剩余度的原因是。
3、当时，信源熵为最⼤值。
⼋进制信源的最⼤熵为，最⼩熵为。
4、⽆失真信源编码的平均码长最⼩理论极限制为。
5、⼀个事件发⽣概率为0.125，则⾃相关量为。
6、根据信原输出随机序列中随机变量前后之间有⽆统计依赖性，信原可以分为和。
7、噪声瞬时值的概率密度函数服从分布，同时功率谱密度为的噪声称为⾼斯⽩噪声。
8、当时，信源与信道达到匹配。
9、若连续信源输出信号的平均功率为2σ，则输出信号幅度的概率密度是⾼斯分布或正态分布或时，信源具有最⼤熵，其值为值。
9、在下⾯空格中选择填⼊数学符号“,,,=≥≤>”或“?” （1）H(XY) H(Y)+H(X|Y) H(Y)+H(X)（2）假设信道输⼊⽤X 表⽰，信道输出⽤Y 表⽰。
在有噪⽆损信道中， H(X/Y) 0, H(Y/X) 0, I(X;Y) H(X)。
⼆、（6分）若连续信源输出的幅度被限定在【1,3】区域内，当输出信号的概率密度是均匀分布时，计算该信源的相对熵，并说明该信源的绝对熵为多少。
三、（16分）已知信源12345S P 0.250.20.20.20.15s s s s s =（1）⽤霍夫曼编码法编成⼆进制变长码；（4分）（2）计算平均码长—L ；（4分）（3）计算编码信息率R '；（4分）（4）计算编码后信息传输率R ；（2分）（5）计算编码效率η。
（2分）四、（12分）已知⼀个平均功率受限的连续信号，通过带宽W 10MHz =的⾼斯⽩噪声信道，试计算（1）若信噪⽐为10，信道容量为多少？（4分）（2）若信道容量不变，信噪⽐降为5，信道带宽为多少？（4分）（3）若信道通频带减为5MHz 时，要保持相同的信道容量，信道上的信号与噪声的平均功率⽐值应等于多少？（4分）五、（16分）某个信息源发出符号的概率为：12()(),P a P a =3()0.4,P a =假设该信息源发出的符号前后有关联，其依赖关系为：112122321333312133(|);(|);(|);(|);(|);(|);443344P a a P a a P a a P a a P a a P a a ======（1）画出状态转移图（4分）（2）计算稳态概率（4分）（3）计算信源的极限熵（4分）（4）计算稳态下H1，H2及其对应的剩余度。
信息论基础—— 期末试卷 A 答案
○？○？大学 2008-2009 学年第一学期2006级 信息与计算科学专业 本 科 卷 A 参考答案与评分标准课程名称 信息论基础课程号（？？？） 考试形式（闭卷笔试） 时间（120分钟））一、判断题：本题共10小题，每题2分，满分20分。
1、√；2、√；3、×；4、×；5、√；6、×；7、×；8、√；9、√；10、×。
二、填空题：本题共7小题，每空2分，满分20分。
1、码字的最小距离（min d ）;2、（减少）冗余，提高编码效率; 提高信息传递的可靠性；3、系统码;4、无失真信源编码定理，信道编码定理，限失真信源编码定理;5、信道和信源都是无记忆；6、香农编码；7、2a。
三、计算题：本题共4小题，满分50分。
(15分)解：1/21/201/21/41/4P ⎡⎤=⎢⎥⎣⎦联合概率(,)i p x y则Y（2分）（1）11+414()log 2log log 24141a a H Y a a -=+++- ------------------（2分） 211161log 2log log 24141a aa a -=++-+ 211111log 2log16log log 244141a aa a -=+++-+23111log 2log log 24141a aa a-=++-+；取2为底2223111()(log log )24141a aH Y bit a a-=++-+； ------------------（1分） （2）11111111(|)log log log log log 2222224444aa a a a H Y X ---⎡⎤=-++++⎢⎥⎣⎦3(1)log 2log 22a a -=-+3log 22a-=； 取2为底，3(|)2aH Y X bit -=； ------------------（2分） （3）[]2()()()111max (;)max ()(|)max log 2log log 24411i i i p x p x p x aa a C I X Y H Y H Y X a a -⎛⎫==-=++ ⎪+-⎝⎭。
信息论与编码期末考试题----学生复习
《信息论基础》参考答案一、填空题1、信源编码的主要目的是提高有效性,信道编码的主要目的是提高可靠性。
2、信源的剩余度主要来自两个方面，一是信源符号间的相关性,二是信源符号的统计不均匀性。
3、三进制信源的最小熵为0，最大熵为bit/符号。
4、无失真信源编码的平均码长最小理论极限制为信源熵（或H(S)/logr= H r （S））。
5、当R=C或（信道剩余度为0）时，信源与信道达到匹配.6、根据信道特性是否随时间变化,信道可以分为恒参信道和随参信道。
7、根据是否允许失真，信源编码可分为无失真信源编码和限失真信源编码。
8、若连续信源输出信号的平均功率为，则输出信号幅度的概率密度是高斯分布或正态分布或时，信源具有最大熵，其值为值。
9、在下面空格中选择填入数学符号“”或“"（1）当X和Y相互独立时，H（XY)=H(X）+H（X/Y）=H（Y)+H（X）。
（2)（3）假设信道输入用X表示，信道输出用Y表示.在无噪有损信道中，H(X/Y)〉 0, H（Y/X)=0,I(X；Y）<H(X)。
二、若连续信源输出的幅度被限定在【2，6】区域内，当输出信号的概率密度是均匀分布时，计算该信源的相对熵，并说明该信源的绝对熵为多少.=2bit/自由度该信源的绝对熵为无穷大.三、已知信源(1）用霍夫曼编码法编成二进制变长码;（6分)（2）计算平均码长;（4分）（3）计算编码信息率；（2分）（4）计算编码后信息传输率；（2分）（5)计算编码效率。
(2分）(1)编码结果为：（2）（3）（4）其中，（5)四、某信源输出A、B、C、D、E五种符号，每一个符号独立出现,出现概率分别为1/8、1/8、1/8、1/2、1/8。
如果符号的码元宽度为0。
5。
计算:（1）信息传输速率。
（2）将这些数据通过一个带宽为B=2000kHz的加性白高斯噪声信道传输，噪声的单边功率谱密度为。
试计算正确传输这些数据最少需要的发送功率P。
解：（1）（2）五、一个一阶马尔可夫信源，转移概率为.（1) 画出状态转移图。
《信息论》期末考试试题( 卷)标准答案
2．（共 10 分）有两枚硬币，第一枚是正常的硬币，它的一面是国徽，另一面是 面值；第二枚是不正常的硬币，它的两面都是面值。现随机地抽取一枚硬币，进 行 2 次抛掷试验，观察硬币朝上的一面，其结果为：面值、面值。
1）求该试验结果与事件“取出的是第一枚硬币”之间的互信息；（4 分）
=
E( XS + αS 2 ) σ SσU
=
αQ σ SσU
I (U ; S) = H (U ) + H (S ) − H (US )
=
1 2
log
2πe σ
2 U
+
1 2
log
2πeσ
2 S
+
log 2πeσUσ S
1− ρ2
=
1 2
log
σ
σ σ2 2
SU
σ2 2
US
− (αQ)
2
=
1 log P + α 2Q
2 1 d = 1 0 7）若失真矩阵为 3 1 ，输入等概，则 Dmin = 2/3 ， Dmax = 2/3 。
三、简答题（6 分）
1．仙农第二定理指出了“高效率、高可靠性”的信道编码存在性，
1）“高效率”的含义是什么？
（1 分）
2）“高可靠性” 的含义是什么？
（1 分）
3）存在这种信道编码的必要条件是什么？
1− ρ2
=
1 log
σ
2 U
σ
2 Y
2
σ
2 U
σ
2 Y
−
(P
+ αQ)2
=
1 log
(P + Q + N )(P + α 2Q)
2022年西安科技大学信息管理与信息系统专业《计算机网络基础》科目期末试卷A(有答案)
2022年西安科技大学信息管理与信息系统专业《计算机网络基础》科目期末试卷A（有答案）一、选择题1、使用后退N帧协议，根据图所示的滑动窗口状态（发送窗口大小为2，接收窗口大小为1），指出通信双方处于何种状态（）。
A.发送方发送完0号帧，接收方准备接收0号帧B.发送方发送完1号帧，接收方接收完0号帧C.发送方发送完0号帧，接收方准备接收1号帧D.发送方发送完1号帧，接收方接收完1号帧2、主机甲和主机乙已建立了TCP连接，甲始终以MSS=1KB大小的段发送数据，并一直有数据发送；乙每收到一个数据段都会发出一个接收窗口为10KB的确认段。
若甲在t时刻发生超时拥塞窗口为8KB，则从t时刻起，不再发生超时的情况下，经过10个RTT后，甲的发送窗口是（）。
A.10KBB.12KBC.14KBD.15KB3、使用两种编码方案对比特流01100111进行编码的结果如图所示，编码1和编码2分别是（）A.NRZ 和曼彻斯特编码B.NRZ 和差分曼彻斯特编码C.NRZ-I和曼彻斯特编码D.NRZ-I和差分曼彻斯特编码4、主机甲通过128kbit/s卫星链路，采用滑动窗口协议向主机乙发，送数据，链路单向传播延迟为250ms，帧长为1000字节。
不考虑确认帧的开销，为使链路利用率不小于80%，帧序号的比特数至少是（）A.3B.4C.7D.85、假设物理信道的传输成功率是95%，而平均一个网络层的分组需要10个数据链路层的帧来发送。
如果数据链路层采用了无确认的无连接服务，那么发送网络层分组的成功率是（）。
A.40%B.60%C.80%D.95%6、某信道的信号传输速率为2000Baud，若想令其数据传输速率达到8kbit/s，则一个信号码元所能取的有效离散值个数应为（）。
A.2B.4C.8D.167、不含同步信息的编码是（）。
I.非归零码 II.曼彻斯特编码III.差分曼彻斯特编码A.仅IB.仅IIC.仅II、IID.I、II、III8、图中，若主机H2向主机H4发送1个数据帧，主机H4向主机H2立即发送1个确认帧，则除H4外，从物理层上能够收到该确认帧的主机还有（）.A.仪H2B.仅H3C.仅H1，H2D. 仅H2、H39、下列说法错误的是（）A.P2P是网络结点之间采取对等的方式直接交换信息的工作模式B.客户机是面向任务的，服务器是面向用户的C.客户机通常位于前端，服务器通常位于后端D.客户机和服务器之间是通过网络来实现协同计算任务的10、下列哪一项不属于路由选择协议的功能？（）A.获取网络拓扑结构的信息B.选择到达每个目的网络的最优路径C.构建路由表D.发现下一跳的物理地址二、填空题11、在传输介质上传输的信号有____________信号和____________信号之分。
信息论复习题期末答案
信息论复习题期末答案1. 信息论的创始人是谁？答案：信息论的创始人是克劳德·香农。
2. 信息熵的概念是什么？答案：信息熵是衡量信息量的一个指标，它描述了信息的不确定性或随机性。
在信息论中，熵越高，信息的不确定性越大。
3. 请简述信源编码定理。
答案：信源编码定理指出，对于一个具有确定概率分布的离散无记忆信源，存在一种编码方式，使得信源的平均编码长度接近信源熵的值，且当信源长度趋于无穷大时，编码长度与信源熵之间的差距趋于零。
4. 什么是信道容量？答案：信道容量是指在特定的通信信道中，能够以任意小的错误概率传输信息的最大速率。
它是信道的最大信息传输率，通常用比特每秒（bps）来表示。
5. 香农公式是如何定义信道容量的？答案：香农公式定义信道容量为信道输入和输出之间的互信息量的最大值，可以表示为C = B log2(1 + S/N)，其中C是信道容量，B是信道带宽，S是信号功率，N是噪声功率。
6. 差错控制编码的目的是什么？答案：差错控制编码的目的是为了检测和纠正在数据传输过程中可能发生的错误，以提高数据传输的可靠性。
7. 什么是线性码？答案：线性码是一种特殊的编码方式，其中任意两个合法编码的线性组合仍然是一个合法编码。
线性码通常可以用生成矩阵和校验矩阵来表示。
8. 卷积码和块码有什么区别？答案：卷积码和块码都是差错控制编码的类型，但它们的主要区别在于编码的结构和处理方式。
卷积码是连续的，其编码过程是按时间序列进行的，而块码是离散的，其编码过程是针对数据块进行的。
9. 什么是信道编码定理？答案：信道编码定理指出，对于任何给定的信道和任何小于信道容量的错误概率，都存在一种编码方式，可以使得错误概率趋近于零。
10. 请解释什么是信道编码的译码算法。
答案：信道编码的译码算法是一种用于从接收到的编码信号中恢复原始信息的方法。
常见的译码算法包括维特比算法、最大似然译码和最小均方误差译码等。
这些算法旨在最小化译码错误的概率。
信息编码论期末考试试题
信息编码论期末考试试题一、单项选择题（每题2分，共20分）1. 信息论的奠基人是：A. 爱因斯坦B. 牛顿C. 香农D. 麦克斯韦2. 下列哪个不是编码的基本原则？A. 唯一性B. 可识别性C. 可逆性D. 复杂性3. 熵是衡量信息量的一个指标，它在信息论中的定义是：A. 信息的不确定性B. 信息的确定性C. 信息的有序性D. 信息的无序性4. 在信息编码中，冗余度是指：A. 编码中多余的部分A. 编码中重复的部分C. 编码中必需的部分D. 编码中缺失的部分5. 以下哪个编码方式不是基于概率的？A. 霍夫曼编码B. 香农-费诺编码C. 游程编码D. ASCII编码二、填空题（每题2分，共20分）1. 信息论中的信息量通常用______来衡量。
2. 信息的传输速率是指单位时间内传输的______。
3. 在编码理论中，______编码是一种无损压缩编码。
4. 信息论中的信噪比是指______与______的比例。
5. 编码的目的是减少信息的______，提高信息的传输效率。
三、简答题（每题10分，共30分）1. 简述信息论中熵的概念及其计算公式。
2. 描述霍夫曼编码的基本原理及其在数据压缩中的应用。
3. 阐述信道容量的概念，并解释如何通过信道编码来逼近信道容量。
四、计算题（每题15分，共30分）1. 给定一组字符及其出现概率：A(0.4), B(0.25), C(0.15), D(0.1), E(0.1)。
请使用霍夫曼编码为这组字符设计一个最优编码方案，并计算该编码方案的平均码长。
2. 假设一个信道的信噪比为10dB，信道带宽为3000Hz，请计算该信道的最大数据传输速率（香农极限）。
五、论述题（共20分）1. 论述信息编码在现代通信系统中的重要性，并举例说明其在实际应用中的作用。
请考生在规定的时间内完成以上试题，注意保持答题卡的整洁，字迹清晰。
祝您考试顺利！。
信息论与编码期末考试题（全套）
信息论与编码期末考试题（全套）（一）一、判断题共 10 小题，满分 20 分.1. 当随机变量X 和Y 相互独立时，条件熵)|(Y X H 等于信源熵)(XH . （）2. 由于构成同一空间的基底不是唯一的，所以不同的基底或生成矩阵有可能生成同一码集.（）3.一般情况下，用变长编码得到的平均码长比定长编码大得多. （） 4. 只要信息传输率大于信道容量，总存在一种信道编译码，可以以所要求的任意小的误差概率实现可靠的通信（）5. 各码字的长度符合克拉夫特不等式，是唯一可译码存在的充分和必要条件. （） 6. 连续信源和离散信源的熵都具有非负性. （） 7. 信源的消息通过信道传输后的误差或失真越大，信宿收到消息后对信源存在的不确定性就越小，获得的信息量就越小.8. 汉明码是一种线性分组码. （） 9. 率失真函数的最小值是0. （）10.必然事件和不可能事件的自信息量都是0. （）二、填空题共 6 小题，满分 20 分.1、码的检、纠错能力取决于 .2、信源编码的目的是；信道编码的目的是 .3、把信息组原封不动地搬到码字前k 位的),(k n 码就叫做 .4、香农信息论中的三大极限定理是、、.5、设信道的输入与输出随机序列分别为X 和Y ，则),(),(Y X NI Y X I N N =成立的条件 ..6、对于香农-费诺编码、原始香农-费诺编码和哈夫曼编码，编码方法惟一的是 .7、某二元信源01()1/21/2X P X =???，其失真矩阵00a D a ??=，则该信源的max D = .三、本题共 4 小题，满分 50 分.1、某信源发送端有2种符号i x )2,1(=i ,a x p =)(1；接收端有3种符号iy )3,2,1(=j ，转移概率矩阵为1/21/201/21/41/4P ??=.（1）计算接收端的平均不确定度()H Y ；（2）计算由于噪声产生的不确定度(|)H Y X ；（3）计算信道容量以及最佳入口分布.2、一阶马尔可夫信源的状态转移图如右图所示，信源X 的符号集为}2,1,0{.（1）求信源平稳后的概率分布；（2）求此信源的熵；（3）近似地认为此信源为无记忆时，符号的概率分布为平稳分布.求近似信源的熵)(X H 并与H ∞进行比较.3、设码符号为}2,1,0{=X ，信源空间为05.005.005.005.01.01.02.04.087654321s s s s s s s s 试构造一种三元紧致码.4、设二元)4,7(线性分组码的生成矩阵为=1000101010011100101100001011G . （1）给出该码的一致校验矩阵，写出所有的陪集首和与图2-13之相对应的伴随式；（2）若接收矢量)0001011(=v ，试计算出其对应的伴随式S 并按照最小距离译码准则试着对其译码.（二）一、填空题（共15分，每空1分）1、信源编码的主要目的是，信道编码的主要目的是。
《信息论》期末考试B卷答案
第1 页 共5 页北方民族大学试卷课程代码： 01100622 课程： 信息理论及编码 B 卷答案说明:此卷为《信息理论及编码》B 卷答案一、概念简答题（每小题6分，共30分)1、比较平均自信息（信源熵）与平均互信息的异同。
答：平均自信息为 ()()()1log qiii H X P a P a ==-∑，表示信源的平均不确定度，也表示平均每个信源消息所提供的信息量。
………………………………………(3分)平均互信息()()()(),;log X YyP x I X Y P xy P y =∑。
表示从Y 获得的关于每个X 的平均信息量，也表示发X 前后Y 的平均不确定性减少的量,还表示通信前后整个系统不确定性减少的量。
………………………………………(3分)2、简述香农第一定理.答：对于离散信源S 进行r 元编码,只要其满足()_log H s NNrL ≥，…………………(3分) 当N 足够长，总可以实现无失真编码。
………………………………………（3分）3、简述唯一可译变长码的判断方法？答:将码C 中所有可能的尾随后缀组成一个集合F ，当且仅当集合F 中没有包含任一码字时,码C 为唯一可译变长码。
构成集合F 的方法：…………………（2分)首先，观察码C 中最短的码字是否是其他码字的前缀。
若是,将其所有可能的尾随后缀排列出。
而这些尾随后缀又可能是某些码字的前缀，再将由这些尾随后缀产生的新的尾随后缀列出。
依此下去，直至没有一个尾随后缀是码字的前缀或没有新的尾随后缀产生为止。
…………………(2分） 接着，按照上述步骤将次短的码字直至所有码字可能产生的尾随后缀全部列出，得到尾随后缀集合F 。
…………………(2分)4、简述最大离散熵定理.第2 页 共5 页答:最大离散熵定理为：对于离散无记忆信源，当信源等概率分布时熵最大。
……（3分）对于有m 个符号的离散信源,其最大熵为log m 。
…………………………(3分)5、什么是汉明距离;两个二元序列1230210,0210210i j αβ==，求其汉明距离。
信息论与编码期末试卷
7：根据香农第一定理（定长编码定理）若一个离散无记忆信源X的信源熵为H(X)，对其n个符号进行二元无失真编码时，其码字的平均长度必须大于____________
8：若某二元序列是一阶马尔科夫链，P(0/0)=，P(1/1)=，则‘0’游程长度为4的概率为____________,若游程序列为312314，则原始的二元序列为_________.
9:若循环码的生成多项式为 ，则接收向量为（1111011）的伴随多项式为_______________
10:对有32个符号的信源编4进制HUFFMAN码，第一次取_______个信源进行编码.
11:若一个线性分组码的所有码字为：00000,10101,01111,11010，则该码为（____,_____）,该码最多可以纠正_______位错误，共有________陪集.
12：码长为10的线性分组码若可以纠正2个差错,其监督吗至少有__5____位.
13：（7,4）汉明码的一致校验矩阵为 ，则 为__________.
二；计算分析题（共60分）
1：（本题满分18分）某离散无记忆信道的信源分布为p(0)=,p(1)=,传送时0错成1的概率为, 0错成2的概率为， 1错成0的概率为， 1错成2的概率为， 其余则正确传送。
信息论与编码期末试卷(共3页)
课程名:信息论与编码课程号:07276033学分:4
一：填空题(每空2分，共40分)
1：掷一个正常的骰子，出现‘5’这一事件的自信息量为________,同时掷两个正常的骰子，‘点数之和为5’这一事件的自信息量为___________.（注明物理单位）
2：某信源包含16个不同的离散消息，则信源熵的最大值为___________,最小值为_____________.
信息论考试卷与答案..
考试科目名称：信息论一. 单选（每空2分，共20分）1.一个m位的二进制数的自信息量为（A ）A．m bitB．1 bitC．m2mD．22.信源编码的目的是（A ）A．提高通信有效性B．提高信息传输的可靠性C．提高通信系统的安全性D．压缩信源的冗余度3.下面属于最佳变长编码的是（C ）A．算术编码和游程编码B．香农编码和游程编码C．哈夫曼编码和费诺编码D．预测编码和香农编码4.表中符合即时码的是（A ）和（D ）5.下列各量可能为负值的是（B ）A．自信息量B．互信息量C．信息熵D．平均互信息量6.联合熵H（XY）与熵H（X）及条件熵H（X/Y）之间存在关系错误的是（D ）A．H（XY）＝H（X）＋H（Y／X）B．若X和Y相互独立，H（Y）=H（Y／X）C．H（XY）＝H（Y）＋H（X／Y）D．H（XY）＝H（X）＋H（X／Y）7.已知发送26个英文字母（包括空格），其最大信源熵（发送概率相等）为H0 = log27 = 4.76比特/符号；在字母发送概率不等时，其信源熵为H1 = 4.03比特/符号；考虑字母之间相关性时，其信源熵为H2 = 3.32=1.4比特/符号。
问若用一般传送比特/符号；以此类推，极限熵H∞方式，冗余度γ为（ B ）A．0.58B．0.71C．0.65D．0.298. 某信道传递矩阵为，其信道容量为（ D ）A ．)41log 4143log 43()81,81,41,21(4log ++-=H C B ．)41log 4343log 41()81,81,41,21(2log +--=H C C ．)41log 4143log 43()81,81,41,21(4log +--=H CD ．)41log 4143log 43()81,81,41,21(2log +--=H C9. 下列各图所示信道是对称信道的是（ C ）A ．B ．C ．⎥⎥⎥⎦⎤⎢⎢⎢⎣⎡=8181214181814121PD．二. 综合（共80分）1.（10分）试画出通信系统的模型，并叙述各部分的定义和作用。
《信息论》期末考试试题(A卷)标准答案
2 次扩展信源符号 00 01 10 11 概 率 0.81 0.09 0.09 0.01 编 0 10 110 111 码
(3 分)
计算每信源符号平均码长为： l (1 0.19 0.10) / 2 0.645 ，编码器每秒输出 符号数为： 3.5 0.645 2.2575 2 ,所以传输不满足失真要求。 将信源的 3 次扩展源进行 Huffman 编码，结果为：
3
(1) 信源符号速率 3.5 大于信道传输速率 2，所以信源直接与信道相接，不能保证无失 真传输。 (3 分) (2) 采用适当的编码方式可以通过信道进行无失真传输。 (2 分) H ( X ) H (0.1) 0.1 log 0.1 0.9 log 0.9 0.469 比特/符号 信源熵率为 H (b / s ) H ( X ) 3.5 1.6415 b / s ，二元无噪信道容量为 C (b / s ) 2 b / s 。 因为 H (b / s) C (b / s) ，所以根据信源信道编码定理可知，采用适当的编码方式然后通
计 算 每 信 源 符 号 平 均 码 长 为 ： l 0.5327 ， 编 码 器 每 秒 输 出 符 号 数 为 ： (5 分) 3.5 0.5327 1.8644 2 ,所以传输满足不失真要求。 由于这种编码所得是变长码，因此在编码器与信道之间应设置缓冲器。 (2 分)
六、计算题（16 分）
三、简答题（由 4 个独立子信道组成， 子信道方 差如右图所示，其中 1、2、3、4 子信道的方差分别为 2、1、 4、3； （1）达到容量时，信道输入应该是何种分布？各子信道的 输入是否统计独立？ (1+1 分)
西安科技大学2005—2006信息论期末考试试题
西 安 科 技 大 学2005 —2006 学 年 第 一 学 期 期 末（中）考 试 试 题（卷）
院（系、部）
： 班级： 姓名： 学号： 装 订 线 装 订 线 以 内 不 准 作 任 何 标 记 装 订 线
1
西 安 科 技 大 学20 —20 学 年 第 学 期 期 末（中）考 试 试 题（卷）
院系： 班级： 姓名： 学号：
装 订 线 装 订 线 以 内 不 准 作 任 何 标 记 装 订 线
西 安 科 技 大 学20 —20 学 年 第 学 期 期 末（中）考 试 试 题（卷）
院系： 班级： 姓名： 学号：
装 订 线 装 订 线 以 内 不 准 作 任 何 标 记 装 订 线
西 安 科 技 大 学20 —20 学 年 第 学 期 期 末（中）考 试 试 题（卷）
院系： 班级： 姓名： 学号：
装 订 线 装 订 线 以 内 不 准 作 任 何 标 记 装 订 线
西 安 科 技 大 学20 —20 学 年 第 学 期 期 末（中）考 试 试 题（卷）
院系： 班级： 姓名： 学号：
装 订 线 装 订 线 以 内 不 准 作 任 何 标 记 装 订 线。
《信息论》试题（精华）及答案（精华版）
期终练习,10％就是胖子 ,80％不胖不瘦 ,10％就是瘦子；已知胖子得高血压的概率 一，某地区的人群中 就是 15％ ,不胖不瘦者得高血压的概率就是 10％,瘦子得高血压的概率就是 5％ ,就“该地区的 某一位高血压者就是胖子”这句话包含了多少信息量；解: 设大事 A: 某人就是胖子 ; B: 某人就是不胖不瘦 C:某人就是瘦子D: 某人就是高血压者依据题意 ,可知 :P(A)=0 ， 1 P(B)=0 ， 8 P(C)=0 ，1P(D|A)=0 ， 15 P(D|B)=0 ， 1 P(D|C)=0 ， 05而“该地区的某一位高血压者就是胖子” 这一消息说明在 D 大事发生的条件下 ,A 大事 的发生 ,故其概率为 依据贝叶斯定律 P(A|D),可得 :P(D) ＝ P(A)* P(D|A) ＋ P(B)* P(D|B) ＋P(C)* P(D|C) ＝ 0， 1P(A|D) ＝ P(AD)/P(D) ＝ P(D|A)*P(A)/ P(D) ＝ 0， 15*0 ， 1/0， 1＝ 0，15故得知“该地区的某一位高血压者就是胖子”这一消息获得的多少信息量为 I(A|D) = - logP(A|D)=log(0 ，15) ≈ 2， 73 (bit): 二，设有一个马尔可夫信源 ,它的状态集为 {S 1,S 2,S 3}, 符号集为 {a 1,a 2,a 3 }, 以及在某状态下发出 p (a k | s i ) (i,k=1,2,3), 如下列图符号集的概率就是 (1) 求图中马尔可夫信源的状态极限概率并找出符号的极限概率(2) 运算信源处在某一状态下输出符号的条件熵 H(X|S=j) (j=s 1,s 2,s 3)(3) 求出马尔可夫信源熵 H解 :(1) 该信源达到平稳后 , 有以下关系成立 :Q( E 1 ) Q(E 3 ) 273727Q(E 1 )3 4 1 4 1 2 1 2 Q( E 2 ) Q(E 1 ) Q( E 2 )Q(E )可得 2 Q( E 3 ) Q(E 1 ) Q( E 2 )Q(E ) 3Q( E 1 ) Q(E 2 ) Q(E 3 ) 133 72 73 7 p(a 1)Q(E i ) p( a 1 |E i ) i 13 p(a 2 )Q(E i ) p(a 2 |E i ) i 1 3p(a ) Q(E ) p(a |E ) 3 i 3 i i 13 p(a k |S 1 ) log p(a k | S 1) 1.（5 bit/ 符号）H ( X | S 1 ) k 13（1 bit/ 符号）(2) H ( X | S 2 ) p(a k |S 2 ) log p(a k | S 2 ) k 13p(a k |S 3 ) log p(a k | S 3 ) 0（bit/ 符号）H ( X | S 3 ) k 13(3) H Q(E i ) H (X | E i ) 2 / 7*3/ 2 3/ 7*1 2 / 7*0 6 / 7 (比特 /符号 )i 1三，二元对称信道的传递矩阵为 (1) 如 P(0)=3/4,P(1)=1/4, 求 H(X),H(X|Y) 与 I(X;Y)(2) 求该信道的信道容量及其最大信道容量对应的正确输入分布2解: ⑴ H ( X ) = p(x i )log p( x i ) 75 25 0， 811(比特 /符号 )= i 1p( y 1 ) p( x 1 ) p( y 1 | x 1 ) p( x 2 ) p( y 1 | x 2 ) =0，75*0 ，6+0 ， 25*0 ， 4=0 ， 55 p( y 2 ) p( x 1 ) p( y 2 | x 1 ) p( x 2 ) p( y 2 | x 2 ) 0， 75*0 ， 4+0 ， 25*0 ， 6=0， 45 H (Y) 0， 992(比特 /符号 )H (Y | X ) p( x)H (Y | x 1) p(x 2 ) H (Y | x 2 ) H (0.6,0.4) H (0.4,0.6) 0.4)7（1 比特 / 符号）H ( X | Y ) H ( XY ) H (Y) H ( X ) H (Y | X ) H (Y)0， 811+0， 971-0 ， 992=0， 79 (比特 /符号 )I(X;Y)=H(X)-H(X|Y) =0， 811-0， 79=0， 021(比特 /符号 )(2) 此信道为二元对称信道 ,所以信道容量为C=1-H(p)=1-H(0 ， 6)=1-0 ， 971=0， 029( 比特 /符号 )当输入等概分布时达到信道容量p p 22pp2244,其中p 1 p ；四，求信道的信道容量0 44 0p p 22pp22解: 这就是一个准对称信道,可把信道矩阵分为: ,N1 M 1 1 4 , N 2 4 , M 422C log r H ( p 2, p 2 ,0,4 ) Nk log Mkk 1log 2 H ( p 2 , p 2 ,0,4 )(1 4 )log(1 44)4log 4(比特/ 符号）故1H ( p 2 , p 2 ,4 ) (1 4 )log(1 4 ) log 4 当输入等概分布时达到信道容量；1XP( x) x1x2x3x4x5x6五，信源(1) 利用霍夫曼码编成二元变长的惟一可译码,并求其L,并求其L(2) 利用费诺码编成二元变长的惟一可译码(3) 利用香农码编成二元变长的惟一可译码(1) 香农编码:,并求其信源符号x 1x 2x 3x 4x 5x 6概率P(x i)0，40，20，20，10，050，05码长233455累积概率0，40，60，80，90，95码字0001110011001110011110l i PL =0 ，4×2＋0，2×3＋0，2×3＋0，1×4＋0，05×5＋0，05×5＝2，9(码元/信源符号)η＝H(X)/( L logr)=2 ，222/2，9=0 ，7662(2) 霍夫曼编码:L =0 ，4×2+0，2×2×2+0 ，1×3+0，05×4×2=2，3(码元/信源符号)η＝H(X)/( L logr)=0 ，9964(3)费诺编码:L =0 ，4×2+0，2×2×2+0 ，1×3+0，05×4×2=2，3(码元/信源符号)η＝H(X)/( L logr)= 0 ，99641 21312161613121613六，设有一离散信道,传递矩阵为设P(x1 )= P(x 2)=1/4,P(x 3)=1/2,试分别按最小错误概率准就与最大似然译码准就确定译码规章并相应的运算机平均错误概率的大小；解:(1) 按最大似然译码准就,F(y1)=x1 F(y2)=x2 F(y3)=x3P(E)=1/2(1/3+1/6)+1/4 ×2×(1/3+1/6)=1/2(2) 联合概率矩阵为,就按最小错误概率准1 8 1 24 1 61121811212411214F(y1)=x3 F(y2)=x2 F(y3)=x3 P(E)= 1/8+1/24+2/12 +1/24+1/12=11/240,131,13213UP(u)八，一个三元对称信源0 1 1 1 0 1 11接收符号为 V ＝ {0,1,2}, 其失真矩阵为 (1)求 D max 与 D min 及信源的 R(D) 函数；(2)求出达到 R(D ) 的正向试验信道的传递概率1 r2 3解 :(1) D max ＝ min P （ u ) d(u ,v) 1 V U 3D min ＝ P （ u ) min d (u , v) 0 j i 1由于就是三元对称信源 ,又就是等概分布 ,所以依据 r 元离散对称信源可得 R(D) ＝log3 － Dlog2 －H(D) ＝ log3 － D － H(D) 0<=D<=2/3＝ 0 D>2/3(2)满意 R(D) 函数的信道其反向传递概率为1 D (i j )P(u i | v j ) D2 (i j )13以及有 P(v j )= 依据依据贝叶斯定律 ,可得该信道的正向传递概率为 :1 D2 D (i j )P( v j | u i ) (i j )九，设二元码为 C=[11100,01001,10010,00111](1) 求此码的最小距离 d min ;(2) 采纳最小距离译码准就 ,试问接收序列 10000,01100 与 00100 应译成什么码字？(3) 此码能订正几位码元的错误？解:(1) 码距如左图11100 01001 10010 001111110001001 10010 00111 33 4 43 3故 d min ＝ 3(2) 码距如右图故 10000 译为 译为 11100,00100 译为 11100 或 0011110010,01100 d min 2 e 1,知此码能订正一位码元的错误；(3) 依据。
信息论期末考试试题1.doc
安徽大学2011-2012学年第1学期《信息论》考试试卷(AB合卷)院/系____________ 年级_________ 专业______________ 姓名 _______________ 学号 ____________一、填空题1、接收端收到y后，获得关于发送的符号是的信息量是_______________________ 。
2、香农信息的定义_________________________________________________________ o3、在已知事件zeZ的条件下，接收到y后获得关于事件％的条件互信息/U;＞，|z)的表达式为_______________________________________ O4、通信系统模型主要分成五个部分分别为：___________________________________ 。
5、研究信息传输系统的目的就是要找到信息传输过程的共同规律，以提高信息传输的可靠性、有效性、_________ 和 _________，使信息传输系统达到最优化。
6、某信源S共有32个信源符号，其实际熵氏= 1.4比特/符号，则该信源剩余度为________________ o7、信道固定的情况下，平均互信息/(x;r)是输入信源概率分布PU)的_型凸函数。
信源固定的情况下，平均互信息是信道传递概率P(y|x)的_型凸函数。
8、当信源与信道连接时，若信息传输率达到了信道容量，则称此信源与信道达到匹配。
信道剩余度定义为________________________ O9、己知信源X的熵H(X)=0.92比特/符号，则该信源的五次无记忆扩展信源X5的信息嫡H(X5)= _____________ o10、 __________________________________________________________________ 将儿，H b, //0, H4, A从大到小排列为_______________________________________________ 。
最新《信息论》(电子科大)试卷答案---副本
电子科技大学二零零 五 至二零零 六 学年第 二 学期期 末 考试《信息论导论》 课程考试题 B 卷 （ 120 分钟） 考试形式： 开卷 考试日期 200 6 年 8 月 31 日课程成绩构成：平时 20 分， 期中 分， 实验 分， 期末 80 分一、已知平稳无记忆信源X 1X 2X 3X 4X 5X 6任一符号的数学模型⎭⎬⎫⎩⎨⎧=⎥⎦⎤⎢⎣⎡1.02.03.04.03210)X (P X i i ，i =1,2,3,4,5,6；①求符号序列取值013020时的联合自信息量I(013020)；②求该信源的联合熵H(X 1X 2X 3X 4X 5X 6)。
（8分）①I(013020) = 11.347(bit) (4) ②H(X 1X 2X 3X 4X 5X 6) = 6H(X) = 11.079(bit/symbol) (4)二、二元二阶马尔科夫信源的状态图如图所示，求该信源的极限熵H ∞。
（10分）p(00) = p(11) =185,p(01) = p(10) =184(列方程) (6) H ∞=H 2+1= 0.984(bit/symbol) (4)三、已知信源的数学模型⎭⎬⎫⎩⎨⎧=⎥⎦⎤⎢⎣⎡05.005.01.025.025.03.0x x x x x x )X (P X 654321；对该信源编二进制哈夫曼码，并求其编码效率。
（12分）(6) H(X) = 2.286(bit/symbol)3.2K =(bit/symbol)0.6x 2 x 3 x 4 x 5 x 6 1 11 0 1 101 10 110 1110 11110.25 0.25 0.1 0.05 0.05 0.10.20.45x 10.310 0.5500%4.99K )X (H ==η (6)四、已知信源的概率分布P(X) ={0.6,0.4}，信道的信道矩阵P(Y/X) =⎥⎦⎤⎢⎣⎡8.02.03.07.0；①求信宿Y 的香农熵H(Y)；②求噪声熵H(Y/X)；③求平均互信息量I(X;Y)。
2022年西安科技大学信息管理与信息系统专业《计算机网络基础》科目期末试卷B(有答案)
2022年西安科技大学信息管理与信息系统专业《计算机网络基础》科目期末试卷B（有答案）一、选择题1、一般来说，学校的网络按照空间分类属于（）。
A.多机系统B.局域网C.城域网D.广域网2、以下说法错误的是（）。
I..广播式网络一般只包含3层，即物理层、数据链路层和网络层II.Intermet的核心协议是TCP/IPIII.在lnternet中，网络层的服务访问点是端口号A. I、II、IIIB. IIIC. I、ⅢD. I、II3、使用两种编码方案对比特流01100111进行编码的结果如图所示，编码1和编码2分别是（）A.NRZ 和曼彻斯特编码B.NRZ 和差分曼彻斯特编码C.NRZ-I和曼彻斯特编码D.NRZ-I和差分曼彻斯特编码4、一个TCP连接的数据传输阶段，如果发送端的发送窗口值由2000变为3000，意味着发送端可以（）。
A.在收到一个确认之前可以发送3000个TCP报文段B.在收到一个确认之前可以发送1000BC.在收到一个确认之前可以发送3000BD.在收到一个确认之前可以发送2000个TCP报文段5、下列关于交换机的叙述中，正确的是（）A.以太网交换机本质上是一种多端口网桥B.通过交换机互连的一组工作站构成一个冲突域C.交换机每个端口所连网络构成一个独立的广播域D.以太网交换机可实现采用不同网络层协议的网络互连6、流量控制是为防止（）所需要的。
A.位错误B.发送方缓冲区溢出C.接收方缓冲区溢出D.接收方与发送方间冲突7、主机甲通过1个路由器（存储转发方式）与主机乙互连，两段链路的数据传输速率均为10Mbit/s.主机甲分别采用报文交换和分组大小为10kbit的分组交换向主机乙发送1个大小为8Mbit（1M=106）的报文。
若忽略链路传播延迟、分组头开销和分组拆装时间，则两种交换方式完成该报文传输所需的总时间分别为（）。
A.800ms，1600msB.801ms，1600msC.1600ms，800msD.1600ms，801ms8、利用模拟通信信道传输数字信号的方法称为（）A.同步传输B.异步传输C.基带传输D.频带传输9、调制解调技术主要使用在（）通信方式中。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
西 安 科 技 大 学2005 —2006 学 年 第 一 学 期 期 末（中）考 试 试 题（卷）
院（系、部）
： 班级： 姓名： 学号： 装 订 线 装 订 线 以 内 不 准 作 任 何 标 记 装 订 线
1
西 安 科 技 大 学20 —20 学 年 第 学 期 期 末（中）考 试 试 题（卷）
院系： 班级： 姓名： 学号：
装 订 线 装 订 线 以 内 不 准 作 任 何 标 记 装 订 线
西 安 科 技 大 学20 —20 学 年 第 学 期 期 末（中）考 试 试 题（卷）
院系： 班级： 姓名： 学号：
装 订 线 装 订 线 以 内 不 准 作 任 何 标 记 装 订 线
西 安 科 技 大 学20 —20 学 年 第 学 期 期 末（中）考 试 试 题（卷）
院系： 班级： 姓名： 学号：
装 订 线 装 订 线 以 内 不 准 作 任 何 标 记 装 订 线
西 安 科 技 大 学20 —20 学 年 第 学 期 期 末（中）考 试 试 题（卷）
院系： 班级： 姓名： 学号：
装 订 线 装 订 线 以 内 不 准 作 任 何 标 记 装 订 线。