信息论基础》试卷(期末A卷
信息技术基础A卷
2017～2018学年第一学期期末考试试卷（A卷）课程名称：信息技术基础任课教师姓名：
考试时长： 100 分钟卷面总分： 100 分考试类别：闭卷√开卷□院（部）：年级：班级：
姓名：学号：
阅卷教师（签字）：
一、单项选择题：（第1－20题。选择正确的答案，将相应的字母填入题内的括号中。每题2分，满分40分）
1.一个字节由（）个二进制位组成。
A）2 B）4 C）8 D）16 2.在计算机领域中，通常用英文单词“Byte”来表示（）。
A）字B）字节C）二进制位D）字长3.计算机内部一切信息的存取）处理）传送都是以（）形式进行
的。
A）二进制B）十六进制C）GB码D）ASCII 码
4.在Word文档中有一段落的最后一行只有一个字符，想把该字符合并
到上一行，下述方法中哪一个无法达到该目的？（）
A）减少页的左右边距B）减小该段落的字体的字号
C）减小该段落的字间距D）减小该段落的行间距5.在Word中，下述关于分栏操作的说法，正确的是：（）
A）可以将指定的段落分成指定宽度的两栏
B）任何视图下均可看到分栏效果
C）设置的各栏宽度和间距与页面宽度无关
D）栏与栏之间不可以设置分隔线
6.要设置行距小于标准的单倍行距，需要选择（）再输入磅值。
A）两倍B）单倍C）固定值D）最小值
7.打印页码2-5,10,12表示打印的是（）。
A）第2页，第5页，第10页，第12页
B）2至5页，第10至12页
C）第2至5页，第10页，第12页
D）第2页，第5页，第10至12页
8.在打印预览状态下，若要打印文件（）。
A) 必须退出预览状态后才能打印
信息论基础及答案
《信息论基础》试卷答案
一、填空题（共25分，每空1分）
1、连续信源的绝对熵为 无穷大。（或()()lg lim lg p x p x dx +∞
-∞∆→∞
--∆⎰） 2、离散无记忆信源在进行无失真变长信源编码时，编码效率最大可以达到 1 。
3、无记忆信源是指 信源先后发生的符号彼此统计独立 。
4、离散无记忆信源在进行无失真变长编码时，码字长度是变化的。根据信源符号的统计特性，对概率大的符号用 短 码，对概率小的符号用 长 码，这样平均码长就可以降低，从而提高 有效性(传输速率或编码效率) 。
5、为了提高系统的有效性可以采用 信源编码 ，为了提高系统的可靠性可以采用 信道编码 。
6、八进制信源的最小熵为 0 ，最大熵为 3bit/符号 。
7、若连续信源输出信号的平均功率为1瓦特，则输出信号幅度的概率密度函数为 高斯分布(或()0,1x N 2
2
x
-)时，信源具有最大熵，其值为 0.6155hart(或1.625bit 或1lg 22
e π)。 8、即时码是指 任一码字都不是其它码字的前缀 。
9、无失真信源编码定理指出平均码长的理论极限值为 信源熵(或H r (S)或()lg H s r
)，此时编码效率为 1 ，编码后的信息传输率为 lg r bit/码元 。
10、一个事件发生的概率为0.125，则自信息量为 3bit/符号 。
11、信源的剩余度主要来自两个方面，一是 信源符号间的相关性 ，二是 信源符号概率分布的不均匀性 。
12、m 阶马尔可夫信源的记忆长度为 m+1 ，信源可以有 q m 个不同
信息论试卷含答案
《信息论基础》参考答案
一、填空题（共15分，每空1分）
1、信源编码的主要目的是提高有效性，信道编码的主要目的是提高可靠性。
2、信源的剩余度主要来自两个方面，一是信源符号间的相关性，二是信源符号的统计不均匀性。
3、三进制信源的最小熵为0，最大熵为32log bit/符号。
4、无失真信源编码的平均码长最小理论极限制为信源熵（或H(S)/logr= H r (S)）。
5、当R=C 或（信道剩余度为0）时，信源与信道达到匹配。
6、根据信道特性是否随时间变化，信道可以分为恒参信道和随参信道。
7、根据是否允许失真，信源编码可分为无失真信源编码和限失真信源编码。
8、若连续信源输出信号的平均功率为2σ，则输出信号幅度的概率密度是高斯分布或正态分布或(
)22
2x f x σ-=
时，信源具有最大熵，其值为值21
log 22
e πσ。
9、在下面空格中选择填入数学符号“,,,=≥≤〉”或“〈”
（1）当X 和Y 相互独立时，H （XY ）=H(X)+H(X/Y)=H(Y)+H(X)。
（2）()()
1222H X X H X =≥()()12333
H X X X H X = （3）假设信道输入用X 表示，信道输出用Y 表示。在无噪有损信道中，H(X/Y)> 0, H(Y/X)=0,I(X;Y)<H(X)。 二、（6分）若连续信源输出的幅度被限定在【2,6】区域内，当输出信号的概率密度是均匀分布时，计算该信源的相对熵，并说明该信源的绝对熵为多少。
()1
,26
4
0,x f x ⎧≤≤⎪=⎨⎪⎩其它
()()()6
信息论基础及答案
《信息论基础》试卷第1页
《信息论基础》试卷答案
一、填空题（共25分，每空1分）1、连续信源的绝对熵为
无穷大。（或()()lg lim lg p x p x dx +¥-¥
D ®¥
-
-D ò
）
2、离散无记忆信源在进行无失真变长信源编码时，编码效率最大可以达到、离散无记忆信源在进行无失真变长信源编码时，编码效率最大可以达到 1 1 1 。。
3、无记忆信源是指信源先后发生的符号彼此统计独立。
4、离散无记忆信源在进行无失真变长编码时，码字长度是变化的。根据信源符号的统计特性，对概率大的符号用短
码，对概率小的符号用
长
码，这样平均码长就可
以降低，从而提高
有效性有效性((传输速率或编码效率传输速率或编码效率) ) ) 。。
5、为了提高系统的有效性可以采用信源编码，为了提高系统的可靠性可
以采用信道编码。6、八进制信源的最小熵为、八进制信源的最小熵为 0 0 0 ，最大熵为，最大熵为，最大熵为 3bit/ 3bit/ 3bit/符号符号
。7、若连续信源输出信号的平均功率为1瓦特，则输出信号幅度的概率密度函数为高斯分布高斯分布((或()0,1x N 或22
12x e
p
-
)时，信源具有最大熵，其值为其值为 0.6155hart( 0.6155hart( 0.6155hart(或或
1.625bit 或
1lg 22
e p )。
8、即时码是指任一码字都不是其它码字的前缀。
9、无失真信源编码定理指出平均码长的理论极限值为
信源熵信源熵((或H r (S)(S)或或
()lg H s r
)，此
时编码效率为时编码效率为 1 1 1 ，编码后的信息传输率为，编码后的信息传输率为，编码后的信息传输率为 lg lg r bit/ bit/码元码元。
《信息论》期末考试试题(A 卷) 标准答案
从零均值的高斯分布，且相互独立，方差分别为 σ12
和σwenku.baidu.com2
，且 σ12
>
σ
2 2
，信道输
入均值为零, E x12 + x22 ≤ P ；
(1) 当达到信道容量时， E[x12 ] = 0 ；
(3+3=6 分)
①确定σ12 ，σ 22 和 P 的关系；
②写出信道容量表达式；
(2) 当达到信道容量时， E[x22 ] > 0 ；
(2 分)
四、计算题(15 分)
某离散无记忆信道Y = X + Z (mod11) ，其中 Z 的概率分布为
Z
=
1 1 3
2 13
3 1 3
，
X
∈{0,1,⋅⋅⋅,10} 。
Z
与
X
相互独立。求：
(1) 该信道的转移概率矩阵； (2) 该信道是否为离散对称信道？ (3) 该信道的容量及达到容量时的输入概率分布。 解：
(2 分)
7
R(D)
|D=1/2 =
log
(n
n −1)1/2
−
H (1/
2)
=
log2 16
− (1/
2) log2 (16
−1)
− log2
2
= 1.0466比特
信息技术基础A卷
信息技术基础考试题（A卷）
（考试时间：90分钟，总分100分）
一．单选题.(每题1分，共25分)
1. 对于新创建的文档，执行“保存”命令并输入新文档名，如“LETTER”后，在标题栏上显示（）
A.LETTER
B.LETTER.DOC
C.文档1
D.DOC
2. 下列属于计算机局域网的是（）
A.校园网
B.国家网
C.城市网
D.因特网
3.下面不是信息的特点的是( )
A.普遍性和无限性
B.有效性和异步性
C.共享性和可传输性
D.专用性和有效性
4.计算机网络代表着第( )次信息革命。
A.3
B.4
C.5
D.6
5. 下列存储器中，存取速度最快的是( )。
A.CD-ROM
B.内存储器
C.软盘
D.硬盘
6. 下列一组数中最大的数是( )
A. (172)8
B.1100100B
C.1111001
D. 108D
7.CPU与I/O设备间传送的信号有( )
A.控制信息
B.状态信息
C.数据信息
D.以上三种都有
8. PowerPoint窗口的大纲窗口中，不可以（）。
A.插入幻灯片
B.删除幻灯片
C.移动幻灯片
D.添加文本框
9. 在Excel2000中，若一个单元格区域为B3:D7,则单元格区域包含（）个单元格。
A.6
B.10
C. 28
D.15
10. 信息技术可以划分为( )个层次。
A.2
B.3
C.4
D.5
11.“0-9”数字符号是十进制数的数码，全部数码的个数称为( )。
A.码数
B.基数
C.位权
D.符号数
12. 企业信息化是信息化的第( )层次。
A.2个
B.3个
C.4个
D.5个
13.采用高速缓存的目的是( )
A.提高主存速度
信息论与编码期末考试题----学生复习用
《信息论基础》参考答案
一、填空题
1、信源编码的主要目的是提高有效性，信道编码的主要目的是提高可靠性。
2、信源的剩余度主要来自两个方面，一是信源符号间的相关性，二是信源符号的统计不均匀性。
3、三进制信源的最小熵为0，最大熵为32log bit/符号。
4、无失真信源编码的平均码长最小理论极限制为信源熵（或H(S)/logr= H r (S)）。
5、当R=C 或（信道剩余度为0）时，信源与信道达到匹配。
6、根据信道特性是否随时间变化，信道可以分为恒参信道和随参信道。
7、根据是否允许失真，信源编码可分为无失真信源编码和限失真信源编码。
8、若连续信源输出信号的平均功率为2σ，则输出信号幅度的概率密度是高斯分布或正态分布或()22
212x f x e
σπσ
-=
时，信源
具有最大熵，其值为值21
log 22
e πσ。
9、在下面空格中选择填入数学符号“,,,=≥≤〉”或“〈”
（1）当X 和Y 相互独立时，H （XY ）=H(X)+H(X/Y)=H(Y)+H(X)。 （2）()()
1222H X X H X =
≥()()
12333
H X X X H X =
（3）假设信道输入用X 表示，信道输出用Y 表示。在无噪有损信道中，H(X/Y)> 0, H(Y/X)=0,I(X;Y)<H(X)。 三、已知信源
1234560.20.20.20.20.10.1S s s s s s s P ⎡⎤⎡⎤=⎢⎥⎢⎥⎣⎦⎣⎦
（1）用霍夫曼编码法编成二进制变长码；（6分） （2）计算平均码长L ;（4分）
（3）计算编码信息率R ';（2分）
《信息论基础》试卷(期末)(A2卷)
试题编号：
重庆邮电大学2009/2010学年2学期
《信息论基础》试卷（期末）（A卷）（开卷）
一、填空题（共15分，每空1分）
1、当时，信源与信道达到匹配。
2、若高斯白噪声的平均功率为6 W，则噪声熵为。如果一个平均功率为9 W的连续信源的熵等于该噪声熵，则该连续信源的熵功率为。
3、信源符号的相关程度越大，信源的符号熵越，信源的剩余度越。
4、离散无记忆信源在进行无失真变长信源编码时，码字长度是变化的。根据信源符号的统计特性，对概率的符号用短码，对概率的符号用长码，从而减少平均码长，提高编码效率。
8、香农第一编码定理指出平均码长的理论极限值为，
《信息论基础》试卷第1页
《信息论基础》试卷第2页
此时编码效率为 。
4、在下面空格中选择填入数学符号“=，≥，≤，>”或“<” （1）()()
2212X X H H =
X ()X 3H = ()3
321X X X H （2）()XY H ()()Y X H Y H |+ ()()X H Y H +。
9、有一信源X ，其概率分布为⎥⎥⎦
⎤
⎢⎢⎣⎡=⎥⎦⎤⎢⎣⎡818141214321x
x x x P X ，若对该信源进行１００次扩展，
则每扩展符号的平均信息量是 。
11、当 时，信源熵为最大值。８进制信源的最大熵为 。
二、判断题（正确打√，错误打×）（共5分，每小题1分）
1）噪声功率相同的加性噪声信道中以高斯噪声信道的容量为最大。 （ ）
2）即时码可以在一个码字后面添上一些码元构成另一个码字。 （ ） 3）连续信源的熵可正、可负、可为零， （ ） 4）平均互信息始终是非负的。 （ ） 5） 信道容量C 只与信道的统计特性有关，而与输入信源的概率分布无关。 （ ）
信息论基础》试卷(期末A卷
信息论基础》试卷(期末A卷
重庆邮电大学2007/2008学年2学期
《信息论基础》试卷（期末）（A卷）（半开卷）
一、填空题（本大题共10小空，每小空1分，共20分）
1.按信源发出符号所对应的随机变量之间的无统计依赖关系，可将离散信源分为有记忆信源和无记忆信源两大类。
2.一个八进制信源的最大熵为3bit/符号
3.有一信源X，其概率分布为
123
x x x
X
111
P
244
⎛⎫
⎡⎤ ⎪
=
⎢⎥ ⎪
⎣⎦
⎝⎭
，其信源剩余度为94.64%；若对该信源进行十次扩展，则
每十个符号的平均信息量是 15bit。
4.若一连续消息通过放大器，该放大器输出的最大瞬间电压为b，最小瞬时电压为a。若消息从放大器中输出，则该信源的绝对熵是∞；其能在每个自由度熵的最大熵是log（b-a）bit/自由度；若放大器的最高频率为F，则单位时间内输出的最大信息量是 2Flog（b-a）bit/s.
5. 若某一信源X，其平均功率受限为16w，其概率密度函数是高斯分布时，差熵的最大值为1
log32e
2
π；与其
熵相等的非高斯分布信源的功率为16w
≥
6、信源编码的主要目的是提高有效性，信道编码的主要目的是提高可靠性。
7、无失真信源编码的平均码长最小理论极限制为信源熵（或H(S)/logr= H r(S)）。
8、当R=C或（信道剩余度为0）时，信源与信道达到匹配。
9、根据是否允许失真，信源编码可分为无失真信源编码和限失真信源编码。
10、在下面空格中选择填入数学符号“,,,
=≥≤〉”或“〈”
（1）当X和Y相互独立时，H（XY）=H(X)+H(X/Y)。
信息论基础及答案
《信息论基础》试卷答案
一、填空题（共25分，每空1分） 1、连续信源的绝对熵为 无穷大。（或()()lg lim lg p x p x dx +∞
-∞
∆→∞
-
-∆⎰
）
2、离散无记忆信源在进行无失真变长信源编码时，编码效率最大可以达到 1 。
3、无记忆信源是指 信源先后发生的符号彼此统计独立 。
4、离散无记忆信源在进行无失真变长编码时，码字长度是变化的。根据信源符号的统计特性，对概率大的符号用 短 码，对概率小的符号用 长 码，这样平均码长就可以降低，从而提高 有效性(传输速率或编码效率) 。
5、为了提高系统的有效性可以采用 信源编码 ，为了提高系统的可靠性可以采用 信道编码 。
6、八进制信源的最小熵为 0 ，最大熵为 3bit/符号 。
7、若连续信源输出信号的平均功率为1瓦特，则输出信号幅度的概率密度函数为 高斯分布(或()0,1x N 2
2
x -)时，信源具有最大熵，其值为 0.6155hart(或1.625bit 或
1
lg 22
e π)。 8、即时码是指 任一码字都不是其它码字的前缀 。
9、无失真信源编码定理指出平均码长的理论极限值为 信源熵(或H r (S)或()
lg H s r
)，此
时编码效率为 1 ，编码后的信息传输率为 lg r bit/码元 。
10、一个事件发生的概率为0.125，则自信息量为 3bit/符号 。
11、信源的剩余度主要来自两个方面，一是 信源符号间的相关性 ，二是 信源符号概率分布的不均匀性 。
12、m 阶马尔可夫信源的记忆长度为 m+1 ，信源可以有 q m 个不同的状态。
大学信息基础期末试题及答案
大学信息基础期末试题及答案第一部分：选择题
1. 信息基础的定义是（）。
a) 基本的计算机操作技能
b) 收集、处理、传输和利用信息的过程
c) 学习计算机编程语言
d) 了解计算机硬件结构
2. 下列哪种存储设备属于外部存储器？
a) RAM
b) ROM
c) 硬盘
d) CPU
3. 以下哪个是二进制数？
a) 10
b) 100
c) 1000
d) A
4. 信息的特点不包括（）。
a) 有用性
b) 可靠性
c) 一致性
d) 独立性
5. 下列哪个不是计算机网络中常见的传输媒介？
a) 网线
b) 光纤
c) 电缆电视
d) 无线电波
第二部分：填空题
6. 信息的传输速率以（）为单位。
7. 操作系统是计算机系统的（）。
8. 二进制数系统中，每一位的权值是（）。
9. HTTP是指（）协议。
10. 信息安全的三个基本要素是保密性、（）和可用性。第三部分：问答题
11. 请简要解释计算机的五大组成部分。
答：
计算机的五大组成部分分别是中央处理器（CPU）、存储器、输入
设备、输出设备和外部设备。中央处理器是计算机的核心部分，主要
负责进行算术、逻辑运算以及控制计算机的操作。存储器用于存储计
算机程序和数据，包括RAM和ROM等。输入设备用于将外部信息输
入计算机，如键盘、鼠标等。输出设备用于将计算机处理后的结果输
出给用户，如显示器、打印机等。外部设备是计算机系统的辅助部分，如硬盘、光驱等。
12. 请简要描述信息的生命周期。
答：
信息的生命周期包括信息的产生、处理、传输、存储和利用几个重
要阶段。信息的产生指的是信息的创造和获取过程，可以通过观察、
信息论基础及答案
《信息论基础》试卷答案 、填空题(共 25分，每空1分)
1、连续信源的绝对熵为
无穷大。(或 p x lg p x dx lim Ig )
2、 离散无记忆信源在进行无失真变长信源编码时，编码效率最大可以达到
_J ____ 。
3、 无记忆信源是指 信源先后发生的符号彼此统计独立 ___________________________ 。
4、 离散无记忆信源在进行无失真变长编码时，码字长度是变化的。根据信源符号的统 计特性，对概率大的符号用 短
码，对概率小的符号用
长 码，这样平均码长就可
以降低，从而提高 有效性(传输速率或编码效率) ___________________ 。
5、 为了提高系统的 —系统的可靠性可 以采用
信道编码 _______________ 。
6、 八进制信源的最小熵为
，最大熵为 3bit/ 符号 ____________________ 。 7、 若连续信源输出信号的平均功率为 1瓦特，贝U 输出信号幅度的概率密度函数为
2|g2 e ）。
H s
9、 无失真信源编码定理指出平均码长的理论极限值为 信源熵(或H(S)或
),此
lg r
时编码效率为_J ____ ，编码后的信息传输率为
lg r bit/ 码元 。
10、 _________________________________________________________ 一个事件发生的概率为，则自信息量为 3bit/ 符号 ________________________________________ 。 11、 信源的剩余度主要来自两个方面，一是 信源符号间的相关性 ______________ ，二
《信息论》期末考试试题(A 卷)标准答案
北京邮电大学2006——2007学年第 一 学期
《信息论》期末考试试题（A 卷）标准答案
姓名 班级 学号 分数
一、判断题（正确打√，错误打×）（共10分，每小题1分）
1）异前置码是即时码； （√） 2）最大似然准则等价于最小汉明距离准则； （×） 3）离散信源记忆的长度越大，信源的符号熵越小； （√） 4）一维高斯信源的熵只与其均值和方差有关； （×） 5）为达到并联加性高斯噪声信道容量，在信道输入总功率给定条件下应给噪声方差大的子信道分配更多的功率； （×） 6）只要信息传输速率小于信道容量，总可以找到一种编码方式使得当编码序列足够长时传输差错率任意小； （√） 7）离散无记忆信源的N 次扩展源的熵是原信源熵的N 倍； （√） 8）仙农的AWGN 信道容量公式是在信道输入的平均功率和幅度受限条件下推导出来的； （×） 9)当马氏源的初始状态
s 和输出n
x x x ,,,10 给定后，那么状态
1
,21,,+n s s s 就能
唯一确定； （√） 10)当平均失真大于其上限D max 时，率失真函数R （D ）= 0 。 （√）
二、填空题（共20分，每空2分）
1) 设信源的熵为0.8比特/符号，对信源序列进行单符号编码，码序列为0、1二元序列，如果编码效率为100%，那么每信源符号平均码长为 0.8 ，码序列中“0 ”符号出现的概率为 1/2 ，信息传输速率为 1 比特/码符号。
2) 一阶平稳马氏源的符号转移概率为2.0)0|0(12|=X X p ，6.0)1|1(12|=X X p ，那么符号的平稳分布为=)0(X p 1/3 ，=)1(X p 2/3 ；信源的符号熵为 0.8879 比特/符号。
2014信息论基础试卷A
………密………封………线………以………内………答………题………无………效……
电子科技大学2013-2014学年第 二 学期期 末 考试 A 卷
课程名称： 信息论基础 考试形式： 一页开卷 考试日期：20 14年 6月 26日 考试时长：_120分钟 课程成绩构成：平时 30 %， 期中 0 %， 实验 0 %， 期末 70 % 本试卷试题由_三_部分构成，共_3_页。
一、填空题（共30分，共15空，每空2分）
1、通信系统中信道传输信号，信号承载消息，消息所含能消除( )的内容是信息。
2、根据链式法则，两符号离散信源的联合熵+=)X (H )X X (H 121( )。
3、如果多符号离散信源对任意两个不同时间起点，其概率及直到N 维的各维联合概率都相同，该信源是N 维( )信源。
4、指数信源的概率密度函数∞<≤μ
=μ
-x 0,e 1)x (p x
，其绝对熵H(X)=( ) bit ，相对熵=)X (H c ( )bit 。
5、平均互信息反映信宿每收到一条消息所含( )一条消息的平均信息量。
6、根据链式法则，两符号离散信道的联合平均互信息+=)Y ;X (I )Y Y ;X X (I 112121( ))Y X /Y ;X (I 1122+。
7、某二进制对称信道的信道矩阵⎥
⎦
⎤
⎢⎣⎡=9.01.01.09.0)X /Y (P ，其信道容量C=( )bit ，达到信道容量的信源概率P(0)=P(1)=( )。 8、高斯加性信道在最大信息传输速率s /Mb 120C t =、信号带宽B=20MHz 时，信噪功率比=N
信息论基础试题
信息论基础试题
信息论是研究信息传输和处理的一门学科，它最初被应
用于通信领域，但现在已广泛应用于各个领域。信息论的基础概念包括信息、熵、信源、信道以及编码等概念。以下是信息论基础试题。
1. 简述信息论的基本概念？
信息论的基本概念包括信息、熵、信源、信道以及编码
等概念。
信息指的是用来描述某个事件或情况的不确定性程度的量。信息通常用比特（bit）来表示，比特表示信息的最小单位，它可以取0或1两种状态。
熵指的是信息的度量，它表示一个随机变量的平均信息量。熵的单位通常用比特或纳特（nat）表示，比特是以2为
底的对数单位，而纳特是以自然常数e为底的对数单位。
信源指的是产生信息的源头，它可以是物理信号，也可
以是逻辑信号。
信道指的是传输信息的媒介，它可以是有线媒介，也可
以是无线媒介。
编码指的是将原始的信源信息转化为经过压缩、纠错等
处理后的编码信号的过程。编码可以分为有损编码和无损编码。
2. 什么是熵？
熵是信息量的一种度量方式，它反映一个随机变量的信
息的不确定性，也称为信息熵。
熵的物理意义可以理解为，如果我们要表达一个随机变
量的状态，那么需要用多少位来表示，这个位数就是熵。比如，如果有一个硬币，正反两面的概率相等，那么这个硬币的熵是
1比特，因为我们只需要1位来表示它的状态。
熵的单位通常用比特或纳特表示，比特是以2为底的对
数单位，而纳特是以自然常数e为底的对数单位。
熵有以下特点：
（1）熵越大，表示信息的不确定性越高；
（2）熵越小，表示信息的不确定性越低。
3. 什么是信源？
信源指的是产生信息的源头，它可以是物理信号，也可
信息管理基础试卷及答案-试卷A卷
期末考试信息管理基础课程试卷答案和评分标准（A）卷
IF 需求量≤库存量 THEN 先付款再发货 ELSE 不发货 ELSE
要求先付欠款
答：
6.物资部门在发放材料时的处理过程如下：
a) 领用人提交领料单；
b) 检查库存帐，接到领用人的领料单后检查库存帐，如数量不足则将领料
单退回领用人并将缺货单交采购员，否则将领料单交领料处理； c) 领料处理，将提货单交领用人并修改库存帐和领用记录。 请补充完善如下处理过程的数据流程图。
欠款时间 <=30天 >30天 <=100天
>100天 需求量
<=库存量 >库存量
<=库存量 <=库存量
立即发货
先按库存发货，进货后再补发 先付款，再发货 不发货
通知先付欠款
IF 欠款时间≤100天
7.
某
信
息
系
统
开发过程有5项作业，每项作业开始的前提条件和完成作业所需的时间如下表所示。要求：
（1）请作出该项目进度管理的网络计划图。（5分）
（2）指出图中的关键路径。（1分）
2.答：
（1）网络计划图如下图所示：（共5分，其中图形正确3分，时间数据计算正确2分）（2）网络计划图的关键路径：1 – 3 – 4 – 5或B – D – E或用粗实线表示。（1分）
领用人
P1P2
库存帐
采购员领料单
缺货领料
库存数
领料单
提货单
1 0 0
2
2 3
A
2
3
4 4
B
4
4
6 6
C
3
D
2
5
8 8
E
2
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
《信息论基础》答案
一、填空题（本大题共10小空，每小空1分，共20分）
1.按信源发出符号所对应的随机变量之间的无统计依赖关系，可将离散信源分为有记忆信源和无记忆信源两大类。
2.一个八进制信源的最大熵为3bit/符号
3.有一信源X ，其概率分布为1
23x x x X 1
11P 244⎛⎫
⎡⎤ ⎪
=⎢⎥
⎪⎣⎦⎝⎭
，其信源剩余度为94.64%；若对该信源进行十次扩展，则每十个符号的平均信息量是 15bit 。
4.若一连续消息通过放大器，该放大器输出的最大瞬间电压为b ，最小瞬时电压为a 。若消息从放大器中输出，则该信源的绝对熵是∞；其能在每个自由度熵的最大熵是log （b-a ）bit/自由度；若放大器的最高频率为F ，则单位时间内输出的最大信息量是 2Flog （b-a ）bit/s.
5. 若某一 信源X ，其平均功率受限为16w ，其概率密度函数是高斯分布时，差熵的最大值为
1
log32e 2
π；与其熵相等的非高斯分布信源的功率为16w ≥ 6、信源编码的主要目的是提高有效性，信道编码的主要目的是提高可靠性。 7、无失真信源编码的平均码长最小理论极限制为信源熵（或H(S)/logr= H r (S)）。 8、当R=C 或（信道剩余度为0）时，信源与信道达到匹配。
9、根据是否允许失真，信源编码可分为无失真信源编码和限失真信源编码。 10、在下面空格中选择填入数学符号“,,,=≥≤〉”或“〈” （1）当X 和Y 相互独立时，H （XY ）=H(X)+H(X/Y)。
（2）假设信道输入用X 表示，信道输出用Y 表示。在无噪有损信道中，H(X/Y)> 0, H(Y/X)=0,I(X;Y) 二、掷两粒骰子，各面出现的概率都是1/6，计算信息量： 1.当点数和为3时，该消息包含的信息量是多少？ 2.当点数和为7是，该消息包含的信息量是多少？ 3.两个点数中没有一个是1的自信息是多少？ 解：1.P （“点数和为3”）=P （1,2）+ P （1,2）=1/36+1/36=1/18 则该消息包含的信息量是：I=-logP （“点数和为3”）=log18=4.17bit 2.P （“点数和为7”）=P （1,6）+ P （6,1）+ P （5,2）+ P （2,5）+ P （3,4）+ P （4,3）=1/36 ⨯6=1/6 则该消息包含的信息量是：I=-logP （“点数和为7”）=log6=2.585bit 3.P （“两个点数没有一个是1”）=1-P （“两个点数中至少有一个是1”） =1-P(1,1or1,jori,1)=1-(1/36+5/36+5/36)=25/36 则该消息包含的信息量是：I=-logP （“两个点数中没有一个是1”）=log25/36=0.53bit 三、设X 、Y 是两个相互统计独立的二元随机变量，其取-1或1的概率相等。定义另一个二元随机变量Z ，取Z=YX （一般乘积）。试计算： 1.H （Y ）、H （Z ）； 2.H （XY ）、H （YZ ）； 3.I （X;Y ）、I （Y;Z ）； 解：1. 2 i 1 1 111H Y P y logP y log log 2222i i =⎡⎤=-+⎢⎥⎣⎦∑（）=-（）（）=1bit/符号 Q Z=YX 而且X 和Y 相互独立 ∴ 1(1)(1)(1)P P X P Y P X ⋅=+=-⋅=-（Z =1）=P(Y=1)= 111 22222⨯+⨯= 2(1)(1)(1)P P X P Y P X ⋅=-+=-⋅=（Z =-1）=P(Y=1)= 111 22222 ⨯+⨯= 故H(Z)= i 2 i 1(z )log (z )i P P =-∑=1bit/符号 2.从上式可以看出:Y 与X 的联合概率分布为: H(YZ)=H(X)+H(Y)=1+1=2bit/符号 3.Q X 与Y 相互独立，故H(X|Y)=H(X)=1bit/符号 ∴I （X;Y ）=H(X)-H(X|Y)=1-1=0bit/符号 ;I(Y;Z)=H(Y)-H(Y|Z)=H(Y)-[H(YZ)-H(Z)]=0 bit/符号 四、如图所示为一个三状态马尔科夫信源的转移概率矩阵 P=11022110221114 2 4⎛⎫ ⎪ ⎪ ⎪ ⎪ ⎪ ⎪ ⎪⎝⎭ 1.绘制状态转移图； 2.求该马尔科夫信源的稳态分布； 3.求极限熵； 解：1.状态转移图如右图 2.由公式 3 1 ()()(|) j i j i i p E P E P E E ==∑,可得其三个状态的稳态概率为： 1123223313123111()()()()22411()()()2211 ()()()24()()()1P E P E P E P E P E P E P E P E P E P E P E P E P E ⎧ =++⎪⎪⎪=+⎪⎨ ⎪=+⎪⎪⎪++=⎩ 1233()7 2()72()7P E P E P E ⎧=⎪⎪⎪ ⇒=⎨⎪⎪ =⎪⎩ 3.其极限熵: 3 i i 1 3112112111 H = -|E =0+0+72272274243228 =1+1+ 1.5=bit/7777 i P H H H H ∞=⨯⨯⨯⨯⨯⨯∑（E ）（X ）（，，）（，，）（，，） 符号 五、在干扰离散对称信道上传输符号1和0，已知P （0）=1/4,P(1)=3/4,试求：