信源编码原理习题与思考题

第一章：信源编码的概念（绪论）

1. 数据压缩的一个基本问题是“我们要压缩什么？”；你对此如何理解？

2. 你所了解的各类编码的目的是什么？请各举一例解释编码作用。

3. 你怎样理解信息率失真函数R (D )对于信源编码的指导作用？试举例。

4. 等概率信源还能否压缩？为什么？请举例说明。

5 你理解的联合编码的发展方向是什么？信源编码的发展趋势和进展有哪些？

第二章：无损信源编码

1.有二元独立序列，已知00.9p =，10.1p =，求这序列的符号熵。当用赫夫曼编码时，以三个二元符号合成一个新符号，求这种符号的平均代码长度和编码效率。设输入二元符号的速率是每秒100个，要求三分钟内溢出和取空的概率均小于0.01，求所需要的信道码率（bit/s ）和存储器容量（比特数）。若信道码率已规定为50 bit/s ，存储器容量将如何选择？

2.有二元平稳马氏链，已知P （0|0）=0.8，P （1|1）=0.7，求它的符号熵。用三个符号合成一个来编赫夫曼码，求这新符号的平均代码长度和编码效率。

3.对上题的信源进行游程编码。若“0”游程长度的截止值是16，“1”游程的截止值是8，求编码效率。这样的编码效率是否已达到最佳？为什么？

4.求三阶马氏链的“0”游程长度和“1”游程长度的条件概率，设原序列的条件概率为：

P （0|r ）=r a

其中r=0，1，2，···7，是前三位的二进制位数。

5.计算帧长N=63，信息位数Q=0，1，2，4，8，16，和32时L-D 码和信息标志码的压缩率，并讨论计算结果。

第三章：算术编码

1.已知二元序列的概率011/8,7/8p p ==011/8,7/8p p ==。试对下列序列编算数码，取W=3的计算精度，并计算符号的平均码长：

1111111111011111111110

2.计算上题的序列的符号熵，并与算数码的符号平均码长比较，理解这一结果。

3.已知二元平稳马氏链的条件概率为p （0|0）=1/2，p （0|1）=1/4；用最低精度位数对下列序列编算数码，并计算符号的平均码长：

11110101111001011110000011111111

4.若对上题序列以二位并元处理来编赫夫曼码，则符号的平均码长是多少？并与上题的结果比较。

5.若是题3中的序列的概率特性未知，试用前16位统计出条件概率（设序列之前均为0）。再以2

w -型近似所得概率对后16位编算数码，求其平均符号码长。

第四章：通用编码

1.已知英文字母的概率位：

空 E T O A N I R

0.200 0.105 0.072 0.0655 0.063 0.059 0.055 0.054

S F D L C F ，U M P

0.052 0.047 0.035 0.029 0.023 0.0225 0.021 0.0175

Y ，W G B V K X J ，Q ，Z

0.012 0.011 0.0105 0.008 0.003 0.002 0.001

其符号熵

1H =4.03。若只利用概率顺序，计算用概率顺序码1C 和2C 时的编码效率。

2.对下列英文文本编最近间隔符码，计算用1C 和2C 时的压缩率，若用上题中的熵，计算相应的编码效率。

RECENTL Y THERE HAS BEEN AN INTEREST IN INCREASING THE CAPACITY OF STORAGE SYSTEM

3.用最近队列码重复上题。

4.用分段编码重复上题。

5.用改进的段匹配码重复上题。

第五章：限失真信源编码

1.试对随机变量x 进行量化，已知

()2x p x e λλ-

=

222()x p x σ-= -∞< x <∞ 失真函数为()2x y -，量化级m=3.求最佳情况的量化值，量化区域和最小平均失真min D 。

2.重复上题，但x 的密度函数为

()2x p x e λλ

-= -∞< x <∞

3.在电视信号中，亮度信号的黑色电平为0，白色点评为L ，用均匀分割来量化其样值，要求峰功率信扰比大于50dB ，求每样值所需的比特数。

4.有两个随机变量x 和y ，它们的联合概率密度为

P （x ，y ）=1/2

a π 222x y a +≤

=0 222x y a +> 试找出两种m=4的分割上述区域的最佳方法，分别求其量化点的位置和平均失真D ，设失真函数是均方型。

5.试证：

22lim ...()2k k k k k k R p x e π++→∞⎧⎫⎪⎪=⎨⎬⎪⎪⎩

⎭⎰⎰⎰

其中

2

2()x

p x -= 第六章、矢量量化技术

1. 设k 维矢量量化器的码书有N 个码字作为量化矢量，这些矢量随机地分布在边长为L

的超立方体内。若用超立方体法进行快速搜索，希望起始所用的边长为2r 的超立方体中不存在码字的概率小于0.1，求r 与L ，N 和k 的关系式。若这超立方体内有码字但仍需再扩大，求发生这事件的概率。已知半径为1的r 维球的体积为（2/k π）/（k/2）！。

2. 设有二维矢量的训练序列：

（0，0），（0，1），（0，-1），（-1，0），（1，1），（-1，1），（1，-1），

（-1，-1），（0，-0.5），（0，0.5），（0.5，1），（-0.5，1），（0.5，0），

（-0.5，0），（0.5，1.5），（1.5，-1），（-1。5，-1），（0，2）

试用（0.5，0.5），（0.5，-0.5），（-0.5，-0.5），（-0.5，0.5）作为起始码书，按LGB 法求N=4的最佳码书，并求对训练序列的平均失真。

3. 重复上题，但用分裂法求树形结构的码书。计算训练序列的平均失真。

4. 若已知二维矢量（x,y ）在正三角形内均匀分布，求N=4的最佳码书。此三角形的三个

顶点为（0，2）（3，-1）和（-3，-1）。

5. 用题2的结果，以标尺为0.1的正方形结构进行粗细结合矢量量化，试估计外加平均失

真。