多媒体数据压缩基础

L
72 liP (a i ) 2 . bit i
1 7
111
110 101 1001 1000
3
3 4 4
信源的信息熵：
H (X ) P (ai)log P (ai) 2 . 6197 bit
i1 7
可见，哈夫曼编码结果，其平 均长度接近于信息符号的熵值， 但是仍有冗余
哈夫曼编码练习
1分钟数字音频信号需要的存储空间
o 数字音 频格式 电话 会议电 视伴音 CD-DA DAT
20~20000 20 20 48 48 16 16
频带 (Hz)
200~3400 50~7000 20~20000
带宽 (KHz)
3.2 7 20
取样率 (KHz)
8 16 44.1
量化 位数
8 14 16
2.1.3 数据压缩技术的重要指标
● 压缩比: 压缩过程中输入数据量与输出数据量之比
● 图像质量（失真度）: 解压后的恢复效果要好
● 算法的复杂性和运算速度
2.1.4 数据压缩编码方法分类
分类方法一：根据解码后是否能够完全无失真地恢复进行分类
1）无损压缩（可逆压缩）——冗余压缩 – 其原理是在压缩时去除或减少冗余值，而在解压缩时 重新将这些值插入到数据中，恢复原始数据。 – 压缩比较低，一般在2：1——5：1，多用于文本数据 的压缩。 – 典型的编码方法有：香农-范诺码、Huffman编码、 算术编码、行程编码、 LZW 编码
3.结构冗余—— 规则纹理、相互重叠的结构表面
4. 视觉冗余—— 视觉敏感度非均匀、非线性
224色
28 色
5. 知识冗余—— 凭借经验识别
6. 信息熵冗余 也称编码冗余： 如果表示多媒体内容使用的平均比特数 大于该消息的信息熵，则信源中存在冗 余，即信息熵冗余。 例如：图像中平均每个像素使用的比特 数大于该图像的信息熵，则图像中存在 冗余，这种冗余即为信息熵冗余。
2.1.4 数据压缩编码方法分类
分类方法一：根据解码后是否能够完全无失真地恢复进行分类
• 2）有损压缩 – 指使用压缩后的数据进行重构，重构后的数据与原 来的数据有所不同，但不影响人对原始资料表达的 信息造成误解。 – 图像和声音的压缩就可以采用有损压缩，因为其中 包含的数据往往多于我们的视觉系统和听觉系统所 能接收的信息，丢掉一些数据而不至于对声音或者 图像所表达的意思产生误解，但可大大提高压缩比 。 – 典型的编码方法有：PCM 编码、预测编码、变换 编码、子带编码等。
信息量与冗余的关系
I = D － du
I — 信息量 D — 数据量 du — 冗余量，包含在D中
数据冗余类型
常见的冗余类型： 1、空间冗余 2、时间冗余 3、结构冗余 4、视觉冗余 5、知识冗余 6、信息熵冗余
1.空间冗余—— 规则物体的物理相关性
2.时间冗余—— 视频与动画画面间的相关性
行程编码示例
消零(或消空白)法
将数字中连续的‚0”或文本中连续 的空白用一个标识符(或特殊字符)后跟数 字N(连续‚0‛的个数)来代替。
如数字序列： 742300000000000000000055 编码为： 7423Z1855
行程编码示例
任何重复的字符序列可被一个短格式取 代。该算法适合于任何重复的字符。 一组 n 个连续的字符 c 将被 c 和一个 特殊的字符取代。当然，若给定字符仅 重复两次就不要用此方法。任何重复4次 或4次以上的字符由‚该字符＋记号(M) ＋重复次数‛代替。
• 用RLE编码方法得到的代码为：3150841160。 • 代码斜体表示的数字是行程长度，斜体字后面的数字代 表像素的颜色值。例如斜体字50代表有连续50个像素具 有相同的颜色值，它的颜色值是8。 对比RLE编码前后的代码数可以发现，在编码前要用73个代 码表示这一行的数据，而编码后只要用10个代码表示代表原来 的73个代码，压缩前后的数据量之比约为7:1，即压缩比为7:1。 这说明RLE确实是一种压缩技术，而且编码技术实用。
人工智能(专家系统/知识树) 编译(JAVA)
程序设计(算法/空间和时间效率)
全文索引(倒排索引表) 密码学(消除数据的原始特征)
文件系统(压缩扇区)
音频(MP3) 数据库(B+树) 归档(TAR/ZIP) 图像(GIF/TIFF/JPEG) 存储(压缩池) 电报、传真(CCITT) 通讯(Modem/网络协议) 视频(MPEG/RM)
2.2 统计编码
基本思想：主要针对无记忆信源，根 据信息出现概率的分布特征进行压缩 编码，寻找概率与码字长度之间的最 佳匹配: 根据信息熵的原理用短码表示出现 概率大的数据，用长码表示出现概 率小的数据。 主要方法：包括哈夫曼编码、算术编 码、行程编码等
2.2.1 哈夫曼编码
哈夫曼1952年提出 主要思想：在变字长编码中，对于出现 概率大的信息符号编以短字长的码，对 于概率小的符号编以长字长的码。 最佳性：如果码字长度严格按所对应符 号出现概率大小逆序排列，则平均码字 长度一定小于其他以任何符号顺序排列 方式得到的平均码字长度。
X x1 , x2 , x3 , x4 , x5 , P( X ) 0.4 0.2 0.2 0.1 0.1
哈夫曼编码特点
优点：当信源符号概率是2的负幂次方时， Huffman 编码法编码效率达到100%。一般 情况下，它的编码效率要比其它编码方法 的效率高，是最佳变长码。 缺点：Huffman 码依赖于信源的统计特性 ，必须先统计得到信源的概率特性才能编 码，这就限制了实际的应用。通常可在经 验基础上预先提供Huffman码表，此时性能 有所下降。
编码
01 0 00
A3
A4 A5 A6 A7
0.18
0.15 0.13 0.07 1
1
111
110 101 1001
1
0.10 0
0.03 0 1000 可以看出，概率大的符号其编码短，概率小的符号其 编码长，符号使用其编码来表示，达到数据压缩目的
哈夫曼编码性能分析
编码
01 00
码长
2 2 3
码字的平均长度：
●图片：若采用1024×768显示分辨率，则满屏图像的总数据量为:
1024×768×24÷8 = 2359296Byte (2304 KB)
●音频：
若采样频率为44100Hz，16bit (2Byte)，立体声 (2声道)， 则1分钟的总数据量为: 44100×2 Byte×2 (STEREO) ×60s = 10336 KB (10MB)
8
Байду номын сангаас
3164.06
2.1.2 数据压缩的可能性
● 数据存在冗余 (重复数据、可忽略数据) ● 不敏感因素 (颜色、亮度、频率、细节)
24 位颜色 (16,777,216色)
8位颜色 (256色)
数据冗余
基本概念： 冗余 —— 信息所具有的各种性质中多余的无 用内容 冗余度 —— 多余的无用内容的程度
2.2.2 行程编码
最简单的编码方法之一。 主要思想：检测重复出现的比特或字符序 列，并用一个单独的值和一个计数值来取 代。 优点：适用于计算机生成的图像。压缩比 很高,直观且经济。 缺点：对颜色丰富的自然图像力不从心， 需要与其他的压缩编码技术联合应用。
行程编码原理
• 如图所示，假定一幅灰度图像，第n行的像素值为：
基于统计模型 的压缩技术
基于字典模型 的压缩技术
图像压缩
音频和视频压缩 MPEG等
Huffman 算术编码 编码
LZ77
LZ78
二值图像 CCITT JBIG等 LZW 灰度图像 FELICS JPEG等
彩色图像 RLE编码 JPEG等
矢量图像 PostScript WMF CAD等
压缩技术的应用
哈夫曼编码步骤
1.将符号按出现概率由大到小排列，给最后两 个符号赋予一个二进制码，概率大的赋1， 小的赋0（反之亦可） 2.把最后两个符号的概率合成一个概率，重复 上一步 3.重复步骤2，直到最后只剩下两个概率为止 4.将每个符号所对应的分支的0,1反序排出即 可
哈夫曼编码举例
符号 概率
A1 A2 0.23 0.21 1 0 1 0 0.33 1 0.56 1 0.23 0 0.44
●视频：若图像分辨率为352×240，24位色彩，帧率为25帧/秒，
则1分钟的总数据量为: 352×240 ×3 Byte×25×60s = 371250 KB (362.55MB)
○○○○●○○○○○○○○○○○○○○○○○○○●○○○○○○○ ○○○○●●○○○○○○○○○○○○○○○○○○●●○○○○○○ ○○○○○●●○○○○○●●●●●●●●●●●●●●●○○○○○ ○○○○○●●●○○○○●●●●●●●●●●●●●●●●○○○○ ○○○○○●●●○○○○●●○○○○○○○○○○●●○○○○○○ ○○○○○○●●○○○○●●○○○○○○○○○○●●○○○○○○ ○○○○○○○○○○○○●●○○○○●●○○○○●●○○○○○○ ○○○○○○○○○○●○●●○○○○●●○○○○●●○○○○○○ ●●●●●●●●●●●●●●○○○○●●○○○○●●○○○○○○ ●●●●●●●●●●●●●●○○○○●●○○○○●●○○○○○○ ○○○○○○○○●●○○●●○○○○●●○○○○●●○○○○○○ ○○○○○○○●●●○○●●○○○○●●○○○○●●○○○○○○ ○○○○○○●●●○○○●●○○○○●●○○○○●●○○○○○○ ○○○○○●●●○○○○●●○○○○●●○○○○●●○○○○○○ ○○○○●●●●○○○○●●○○○○●●○○○○●●○○○○○○ ○○○●●●●●○○○○●●○○○○●●○○○○●●○○○○○○ ○○●●●○●●●○○○●●○○○○●●○○○○●●○○○○○○ ○●●●○○●●●●○○●●○○○○●●○○○○●●○○○○○○ ●●○○○○●●○●●○●●○○○○●●○○○○●●○○○○○○ ●○○○○○●●○●●○●●○○○○●●●●○○●●○○○○○○ ○○○○○○●●○●●○●●○○○●●○●●○○●●○○○○○○ ○○○○○○●●○○○○●●○○○●●○●●○○●●○○○○○○ ○○○○○○●●○○○○○○○○○●●○●●○○○○○○○○○○ ○○○○○○●●○○○○○○○○●●○○●●○○○○○○○○○○ ○○○○○○●●○○○○○○○○●●○○●●○○○○○○●○○○ ○○○○○○●●○○○○○○○●●○○○●●○○○○○○●○○○ ○○○○○○●●○○○○○○○●●○○○●●○○○○○○●●○○ ○○○○○○●●○○○○○○●●○○○○●●○○○○○○●●○○ ○○○○○○●●○○○○○○●●○○○○●●●●●●●●●●●○ ○○○○○○●●○○○○○●●○○○○○○●●●●●●●●●○○ ○○○○○○●●○○○●●●○○○○○○○○○○○○○○○○○○ ○○○○○○●●○○●●○○○○○○○○○○○○○○○○○○○○