最佳编码遵循的原则

合集下载
  1. 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
  2. 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
  3. 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
应用信息论
题目:最佳编码通常遵循的两个原则
最佳编码通常遵循的两个原则
1
编码的基本概念
2 2
最佳编码的原则 最佳编码的原则
编码基本概念
编码的目的是为了优化通信系统。一般说来,通信系统的性
能指标主要是有效性、可靠性、安全性和经济性。所谓优化,
就是使这些指标达到最佳。除了经济性外,这些指标正是信息
论研究的对象。按照不同的编码目的,编码问题可分为三类: 信源编码、信道编码和安全编码(密码)。 HHHhh
最佳编码通常遵循的两个原则
2.2 最佳编码的原则:
①把信源符号集合中出现概率大的符号编成长度较短的代码组, 而把出现概率小的符号编成长度较长的代码组; ②信源编码器输出的代码组为单义可译码组,即序列中不必使用
间隔就能把序列逐个分成代码组
**因为间隔不携带信息量,使用了间隔自然降低了编码效率
Thank you !
∑∑∑∑∑∑∑
上可定义为息
编码基本概念
1.1
信源编码
信源编码是以提高通信有效性为目的的编码。通常通过压缩 信源的冗余度来实现。采用的一般方法是压缩每个信源符号的平均
比特数或信பைடு நூலகம்的码率。
编码基本概念
1.2 信道编码
信道编码是以提高信息传输的可靠性为目的的编码。 通常通过增加信源的冗余度来实现。采用的一般方法是增大码 率或带宽。与信源编码正好相反。
编码基本概念
1.3 密码
密码则是以提高通信系统的安全性为目的的编码。通常通过加
密和解密来实现。从信息论的观点出发,加密可视为“增熵”的
过程,解密可视为“减熵”的过程。
最佳编码
2.1 最佳编码
通常称具有最短的代码组平均长度或编码效率接近于1的信源
编码为最佳信源编码,亦简称为最佳编码。
最佳编码的目的:提高信道传输消息的有效性。 最佳编码的实质:减小每个符号所占用的时间长度,即让每个 码元所携带的信息量最大。
相关文档
最新文档