信息论课程知识总结
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
1.1 消息
信息具有特殊的性质：无形、可共享、无限、可度量。其中信息是可 度量是要解决信息数量与质量的度量。嘻嘻度量应满足信息的三个基 本方向：结构的、统计的和语义的。 消息是信息的载荷者。消息具有不同的形式。构成消息的条件有两 个：一是构成的消息能够被通信双方理解；二是可以在通信中进行传 递和交换。同一个消息可以含有不同的信息量。 信号是消息的表现形式，消息则是信号的具体内容。信号是消息的载 体，是表示消息的物理量。
2.1自信息量和条件自信息量
2.2互信息量和条件互信息量
2.2互信息量和条件互信息量
2.3 离散集的平均自信息量
Baidu Nhomakorabea
2.3 离散集的平均自信息量
信息具有特殊的性质：无形、可共享、无限、可度量。其中信息是可 度量是要解决信息数量与质量的度量。嘻嘻度量应满足信息的三个基 本方向：结构的、统计的和语义的。 消息是信息的载荷者。消息具有不同的形式。构成消息的条件有两 个：一是构成的消息能够被通信双方理解；二是可以在通信中进行传 递和交换。同一个消息可以含有不同的信息量。 信号是消息的表现形式，消息则是信号的具体内容。信号是消息的载 体，是表示消息的物理量。
2.1自信息量和条件自信息量
2.2互信息量和条件互信息量
2.2互信息量和条件互信息量
2.3 离散集的平均自信息量
Baidu Nhomakorabea
2.3 离散集的平均自信息量