信息论基础知识树

绪
论
无失真信源编码定理
香农第一定理
有噪信道编码定理 香农第二定理
限失真信源编码定理 香农第三定理
信息熵
信源编码
定长码与 序列分组
定理
变长码与 异前置码
哈夫曼编 码与马氏
源编码
渐进均分 性与典型
序列
唯一可译 码准则
平均码长 与编码效
率
译码准则
译码错误 概率
ห้องสมุดไป่ตู้
最大后验 概率准则
最大似然 准则
线性分组 码
费诺不等 信道编码
连续随机变量集合平均 互信息
离散集与时间集之间的 互信息
信道:
离散无噪声信道及容量 离散对称信道及容量 一般信道容量计算 离散无记忆扩展信道 并联信道及容量 和信道及容量
离散信道
单符号离散 信道及容量
级联信道及 容量
多维矢量信 道及容量
波形信道
离散时间连续信道 加性噪声信道及容量
AWGN信道及容量 有色高斯噪声信道 数字调制系统信道容量
式
定理
率是真定理
离散
连续
离散信 源率失 真函数
连续信 源率失 真函数
离散率 失真函 数计算
连续率 失真函 数计算
离散信源
离散无记忆信源的熵 离散有记忆信源的熵 平稳马尔可夫信源的熵 信源效率与剩余度
信息的度量
自信息与 互信息 信息熵
平均互信 息
相对熵
连续信息与信源
连续随机变量集合的熵
离散时间高斯信源的熵