第四章 信息率失真函数-习题答案

4.1 一个四元对称信源⎭

⎬⎫⎩⎨⎧=⎥⎦⎤⎢⎣⎡4/14/1324/14/110)(X P X ，接收符号Y = {0, 1, 2, 3}，其失真矩阵为⎥⎥⎥⎥⎦

⎤⎢⎢⎢⎢⎣⎡0111

101111011110，求D max 和D min 及信源的R(D)函数，并画出其曲线（取4至5个点）。 解： 0041041041041),(min )(43041141141141),()(min min min max =⨯+⨯+⨯+⨯===⨯+⨯+⨯+⨯===∑∑i

j i j i i j i i j j y x d x p D y x d x p D D 因为n 元等概信源率失真函数：

⎪⎭

⎫ ⎝⎛-⎪⎭⎫ ⎝⎛-+-+=a D a D n a D

a D n D R 1ln 11ln ln )( 其中a = 1, n = 4, 所以率失真函数为：

()()D D D D D R --++=1ln 13

ln

4ln )( 函数曲线：

D 其中：

symbol nat D R D symbol nat D R D symbol nat D R D symbol

nat R D /0)(,4

3/12ln 2

14ln )(,21/3

16ln 214ln )(,41/4ln )0(,0==-==-==== 4.2 若某无记忆信源⎭⎬⎫⎩⎨⎧-=⎥⎦⎤⎢⎣⎡3/113/13/101)(X P X ，接收符号⎭⎬⎫⎩⎨⎧-=21,21Y ，其失真矩阵⎥⎥⎥⎦

⎤⎢⎢⎢⎣⎡=112211D 求信源的最大失真度和最小失真度，并求选择何种信道可达到该D max 和D min 的失真度。

4.3 某二元信源⎭⎬⎫⎩⎨⎧=⎥⎦⎤⎢⎣⎡2/12/110)(X P X 其失真矩阵为⎥⎦

⎤⎢⎣⎡=a a D 00求这信源的D max 和D min 和R(D)

函数。

解：

0021021),(min )(202121),()(min min min max =⨯+⨯===⨯+⨯===∑∑i

j i j i i j i i j j y x d x p D a a y x d x p D D 因为二元等概信源率失真函数：

⎪⎭

⎫ ⎝⎛-=a D H n D R ln )( 其中n = 2, 所以率失真函数为：

⎥⎦

⎤⎢⎣⎡⎪⎭⎫ ⎝⎛-⎪⎭⎫ ⎝⎛-+-=a D a D a D a D D R 1ln 1ln 2ln )( 4.4 已知信源X = {0, 1}，信宿Y = {0, 1, 2}。设信源输入符号为等概率分布，而且失真函数⎥⎦⎤⎢⎣⎡∞∞=1100D ，求信源的率失真函数R(D)。

4.5 设信源X = {0, 1, 2, 3}，信宿Y = {0, 1, 2, 3, 4, 5, 6}。且信源为无记忆、等概率分布。失真函数定义为

⎪⎪⎩⎪⎪⎨⎧∞======其他

且且53,21

41,010),(j i j i j i y x d j i 证明率失真函数R(D)如图所示。

log2

2log2

D

4.6 设信源X = {0, 1, 2}，相应的概率分布p (0) = p (1) = 0.4，p (2) = 0.2。且失真函数为 )2,1,0,(10),(=⎩⎨⎧≠==j i j i j i y x d j i

(1) 求此信源的R(D)；

(2) 若此信源用容量为C 的信道传递，请画出信道容量C 和其最小误码率P k 之间的曲线关系。

4.7 设0 < α, β < 1, α + β = 1。试证明：αR(D ’) +βR(D ”) ≥ R(αD ’ +βD ”)

4.8 试证明对于离散无记忆N 次扩展信源，有R N (D) = NR(D)。其中N 为任意正整数，D ≥ D min 。

4.9 设某地区的“晴天”概率p (晴) = 5/6，“雨天”概率p (雨) = 1/6，把“晴天”预报为“雨天”，把“雨天”预报为“晴天”造成的损失为a 元。又设该地区的天气预报系统把“晴天”预报为“晴天”，“雨天”预报为“雨天”的概率均为0.9；把把“晴天”预报为“雨天”，把“雨天”预报为“晴天”的概率均为0.1。试计算这种预报系统的信息价值率v （元/比特）。

4.10 设离散无记忆信源⎭

⎬⎫⎩⎨⎧=⎥⎦⎤⎢⎣⎡3/13/13/1)(321x x x X P X 其失真度为汉明失真度。 (1) 求D min 和R(D min )，并写出相应试验信道的信道矩阵；

(2) 求D max 和R(D max )，并写出相应试验信道的信道矩阵；

(3) 若允许平均失真度D = 1/3，试问信源的每一个信源符号平均最少有几个二进制符号表示？

解：

⎪⎪⎩⎪⎪⎨⎧≠-+=-+==⨯+⨯+⨯==∑j i e n e j i e n x y p y x d x p D sa sa sa i j i

j i j i ,)1(1,)1(11)/(0031031031),(min )(min

4.11 设信源⎭

⎬⎫⎩⎨⎧-=⎥⎦⎤⎢⎣⎡p p x x X P X 1)(21（p < 0.5），其失真度为汉明失真度，试问当允许平均失真度D = 0.5p 时，每一信源符号平均最少需要几个二进制符号表示？

解：

因为二元信源率失真函数：

⎪⎭

⎫ ⎝⎛-=a D H p H D R )()( 其中a = 1（汉明失真）, 所以二元信源率失真函数为：

)()()(D H p H D R -= 当2

p D =时 []symbol nat p p p p p p p p p H p H p R /21ln 212ln 2)1ln()1(ln 2)(2⎥⎦

⎤⎢⎣⎡⎪⎭⎫ ⎝⎛-⎪⎭⎫ ⎝⎛-++--+-=⎪⎭⎫ ⎝⎛-=⎪⎭⎫ ⎝⎛