第四章 习题解

第四章 习题解

4.2 设一维两类模式满足正态分布，它们的均值和方差分别为，μ1=0，σ1=2，μ2=2，σ2=2，p(x) ~N(μ,σ)，窗函数P(ω1)= P(ω2)，取0-1损失函数，试算出判决边界点，并绘出它们的概率密度函数曲线；试确定样本-3，-2，1，3，5各属哪一类。

解：

已知21(|))8x p x ω=-

2

2

(2)(|)]8x p x ω-=-

由Bayes 最小损失判决准则： 如果1221221212211211(|)()()()(|)()()p x P l x p x P ωωλλθωωλλ-=

>=-，则判1x ω∈，否则判2x ω∈。

221212(2)1()exp[]exp()1882x x x l x θ--=-+=->=

1211ln[exp()]ln ln1022x x θ---=>==

∴如果1x <，则判

1x ω∈，否则判2x ω∈。 ∴-3，-2属于ω1；1，3，5属于ω2。

4.7 在图像识别中，假定有灌木丛和坦克两种类型，分别用ω1和ω2表示，它们的先验概率分别为0.7和0.3，损失函数如表3.1所示。现在做了四次试验，获得四个样本的类概率密度如下 )/(1ωx p ：0.1，0.15，0.3， 0.6

)/(2ωx p ：0.8，0.7，0.55， 0.3 （1） （2） ；

（3） 将拒绝判决考虑在内，重新考核四次试验的结果。

表3.1

解：

（1）两类问题的Bayes 最小误判概率准则为

如果

12121221(|)()()(|)()p x P l x p x P ωωθωω=

>=，则判1x ω∈，否则判2x ω∈。

由已知数据，θ12=0.3/0.7=3/7， 样本x 1：∵ l 12（x 1）=0.1/0.8<θ12=3/7 ∴ x 1∈ω2

样本x 2：∵ l 12（x 2）=0.15/0.7<θ12=3/7 ∴ x 2∈ω2

样本x 3：∵ l 12（x 3）=0.3/0.55>θ12=3/7 ∴ x 3∈ω1

样本x 4：∵ l 12（x 4）=0.6/0.3>θ12=3/7 ∴ x 4∈ω1

（2）不含拒绝判决的两类问题的Bayes 最小风险判决准则为

如果

1221221212211211(|)()()()(|)()()p x P l x p x P ωωλλθωωλλ-=

>=-，则判1x ω∈，否则判2x ω∈。

由已知数据，θ12=0.3⨯（2 - 1）/[0.7⨯（4 - 0.5）]=3/24.5，

样本x 1：∵ l 12（x 1）=1/8>θ12=6/49 ∴ x 1∈ω1

样本x 2：∵ l 12（x 2）=3/14>θ12=6/49 ∴ x 2∈ω1

样本x 3：∵ l 12（x 3）=6/11>θ12=6/49 ∴ x 3∈ω1

样本x 4：∵ l 12（x 4）=6/3>θ12=6/49 ∴ x 4∈ω1

（3）含拒绝判决的两类问题的Bayes 最小风险判决准则为

1,2,3if (|)min[(|)] then , 3i j i j R x R x x i ααω==∈=时为拒绝判决

其中条件风险：

21(|)(|)(|),1,2,3j j i i i R x P x j αλαωω===∑

后验概率： 21(|)(|)()/()(|)()/[(|)()]

i i i i i i i i P x p x P p x p x P p x P ωωωωωωω===∑ ∴2

11(|)(|)(|)(),1,2,3()j j i i i i R x p x P j p x αλαωωω===∑

记21(|)(|)(|)(),1,2,3

j j i i i i r x p x P j αλαωωω===∑ (4.7-1)

则，含拒绝判决的两类问题的Bayes 最小风险判决准则为 1,2,3

if r(|)min[(|)] then , 3i j i j x r x x i ααω==∈=时为拒绝判决

对四个样本逐一列写下表，用(4.7-1)式计算r (αj |x )。

31122113311441

4.9 假设两类二维正态分布参数为μ1=(-1，0)’，μ2=(1，0)’，先验概率相等。

（1）令∑1=∑2=I ，试给出负对数似然比判决规则；

（2）令

111/21/21⎛⎫∑= ⎪⎝⎭ 211/21/21-⎛⎫∑= ⎪-⎝⎭

试给出负对数似然比判决规则。

解：

Bayes 最小误判概率似然比判决规则为

如果

12121221(|)()()1(|)()p x P l x p x P ωωθωω=

>==，则判

1x ω∈，否则判2x ω∈。 相应的负对数似然比判决规则为

如果122112ln ()ln (|)ln (|)ln ln10l x p x p x ωωθ-=-<-=-=，则判1x ω∈，否则判2x ω∈。 对于正态分布

1/21/211(|)exp[()'()](2)||2i i i i n i p x x x ωμμπ-=--∑-∑ 1112121112221ln ()[ln ||ln ||()'()()'()]2l x x x x x μμμμ---=∑-∑+-∑---∑-

（1）由已知，22111212211(1)111(|)exp[()'()]exp[]002222x x x x p x I x x ωππ--⎛⎫⎛⎫⎛⎫⎛⎫++=---=- ⎪ ⎪ ⎪ ⎪⎝⎭⎝⎭

⎝⎭⎝⎭22111222211(1)111(|)exp[()'()]exp[]002222x x x x p x I x x ωππ⎛⎫⎛⎫⎛⎫⎛⎫-+=---=- ⎪ ⎪ ⎪ ⎪⎝⎭⎝⎭⎝⎭⎝⎭

∴22

1221111ln ()ln (|)ln (|)(1)(1)4l x p x p x x x x ωω-=-=+--= 故，如果

10x <则判1x ω∈，否则判2x ω∈。

（2） ∵111/2||3/4

1/21∑=

=， 21

1/2||3/4

1/21-∑==-

11

111/211/241/211/213---⎛⎫⎛⎫∑== ⎪ ⎪-⎝⎭⎝⎭，21111/211/241/211/213---⎛⎫⎛⎫∑== ⎪ ⎪-⎝⎭⎝⎭

∴

''

1111122222111111/211/21414ln ()1/211/212323x x x x l x x x x x ++---⎛⎫⎛⎫⎛⎫⎛⎫⎛⎫⎛⎫-=- ⎪ ⎪ ⎪ ⎪ ⎪ ⎪-⎝⎭⎝⎭⎝⎭⎝⎭⎝⎭⎝⎭ ''1212111122221/21/21122113322x x x x x x x x x x x x +--+⎛⎫⎛⎫+-⎛⎫⎛⎫ ⎪ ⎪=-+- ⎪ ⎪ ⎪ ⎪-++ ⎪ ⎪⎝⎭⎝⎭⎝⎭⎝⎭

111122*********[(1)(1/2)()(1)(1/2)()]322x x x x x x x x x x x x +-=++-+-+---+-+

1124(2)3x x x =-

∴1212if (2)0 then else x x x x ωω-<∈∈ 即，121212if [(<0)and( 2)][(0)and( 2)] then else x x or x x x x ωω<>>∈∈

补充题1：

假设两类一维模式的概率密度函数为 10.51, 02(|)0, x x p x ω-+≤≤⎧=⎨⎩其它 20.50.5, 13(|)0, x x p x ω-≤≤⎧=⎨⎩其它

先验概率相等。

（1）求Bayes 判决函数（用0-1损失函数）；

（2）求总的误判概率。

解：（1）