模式识别报告二

第二次试验报告

一 实验名称

贝叶斯分类器设计（最小风险贝叶斯决策和最小错误率贝叶斯抉择）

二 实验原理

最小错误率： 合理决策依据：根据后验概率决策

已知后验概率P(w 1|x), P(w 2|x)， 决策规则：

• 当P(w 1|x)>P(w 2|x) x ∈w 1，

• 当P(w 1|x)

• ∴当对具体样本作观察后，判断出属于w i 的可能性后，再决策

才合理。

• 后验概率的计算方法：

1(/)()

(/)()(|)()(/)()i i i i i c i i

i p x w P w p x w P w P w x p x p x w P w ===∑

最小风险：

1. 已知类别的P(w i )及x 的p(x/w i )，利用贝叶斯公式，可得类别

的后验概率P(w i /x)。

2. 利用决策表和后验概率，计算最小条件风险

3. 决策：在各种决策中选择风险最小的决策

三 实验内容

⏹ 假定某个局部区域细胞识别中正常（ w1）和非正常

（ w2）两类先验概率分别为

⏹ 正常状态：P （w1）=0.9；

异常状态：P （w2）=0.1。

1

(/)()(/)(/)()i i i c i i

i p x w P w P w x p x w P w =⋅=∑

⏹现有一系列待观察的细胞，其观察值为x：

-3.9847 -3.5549 -1.2401 -0.9780 -0.7932 -2.8531

-2.7605 -3.7287 -3.5414 -2.2692 -3.4549 -3.0752

-3.9934 2.8792 -0.9780 0.7932 1.1882

3.0682

-1.5799 -1.4885 -0.7431 -0.4221 -1.1186

4.2532

•类条件概率分布正态分布分别为（-2,0.5）（2,2）试对观察的结果进行分类。

四实验步骤及贴图

步骤：

⏹1.用matlab完成分类器的设计，说明文字程序相应语句，子程

序有调用过程。

⏹2.根据例子画出后验概率的分布曲线以及分类的结果示意图。

⏹3.最小风险贝叶斯决策，决策表如下：

⏹重新设计程序，完成基于最小风险的贝叶斯分类器，画出相应

的后验概率的分布曲线和分类结果,并比较两个结果。

最小风险

⏹最小风险贝叶斯决策：

⏹带红色虚线曲线是异常细胞的条件风险曲线；青色圆圈曲线是

正常细胞的条件风险曲线

⏹根据贝叶斯最小风险判决准则，判决结果显示在曲线下方：

⏹五角星代表判决为正常细胞，*号代表异常细胞

⏹各细胞分类结果（0为判成正常细胞，1为判成异常细胞）：

⏹1 0 0 0 0 0 0 0 0 0 0 0 1 1 0 1 1 1

0 0 0 1 0 1 1

⏹

⏹

⏹最小风险

⏹

最小错误率：

⏹后验概率曲线与判决显示在上图中

⏹后验概率曲线：带红色虚线曲线是判决为异常细胞的后验概率

曲线

⏹青色实线曲线是为判为正常细胞的后验概率曲线

⏹根据最小错误概率准则，判决结果显示在曲线下方：

⏹五角星代表判决为正常细胞，*号代表异常细胞

⏹各细胞分类结果（0为判成正常细胞，1为判成异常细胞）：

⏹0 0 0 0 0 0 0 0 0 0 0 0 0 1 0 1 1 1

0 0 0 1 0 1 1

⏹

⏹

⏹

实验代码

最小错误率：

clear all;

clc;

x=[-3.9847 -3.5549 -1.2401 -0.9780 -0.7932 -2.8531 -2.7605 -3.7287 -3.5414 -2.2692 -3.4549 -3.0752 -3.9934 2.8792 -0.9780 0.7932 1.1882 3.0682

-1.5799 -1.4885 0.7431 -0.4221 -1.1186 4.2532 ]

pw1=0.9; pw2=0.1;

e1=-2; a1=0.5;

e2=2;a2=2;

m=numel(x); %得到待测细胞个数

pw1_x=zeros(1,m); %存放对w1的后验概率矩阵pw2_x=zeros(1,m); %存放对w2的后验概率矩阵

results=zeros(1,m); %存放比较结果矩阵

for i = 1:m

%计算在w1下的后验概率

pw1_x(i)=(pw1*normpdf(x(i),e1,a1))/(pw1*normpdf(x(i),e1,a1)+pw2*normpdf(x(i),e2,a2)) ;

%计算在w2下的后验概率

pw2_x(i)=(pw2*normpdf(x(i),e2,a2))/(pw1*normpdf(x(i),e1,a1)+pw2*normpdf(x(i),e2,a2)) ;

end

for i = 1:m

if pw1_x(i)>pw2_x(i) %比较两类后验概率

result(i)=0; %正常细胞

else

result(i)=1; %异常细胞

end

end

a=[-5:0.05:5]; %取样本点以画图

n=numel(a);

pw1_plot=zeros(1,n);

pw2_plot=zeros(1,n);

for j=1:n

pw1_plot(j)=(pw1*normpdf(a(j),e1,a1))/(pw1*normpdf(a(j),e1,a1)+pw2*normpdf(a(j),e2,a2)); %计算每个样本点对w1的后验概率以画图

pw2_plot(j)=(pw2*normpdf(a(j),e2,a2))/(pw1*normpdf(a(j),e1,a1)+pw2*normpdf(a(j),e2,a2)); end

figure(1);

hold on

h1=plot(a,pw1_plot,'co');

h2=plot(a,pw2_plot,'r-.');

for k=1:m

if result(k)==0

h3=plot(x(k),-0.1,'cp'); %正常细胞用五角星表示

else

h4=plot(x(k),-0.1,'r*'); %异常细胞用*表示

end;

end;

legend([h1,h2,h3,h4],'正常细胞后验概率曲线','异常细胞后验概率曲线','正常细胞','异常细胞');

xlabel('样本细胞的观察值');

ylabel('后验概率');