模式识别实验报告

实验一Bayes 分类器设计

本实验旨在让同学对模式识别有一个初步的理解，能够根据自己的设计对贝叶斯决策理论算法有一个深刻地认识，理解二类分类器的设计原理。

1实验原理

最小风险贝叶斯决策可按下列步骤进行：

(1)在已知)(i P ω，)(i X P ω，i=1,…，c 及给出待识别的X 的情况下，根据贝叶斯公式计算出后验概率： ∑==

c

j i

i

i i i P X P P X P X P 1

)

()()

()()(ωωωωω j=1,…，x

(2)利用计算出的后验概率及决策表，按下面的公式计算出采取i a ,i=1,…，a 的条件风险

∑==

c

j j j

i

i X P a X a R 1

)(),()(ωω

λ,i=1,2,…,a

(3)对(2)中得到的a 个条件风险值)(X a R i ,i=1,…，a 进行比较，找出使其条件风险最小的决策k a ，即

则k a 就是最小风险贝叶斯决策。

2实验内容

假定某个局部区域细胞识别中正常（1ω）和非正常（2ω）两类先验概率分别为 正常状态：P （1ω）=0.9； 异常状态：P （2ω）=0.1。

现有一系列待观察的细胞，其观察值为x ：

-3.9847 -3.5549 -1.2401 -0.9780 -0.7932 -2.8531 -2.7605 -3.7287 -3.5414 -2.2692 -3.4549 -3.0752 -3.9934 2.8792 -0.9780 0.7932 1.1882 3.0682 -1.5799 -1.4885 -0.7431 -0.4221 -1.1186 4.2532 已知类条件概率密度曲线如下图：

)|(1ωx p )|(2ωx p 类条件概率分布正态分布分别为（-2，0.25）（2,4）试对观察的结果进

行分类。

3 实验要求

1) 用matlab 完成分类器的设计，要求程序相应语句有说明文字。 2) 根据例子画出后验概率的分布曲线以及分类的结果示意图。 3) 如果是最小风险贝叶斯决策，决策表如下：

最小风险贝叶斯决策表：

请重新设计程序，画出相应的后验概率的分布曲线和分类结果,并比较两个结果。

最小错误率贝叶斯决策

试验程序

x=[-3.9847,-3.5549,-1.2401,-0.9780,-0.7932,

-2.8531,-2.7605,-3.7287,-3.5414 ,-2.2692,-3.4549,-3.0752,-3.9934,2.8792,...

-0.9780,0.7932,1.1882 ,3.0682 ,-1.5799 ,-1.4885 ,-0.7431 ,-0.4221 ,-1.1186 ,4.2532 ]; num=24; %输入的特征值个数

result=zeros(1,num);%存放分类结果

e1=-2; %正常细胞的特征均值

a1=0.5; %正常细胞的特征标准差

e2=2; %异常细胞的特征均值

a2=2; %异常细胞的特征标准差

pw1=0.9; %正常细胞出现的概率

pw2=0.1; %异常细胞出现的概率

for i=1:num

pw1_x=normpdf(x(i),e1,a1)*pw1; %正常细胞后验概率的分子

pw2_x=normpdf(x(i),e2,a2)*pw2; %异常细胞后验概率的分子

if pw1_x>pw2_x

result(i)=1; %识别结果为正常细胞

end

end

a=[-5:0.05:5];

n=numel(a);

pw1_plot=zeros(1,n);

pw2_plot=zeros(1,n);

for j=1:n

pw1_plot(j)=(pw1*normpdf(a(j),e1,a1))/(pw1*normpdf(a(j),e1,a1)+pw2*normpdf(a (j),e2,a2));%正常细胞后验概率

pw2_plot(j)=(pw2*normpdf(a(j),e2,a2))/(pw1*normpdf(a(j),e1,a1)+pw2*normpdf(a (j),e2,a2));%异常细胞后验概率

end

figure(1);

hold on;

plot(a,pw1_plot,'k-',a,pw2_plot,'r-.');

for k=1:num

if result(k)==1

plot(x(k),-0.1,'b*');%正常细胞分布 else

plot(x(k),-0.1,'rp');%异常细胞分布 end end

legend('正常细胞后验概率曲线','异常细胞后验概率曲线','正常细胞','异常细胞'); xlabel('样品细胞特征值'); ylabel('后验概率'); title('后验概率分布曲线'); grid on; 实验结果

-5

-4-3-2

-1012345

-0.20

0.2

0.4

0.6

0.8

1

1.2

样品细胞特征值

后验概率

后验概率分布曲线

带—·—的曲线为判决成异常细胞的后验概率曲线；

另一条平滑的曲线为判为正常细胞的后验概率曲线。

根据最小错误概率准则，判决结果见曲线下方，其中“*”代表判决为正常细胞，“五角星”代表异常细胞各细胞分类结果。

最小风险贝叶斯决策分类器设计

实验程序

x = [-3.9847 , -3.5549 , -1.2401 , -0.9780 , -0.7932 , -2.8531 ,-2.7605 , -3.7287 , -3.5414 , -2.2692 ,...

-3.4549 , -3.0752 , -3.9934 , 2.8792 , -0.9780 , 0.7932 , 1.1882 , 3.0682, -1.5799 , -1.4885 , -0.7431 , -0.4221 , -1.1186 , 4.2532 ] ;

disp(x)

pw1=0.9 ;%第一类的先验概率

pw2=0.1 ;%第二类的先验概率

m=numel(x); %样品个数

R1_x=zeros(1,m) ;%判为第一类的条件风险

R2_x=zeros(1,m) ;%判为第二类的条件风险

result=zeros(1,m) ;%识别结果

e1=-2; %第一类的均值

a1=0.5 ;%第一类的标准差