模式识别习题

7.朴素贝叶斯方法的条件独立假设是(

P(x| 3 i) =P(x1, x2,…,xn | co i)

第一章绪论

1 •什么是模式？具体事物所具有的信息。

模式所指的不是事物本身，而是我们从事物中获得的

2•模式识别的定义？ 让计算机来判断事物。 3•模式识别系统主要由哪些部分组成？

数据获取一预处理一特征提取与选择一分类器设计

/

分类决策。

第二章贝叶斯决策理论

P ( W 2 ) / P ( W 1 ) _,贝V X

1. 最小错误率贝叶斯决策过程？

答：已知先验概率，类条件概率。利用贝叶斯公式 得到后

验概率。根据后验概率大小进行决策分析。

2. 最小错误率贝叶斯分类器设计过程？

答：根据训练数据求出先验概率

P ( W i ),

>

类条件概率分布P ( X | W i ), i 1 , 2 利用贝叶斯公式得到后验概率 P (W i 1 x)

1

如果输入待测样本 X ，计算X 的后验概率根据后验概率大小进行分类决策分析。

3. 最小错误率贝叶斯决策规则有哪几种常用的表示形式?

决策规则的4- I-J 形工战< d

x +) — max 爪'(vr I A *), MJ A * 匚 w.

如SI 卫(A *叫)厂)= 如果lg=上心lw) py %)

心li M/ JC ) = —1IL | /( A *)J = — hi JC | 讥.j + 111 | i r 2 )

>

尸(“空)

I MJ

4 .贝叶斯决策为什么称为最小错误率贝叶斯决策？

答：最小错误率Bayes 决策使得每个观测值下的条件错误率最小因而保证了 (平均)错误率

最小。Bayes 决策是最优决策：即，能使决策错误率最小。

5. 贝叶斯决策是 由先验概率和(类条件概率)概率，推导(后验概率)概率，然后利用这 个概率进行决策。

6. 利用乘法法则和全概率公式证明贝叶斯公式

p(AB) p(A|B)p(B) p(B|A)p(A)

P (A

」B )

答：

m

所以推出贝叶斯公式

p(B) p(B|Aj)p(Aj)

j 1

P(W i |x)

P (x | W i ) P(W i )

2

P(x | W j ) P (w j )

j 1

1 , 2

.信息__。

如果 I (x)

P (X | W i ) P (W i )

P(X | W j )P(W j )

max />(A' |

t

),则

时 P(B |A i )P(AJ P ( B ) P ( B | A i ) P ( A i ) 7M

P ( B | A j ) P ( A j )

2

=P （x1| 3 i ） P （x2| 3 i ）…P （xn| 3 i ）） 8•怎样利用朴素贝叶斯方法获得各个属性的类条件概率分布？

答：假设各属性独立，

P （x| 3 i ） =P （x1, x2,…,xn | 3 i ） = P （x1| 3 i ） P （x2| 3 i ）…P （xn| 3

i ）

后验概率： P(3 i|x) = P( 3 i) P(x1| 3 i) P(x2| 3 i)…P(xn| 3 i)

类别清晰的直接分类算，如果是数据连续的，假设属性服从正态分布，算出每个类的均值方 差，最后得到类条件概率分布。

9•计算属性Marital Status 的类条件概率分布

给表格计算，婚姻状况几个类别和分类几个就求出多少个类条件概率。

10,朴素贝叶斯分类器的优缺点？

答：分类器容易实现。

面对孤立的噪声点，朴素贝叶斯分类器是健壮的。因为在从数据中估计条件概率时。 这些 点被平均。面对无关属性，该分类器是健壮的。相关属性可能降低分类器的性能。 因为对这

些属性，条件独立的假设已不成立。

11.我们将划分决策域的边界称为

（决策面），在数学上用可以表示成 （决策面方程）

12•用于表达决策规则的函数称为（判别函数）

13•判别函数与决策面方程是密切相关的，且它们都由相应的决策规则所确定 14.写出多元正态概率下的最小

错误率贝叶斯决策的判别函数，即

2（x

山）i （X 山）

d In 2 2

15•多元正态概率下的最小错误率贝叶斯决策的决策面方程为 16•多元正态

概率下的最小错误率贝叶斯决策，当类条件概率分布的协方差矩阵为

2 时，每类的协方差矩阵相等，且类内各特征间（相互独立）

，并具有相等的

方差。

17•多元正态概率下的最小错误率贝叶斯决策，如果先验概率相等，并 i

2且

i=1,2,…c ,那么分类问题转化为只要计算待测样本 x 到各类均值的（欧式距离），然后把x 归

于具有（最小距离平方）的类。这种分类器称为（最小距离分类器）

。

18.

I 己知样車类条件概率密度.ZX 划径）心儿二、 j =-l Q 其中砂=© J 〉*# 宀=#

貝吗）=0.7” 刊马）= > V 如果用最小锚i 吴率贝叶斯决策

2丿

来行分类器设计，决策而将 ________________ 不通过 ______ C 通过*不通过》刈 和从连线的中点。决策向宀向虽 19吗-小

______________ 正仝 ____ （.1疋交*不止交）O I W .

多元正态概率下的最小错误率贝叶斯决策，类条件

概率密度各类的协方差矩阵不相等时，决策面是（超二次曲面）

均值：mean （x ）

XI

方差：var （x ） m 1n (xI

x)A 2

g i (x) ln( p(x | |)P( |))

g i (x) g j (x) 0

In P( I )

，判别函数是（二次型）