有导师学习神经网络分类识别
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
(1) 利用GRNN和PNN分别建立鸢尾花种类识别模型，并对模型性能进行评价； (2) 利用GRNN和PNN分别建立各个属性集属性组合与鸢尾花种类间的识别模型，比较模型的性能及运算时 间。
产生训练集/测试集
解题思路与步骤 创建GRNN
仿真测试 创建PNN
性能评价
性能评价：计算测试集预测类别与真实类别间的误差，可以对模型的泛化能力进行评价。
采集到150组不同类型鸢尾花的4种属性，萼片长度、萼片宽度、花瓣长度和花瓣宽度，样本编号与4种 属性的关系如图所示，其中1-50为Setosa,51-100为Versicolour，101-150为Virginica。从图中大致可以看出， 花瓣长度、花瓣宽度与鸢尾花类型间有较好的线性关系，而萼片长度、萼片宽度与鸢尾花类型间呈现出非 线性的关系。
其中，
spbre1ad 为[径b向1基1 ,b 函1数2 ,的 扩展,b速1Q 度]。'
（3）确定隐b含1层1与b输1出2层 间权值b和1Q阈值s0.p8r3e2a6d
（4）输出层神经元输出计算
ai expC(pi 2bi)
Wt
ni LW2,1ai
yi comp(enti)
PNN网络函数命令 net = newpnn （P,T,spread） sim_grnn = sim （net，p_test）
竞争网络 由输入层和竞争层组成，输入层只负责数据的传递，竞争层的各个神经元以相互竞争的形式来赢得对输
入模式的响应，最终只有一个神经元赢得胜利，并使与该获胜神经元相关的各连接权值和阈值向着更有利 于其竞争的方向发展，而其他神经元对应的权值和阈值保持不变。
仅仅有输入信息，无需输出信息
竞争神经网络函数命令 net = newc （PR,S,KLR,CLR） sim_compet = sim （net，p_test）
无导师学习神经网络的分类 — 矿井突水水源判别
概念 无导师学习神经网络在学习过程中无需知道期望的输出。其与真实人脑中的神经网络类似，可以通过不 断的观察、分析与比较，自动揭示样本中的内在规律与本质，从而可以对具有近似特征（属性）的样本进 行准确地分类和识别。 包括两种网络：
竞争神经网络和自组织特征映射神经网络
p11
P
p21
pR1
p12 p1Q
p22
p2Q
pR2
PRQ
t11 t12 t1Q
T
t 21
t22
t
2Q
t S 1
tS 2
t
SQ
R为输入变量的维数，S为输出变量的维数；Q为训练集样本数
C P'
（2）确定隐含层神经元阈值
其中，
spbre1ad 为[径b向1基1 ,b 函1数2 ,的 扩展,b速1Q 度]。'
（3）确定隐b含1层1与b输1出2层 间权值b和1Q阈值s0.p8r3e2a6d
（4）输出层神经元输出计算
ai expC(pi 2bi)
Wt
ni
LW
Q
ai
2 ,1
a
i j
j 1
yi purel(inni)
GRNN网络函数命令 net = newgrnn （P,T,spread） sim_grnn = sim （net，p_test）
20
PR为输入变量的最小及最大值构成的矩阵；S为竞争层神经元个数；KLR为权值的学习速率（默认为 0.01）；CLR为阈值的学习速率（默认为0.001）；net为创建好的竞争网络。
SOFM神经网络
由输入层和自组织特征映射层（竞争层）组成，CNN的竞争层的各个神经元以相互竞争的形式来赢得对 输入模式的响应，最终只有一个神经元赢得胜利，并使与该获胜神经元相关的各连接权值和阈值向着更有 利于其竞争的方向发展，而其他神经元对应的权值和阈值保持不变；而SOFM的邻近范围内的权值和阈值 都进行调整，很大程度改善了网络的学习和泛化能力。
有导师学习神经网络分类识别
2020/11/26
1
1.基础理论
1. GRNN的结构 GRNN由输入层、隐含层和输出层组成。 输入层：将样本送入隐含层，不参与运算； 隐含层:神经元个数等于训练集样本数，权值为欧式距离；传递函数为径向基函数； 输出层：线性输出层，其权函数为规范化点积权函数。
GRNN的学习算法 （1）确定隐含层神经元径向基函数中心
实例 植物的分类与识别是植物学研究和农林业生产经营中的重要基础工作，对于区分植物种类，探索植物 间的亲பைடு நூலகம்关系、阐明植物系统的进化规律具有重要意义。目前常用的植物种类鉴别方法是利用分类检索表 进行鉴定，但该方法花费时间较长，需要投入大量的财力物力。 叶片是植物的重要组成部分，叶子的外轮廓是其主要形态特征。在提取叶子形态特征的基础上，利用计 算机进行辅助分类与识别成为当前的主要研究方向和研究热点。
2、概率神经网络概述（PNN） 与GRNN类似，由输入层、隐含层和输出层组成。与GRNN不同的是，PNN的输出层采用竞争输出代替线
性输出，各神经元只依据Parzen方法来求和估计各类的概率，从而竞争输入模式的响应机会，最后仅有一个 神经元竞争获胜，获胜的神经元即表示对输入模式的分类。
隐含层空间维数 - 网络逼近精度 - 网络复杂度
（1）确定隐含层神经元径向基函数中心
PNN的学习算法
p11
P
p21
pR1
p12 p1Q
p22
p2Q
pR2
PRQ
t11 t12 t1Q
T
t 21
t22
t
2Q
t S 1
tS 2
t
SQ
R为输入变量的维数，S为输出变量的维数；Q为训练集样本数
C P'
（2）确定隐含层神经元阈值
竞争神经网络函数命令 net = newsom（P,[D1,D2,…],TFCN,DFCN,STEPS,IN）
sim_sofm = sim （net，p_test）
P 为 网 络 输 入 向 量 ， Di 为 网 络 第 i 层 的 维 数 （ 默 认 为 [5 8] ） ； TFCN 为 网 络 的 拓 扑 函 数 （ 默 认 为 “hextop”）；DFCN为网络的距离函数（默认为“linkdist”）；STEPS为邻近距离递减到1的步数（默认为 100）；IN为初始的邻近距离（默认为3）；net为创建好的竞争网络。
实例
采集39个水源样本，分别来自于4个主要含水层，二灰和奥陶纪含水层、八灰含水层、顶板砂含水层和 第四系含水层。以每个水源样本中的离子Na、K、Ca、Mg、Cl、硫酸根和次氯酸根离子的含量作为判别因 素，试利用CNN和SOFM分别建立判别模型，并对模型的性能进行综合评价。
谢谢！
2020/11/26
产生训练集/测试集
解题思路与步骤 创建GRNN
仿真测试 创建PNN
性能评价
性能评价：计算测试集预测类别与真实类别间的误差，可以对模型的泛化能力进行评价。
采集到150组不同类型鸢尾花的4种属性，萼片长度、萼片宽度、花瓣长度和花瓣宽度，样本编号与4种 属性的关系如图所示，其中1-50为Setosa,51-100为Versicolour，101-150为Virginica。从图中大致可以看出， 花瓣长度、花瓣宽度与鸢尾花类型间有较好的线性关系，而萼片长度、萼片宽度与鸢尾花类型间呈现出非 线性的关系。
其中，
spbre1ad 为[径b向1基1 ,b 函1数2 ,的 扩展,b速1Q 度]。'
（3）确定隐b含1层1与b输1出2层 间权值b和1Q阈值s0.p8r3e2a6d
（4）输出层神经元输出计算
ai expC(pi 2bi)
Wt
ni LW2,1ai
yi comp(enti)
PNN网络函数命令 net = newpnn （P,T,spread） sim_grnn = sim （net，p_test）
竞争网络 由输入层和竞争层组成，输入层只负责数据的传递，竞争层的各个神经元以相互竞争的形式来赢得对输
入模式的响应，最终只有一个神经元赢得胜利，并使与该获胜神经元相关的各连接权值和阈值向着更有利 于其竞争的方向发展，而其他神经元对应的权值和阈值保持不变。
仅仅有输入信息，无需输出信息
竞争神经网络函数命令 net = newc （PR,S,KLR,CLR） sim_compet = sim （net，p_test）
无导师学习神经网络的分类 — 矿井突水水源判别
概念 无导师学习神经网络在学习过程中无需知道期望的输出。其与真实人脑中的神经网络类似，可以通过不 断的观察、分析与比较，自动揭示样本中的内在规律与本质，从而可以对具有近似特征（属性）的样本进 行准确地分类和识别。 包括两种网络：
竞争神经网络和自组织特征映射神经网络
p11
P
p21
pR1
p12 p1Q
p22
p2Q
pR2
PRQ
t11 t12 t1Q
T
t 21
t22
t
2Q
t S 1
tS 2
t
SQ
R为输入变量的维数，S为输出变量的维数；Q为训练集样本数
C P'
（2）确定隐含层神经元阈值
其中，
spbre1ad 为[径b向1基1 ,b 函1数2 ,的 扩展,b速1Q 度]。'
（3）确定隐b含1层1与b输1出2层 间权值b和1Q阈值s0.p8r3e2a6d
（4）输出层神经元输出计算
ai expC(pi 2bi)
Wt
ni
LW
Q
ai
2 ,1
a
i j
j 1
yi purel(inni)
GRNN网络函数命令 net = newgrnn （P,T,spread） sim_grnn = sim （net，p_test）
20
PR为输入变量的最小及最大值构成的矩阵；S为竞争层神经元个数；KLR为权值的学习速率（默认为 0.01）；CLR为阈值的学习速率（默认为0.001）；net为创建好的竞争网络。
SOFM神经网络
由输入层和自组织特征映射层（竞争层）组成，CNN的竞争层的各个神经元以相互竞争的形式来赢得对 输入模式的响应，最终只有一个神经元赢得胜利，并使与该获胜神经元相关的各连接权值和阈值向着更有 利于其竞争的方向发展，而其他神经元对应的权值和阈值保持不变；而SOFM的邻近范围内的权值和阈值 都进行调整，很大程度改善了网络的学习和泛化能力。
有导师学习神经网络分类识别
2020/11/26
1
1.基础理论
1. GRNN的结构 GRNN由输入层、隐含层和输出层组成。 输入层：将样本送入隐含层，不参与运算； 隐含层:神经元个数等于训练集样本数，权值为欧式距离；传递函数为径向基函数； 输出层：线性输出层，其权函数为规范化点积权函数。
GRNN的学习算法 （1）确定隐含层神经元径向基函数中心
实例 植物的分类与识别是植物学研究和农林业生产经营中的重要基础工作，对于区分植物种类，探索植物 间的亲பைடு நூலகம்关系、阐明植物系统的进化规律具有重要意义。目前常用的植物种类鉴别方法是利用分类检索表 进行鉴定，但该方法花费时间较长，需要投入大量的财力物力。 叶片是植物的重要组成部分，叶子的外轮廓是其主要形态特征。在提取叶子形态特征的基础上，利用计 算机进行辅助分类与识别成为当前的主要研究方向和研究热点。
2、概率神经网络概述（PNN） 与GRNN类似，由输入层、隐含层和输出层组成。与GRNN不同的是，PNN的输出层采用竞争输出代替线
性输出，各神经元只依据Parzen方法来求和估计各类的概率，从而竞争输入模式的响应机会，最后仅有一个 神经元竞争获胜，获胜的神经元即表示对输入模式的分类。
隐含层空间维数 - 网络逼近精度 - 网络复杂度
（1）确定隐含层神经元径向基函数中心
PNN的学习算法
p11
P
p21
pR1
p12 p1Q
p22
p2Q
pR2
PRQ
t11 t12 t1Q
T
t 21
t22
t
2Q
t S 1
tS 2
t
SQ
R为输入变量的维数，S为输出变量的维数；Q为训练集样本数
C P'
（2）确定隐含层神经元阈值
竞争神经网络函数命令 net = newsom（P,[D1,D2,…],TFCN,DFCN,STEPS,IN）
sim_sofm = sim （net，p_test）
P 为 网 络 输 入 向 量 ， Di 为 网 络 第 i 层 的 维 数 （ 默 认 为 [5 8] ） ； TFCN 为 网 络 的 拓 扑 函 数 （ 默 认 为 “hextop”）；DFCN为网络的距离函数（默认为“linkdist”）；STEPS为邻近距离递减到1的步数（默认为 100）；IN为初始的邻近距离（默认为3）；net为创建好的竞争网络。
实例
采集39个水源样本，分别来自于4个主要含水层，二灰和奥陶纪含水层、八灰含水层、顶板砂含水层和 第四系含水层。以每个水源样本中的离子Na、K、Ca、Mg、Cl、硫酸根和次氯酸根离子的含量作为判别因 素，试利用CNN和SOFM分别建立判别模型，并对模型的性能进行综合评价。
谢谢！
2020/11/26