《前馈神经网络》PPT课件

单计算节点感知器实现逻辑运算问题: 逻辑”与”功能:
X1 0 真值表: 0 1 1
x2 y 00 10 00 11
0
4个样本,两种输出
属分类问题 1
使用单节点感知器,用感知器规则训练,得到连接权及阈值如图:
x1
0.5
y
x2
0.5 0.75
-1
令计算节点净输出为0,得分类判决方程: 0.5x1+0.5x2-0.75=0 该直线方程正确地把两类样本分类.
线上方的样本用＊表示，它们
使 net j 0 域都会使yj =1;
， ＊的区
线下方样本用△表示，它们
使 net j 0
， △的区
域都会使yj=-1.
显然，由感知器权值和阈值确定的直线方程规定了分界线在样本空间的位置， 可将输入样本分为两类。
(2)设输入向量X=[x1 x2 x3]T,则x1,x2,x3几何上构成一个三维空间。
节点j的输出为：
1
y j 1
w1 j x1 w2 j x2 w3 j x3 j 0 w1 j x1 w2 j x2 w3 j x3 j 0
方程 w1 j x1 w2 j x2 w3 j x3 j 0 确定的平面成为三维输入样本空间的
一个分界面。把输入样本＊和△正确分两类（对应yj=1和-1）
但是，权重系数和阈值一般是不可事先预知的，在初始人为给定的权值 和阈值所确定的分界面也不可能将类别正确分开。
只有用足够多的已知其类别的输入样本X，对神经网络进行训练，让神经 元通过学习自动地找到那些权重系数和阈值，从而，确定的分界面，才 是有实际意义的。
神经元在实现其分类功能以前，必须有学习和训练阶段，在此阶段向神 经元送入足够多数量的样本X，并需要指明每个矢量X所属类别。所以这 是一种教师指导下的学习。
明显看出：单计算节点感知器实际上 就是一个M-P神经元模型。
因为采用符号转移函数，又称符号单元。
yj
1 1
W
T j
X
0
W
T j
X
0
x1
x2 … xi … xn
下面分三种情况讨论单计算节点感 知器的功能：
(1)设输入向量X=[x1 x2]T
两个输入分量x1 和x2构成一个二维平面,输入样本X可用该平面上一个点表示。
的输入加权和：
离散型单计算层感知器采用符号型转移函数，则j节
n
net j wij xi i 1
点输出为：
n
y j sgn(net j j ) sgn(
wij
xi
)
sgn(W
T j
X
)
i0
3.1.2 感知器的功能
为便于直观分析，现考虑单计算节点感知器的情况：
Wj w1j w2j
yj
j
wij wnj
1＊
学习训练的w1=w2=1, θ=-0.5,净输入为0得分类判决方程:x1+x2-0.5=0
x1
1
y
x2
1
-0.5
-1
x1 （0,1）＊
（0,0）△
＊（1,1） ＊ （1,0） x2
实现两类样本正确分类
x1+x2-0.5=0
例:设计一个感知器神经网络,完成下列分类,以MATLAB编程 仿真程序,并画出分类线.
3.前馈神经网络
前馈神经网络是神经网络中一种典型分层结构，信 息 流从输入层进入网络后逐层向前传递至输出层。根据前 愦网络中神经元转移函数、隐层数以及权值调整规则的不同， 可形成具有各种功能特点的神经网络。
3.1单层感知器 1958年，美国心理学家 Frank Rosenblatt 提出一种具
有单层计算单元的神经网络，称 Perceptron ,即感知器。感 知器是模拟人的视觉接受环境信息，并由神经冲动进行信息 传递。感知器研究中首次提出了自组织、自学习的思想，而 且对所能解决的问题存在着收敛算法，并能从数学上严格证 明，因而对神经网络的研究起了重要的推动作用。
限幅函数)
p1
(2)程序设计
a p2
-1
%设计一个感知器神经网络，实现二维向量分类功能 clear all;%清除所有内存变量 %初始化感知器网络 pr=[-1 1;-1 1];%设置感知器网络输入向量每个元素的值域 net=newp(pr,1);%定义感知器网络，一个神经元 yers{1}.transferFcn=‘hardlims’;%指定感知层转移函数 为对称硬限幅函数
单层感知器的结构与功能都很简单，以至于目前很 少被应用来解决实际问题，但它是研究其他神经网络的基础。
3.1.1 感知器模型
y1 … yj … ym
W1
Wj
Wm
处理层
处理层，m个神经接点，每节点 均有信息处理能力，m个节点向 外部处理输出信息，构成输出列 向量Y。
Y=[Y1 Y2 ….Yj…Ym]T
节点j的输出yj为：
yj
1 1
w1 j x1 w2 j x2 j 0 w1 j x1 w2 j x2 j 0
则方程 w1 j x1 w2 j x2 j 0 成为二维输入样本空间上的一条分界线。
x1
＊ ＊
＊ ＊
△
＊
w1 j x1 w2 j x2 j 0
＊
△
△
x2
△
△
已知:
0.5
P1
1
t1 0
P2
1 0.5
t2 1
P3
1 0.5
t3 1
1 P4 1
t4 0.
解(1)问题分析
输入向量2个元素,取值范围[-1,1];输出向量一个元素,是一
个二值节点,取值0或1.可确定单层感知器神经网络结构:一
个二维输入向量,一个神经元,神经元转移函数为hardlim(硬
（3）推广到n维空间的一般情况，输入向量X=[x1 x2 …xn]T,则n个输入分量 构成几何n维空间。
方程 w1 j x1 w2 j x2 wnj xn j 0 定义的n维空间超平面，将输入
样本分为2类。
看出，一个简单的单计算节点感知器具有分类功能，其分类原理是将分类 知识存储于感知器的权向量（包括阈值）中，由权向量确定的分类判决界 面（线），可将输入模式分为两类。
0.5x1+0.5x2-0.75=0 x1
将输出为1的样本点作＊、
输出为0的样本点作△表示。 按真值表作图，得：
（0,1）△ △
（0,0）
＊（1,1）
△
（1,0）
x2
该分类线不唯一,取决于具体的权值训练
逻辑”或”功能:
X1 x2 y
0 00
0 真值表:
1
11 01
1 11
4个样本,两种输出
0△ห้องสมุดไป่ตู้属分类问题
输入层 输入层，感知层，n个神经节点，
x1
x2 … xi … xn
单层感知器
无信息处理能力，只负责引入外 部信息X。
X=[x1 x2 …xi … xn]T
两层间连接权值用权值列向量Wj表示，m个权向量构成单层感知器的权值矩阵W。
Wj=[w1j w2j …wij…wnj]T
W=[W1
由W2神…经W元j…数Wm学]T模型，处理层中任一节点，其净输入netj来自输入层各节点