hslogic算法仿真-bp神经网络原理

BP 神经网络是一种具有一个输入层，一个或多个隐含层和一个输出层的多层网络。

隐含层和输出层上的每个神经元都对应一个激发函数和一个阈值。

每一层上的神经元都通过权重与其相邻层上的神经元相互连接。

对于输入层上的神经元其阈值为零，其输出等于输入。

图2.1为单隐含层的BP 神经网络的一般结构。

BP 神经网络隐含层和输出层上的某神经元j 的输出由下式确定：
()()j j j j ji i j j
O f net f x ωθ==+∑式中(.)j f 表示对应神经元的激发函数；i x 表示对该神经元的输入；
ji ω表示从神经元j 到神经元i 的连接权值；激发函数目前多采用连续可微的非线性的Sigmoid 函数
1
()1x
f x e -=
+，若要采用别的激发函数必须处处可导。

输出的导数：2
11
f '()(1)1e (1e )-net net net y y -=
-=-++
1
x 2
x 1
N x
隐含层
图2.1：三层BP 神经网络结构
BP 算法所采用的学习过程（即权值调整过程）由信息的前向传播和误差的反向传播组成。

在前向传播过程中，每一层神经元的状态只影响到下一层神经元网络。

如果输出层不能得到期望输出，就是实际输出值与期望输出值之间有误差，那么转入反向传播过程，将误差信号沿原来的连接通路返回，通过修改各层神经元的权值，逐次地向输入层传播去进行计算，再经过前向传播过程，这两个过程的反复运用，使得误差信号最小。

实际上，误差达到人们所希望的要求时，网络的学习过程就结束。

BP 学习算法简述如下：
设输入层有n 个神经元，隐含层有p 个神经元, 输出层有q 个神经元；
1.定义以下变量： 输入向量()12,,
,n x x x x =;隐含层输入向量()12,,
,p hi hi hi =hi ；隐含层输出向量
()12,,,p ho ho ho =ho ;输出层输入向量()12,,,q yi yi yi =yi ;输出层输出向量
()12,,
,q yo yo yo =yo ;期望输出向量()12,,
,q d d d =o d ; 输入层与中间层的连接权值: ih w ；隐含
层与输出层的连接权值:
ho w ；隐含层各神经元的阈值: h b ；输出层各神经元的阈值: o b ；样本数据
个数: ；激活函数: f()⋅；误差函数：2
1
1(()())2q
o o o e d k yo k ==-∑。

2.步骤
第一步，网络初始化
给各连接权值分别赋一个区间（-1,1）内的随机数，设定误差函数e ，给定计算精度值ε 和最大学习次数M 。

第二步,随机选取第 k 个输入样本及对应期望输出
()
12()(),(),,()n x k x k x k x k = ()
12()(),(),
,()q k d k d k d k =o d
第三步，计算隐含层和输出层各神经元的输入和输出:
1
()()1,2,,n
h ih i h
i hi k w x k b h p
==-=∑
()f(())
1,2,
,h h ho k hi k h p ==
1
()()1,2,
p
o ho h o
h yi k w ho k b o q
==-=∑
()f(())
1,2,
o o yo k yi k o q ==
第四步，利用网络期望输出和实际输出，计算误差函数对输出层的各神经元的偏导数
()o k δ
o
ho o ho yi e e w yi w ∂∂∂=
∂∂∂,
(())
()
()
p
ho h o o h
h ho
ho
w ho k b yi k ho k w w ∂-∂==∂∂∑
1,2,k m
=
2
1
1((()()))2(()())()q
o o o o o o
o o
d k yo k
e d k yo k yo k yi yi =∂-∂'==--∂∂∑
第五步，利用隐含层到输出层的连接权值、输出层的 ()o k δ和隐含层的输出计算误差函数对隐含层
各神经元的偏导数
()h k δ.
()()o
o h ho o ho
yi e e k ho k w yi w δ∂∂∂==-∂∂∂
1()
()(())
()
()
h ih h ih n
ih i h h i i ih
ih
hi k e e w hi k w w x k b hi k x k w w =∂∂∂=
∂∂∂∂-∂==∂∂∑
21
21
211
1((()()))
()2()()()
1((()f(())))
()2()()
1(((()f(())))
()2()()
q
o o o h h h h q
o o o h h h q
p
o ho h o o h h h h d k yo k ho k e hi k ho k hi k d k yi k ho k ho k hi k d k w ho k b ho k ho k hi k ====∂-∂∂=
∂∂∂∂-∂=
∂∂∂--∂=
∂∂∑∑∑∑
第六步，利用输出层各神经元的
()o k δ和隐含层各神经元的输出来修正连接权值()ho w k 。

1()()()()()
ho o h ho
N N ho ho o h e
w k k ho k w w w k ho k μ
μδηδ+∂∆=-=∂=+
第七步，利用隐含层各神经元的
()h k δ和输入层各神经元的输入修正连接权。

1()
()()()()()()
h ih h i ih h ih
N N
ih ih h i hi k e e w k k x k w hi k w w w k x k μ
μδηδ+∂∂∂∆=-=-=∂∂∂=+
第八步，计算全局误差
211
1(()())2q
m o o k o E d k y k m ===-∑∑
第九步，判断网络误差是否满足要求。

当误差达到预设精度或学习次数大于设定的最大次数，则结
束算法。

否则，选取下一个学习样本及对应的期望输出，返回到第三步，进入下一轮学习。

理论方面就主要介绍一下BP和RBF，然后最后介绍一下怎么使用神经网络进行信道估计得。

我们的系统仿真结果如下所示：
这里，我们增加了一组仿真对比，就是加入了最理想的情况和最恶劣的情况，最理想的情况是
多径被完全抵消，即信道估计0误差的误码率，最恶劣的情况，是信道估计不工作的时候的误码率。

从仿真结果可知，BP神经网络的估计性能略优于RBF神经网络的性能。