基于神经网络与弹性分析的因素分析法及其应用
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
—— BP 网络。 BP 网络是逆传播( Back-P ro pa gation, BP ) 学习算法的简称, 其具体学 习算法又 分为: 累 积误差逆 传播
算法和标准误差逆传播算法。本文应用的 BP 网络采用后一种算法。 最基本的 BP 网络是三层前馈 网络, 即输入 层 L A 、隐层 L B 和输出层 L C, 节点之间前 向连接, 其 拓扑结
因素的影响程度就大, 反之亦然。
3 实例
文献[ 4] 中给出了一个采矿工程中的放矿模拟试验的 试验数据, 见 表 1。表 1 中, hf f , md , s , r d 为试验 因素, y 为试验指标。文献[ 5] 中给出了矿物 加工工程中的一个铜矿浮选的试验数据, 见表 2。表 2 中乙黄药 用量、N aO H 用量、Z nSO 4 用量为试验 因素, 选矿效率为试验指标。下面应用基 于神经网络与弹性分析的因 素分析方法, 根据这些试验数据进行因素分析, 并 将结果与文献[ 4, 5] 进行比较。
构 示意图如 图 1。 图中 L A 层的 n 个节 点( 输 入节点) 对应于 A k 的 n 个分量, 而 L C 层 的 q 个节点( 输出 节 点) 对应 Ck 的 q 个分量, A k= ( aK1 , …, aKn ) , Ck= ( cK1 , …, cKq ) , ( A k, Ck) ( k= 1, 2, …, m) 为模式对。
1333 450 60 87. 74
667 550 60 86. 03
1000 450 67 87. 26
近年来, 人们将神经网络用于求解一些工程问题。由于其可学习 性、巨量并行性、能有效表达和利用隐 性知识等特点, 神经网络的引入为解决一些传统方法难于解决的工程问题提供了一种新的途 径。应用神经 网络建立预测模型或相关模型, 是现阶段神经网络应用研究的重要内容之一。如何根据所建立的网络模型 进行因素分析, 以拓宽神经网络在工程中的应用范围, 是本文下面将要论述的问题。
( an -
a1)
xixn -
x1 x1
式 中, x i 和 x ′i 分别 为原始 数据和预 处理后 的相应 数据, x 1 和 x n 分别为 序列{ x i} 的下 界和上 界, x i ∈[ x 1,
x n] , a1 和 an 为变换参数。在变换上述样本集数据时, 取 a1= 0. 3, an= 0. 7, 变换后的样本集如表 3 和表 4 所
示。
表 1 采场结构参数优选试验安排与结果
试验编号 矿体倾角 ∀ 矿体厚度 m
矿房高度 hf f / m
顶柱厚度 md / m
漏斗间距 S/ m
顶柱崩距
r d/ m
回贫差 y / %
1
2
3
4
1
60°
9. 5
30
8
12
120
74. 582
2
60°
9. 5
30
7
9. 5
80
76. 170
3
60°
9. 5
动的百分比除以自变数变动的百分比的 比值。它 是这两种变数的相对变动之比而不是绝对变动之比[ 3] 。
弹性 =
因变量的变动率 自变量的变动率
2 基于神经网络与弹性分析的因素分析
首先, 对样本集中的数据进行预处理, 即对数据进行 无量纲化或归一化 处理, 使其变 换为[ 0, 1] 之间的
数。
其次, 用预处理后的样本集训练 BP 网络, 建立反映自变量 与因变量之间关系的 模型 Y = F( X ) 。在训 练 BP 网络时, 只有当网络的权空间数据趋于稳定或不 变时, 训练才算结束。
节点的误差逆传播到 L B 层;
∀ 调整 L B 层 节点到 L C 层节点的连接权
! w ij = ∀bid j
式中, i = 1, 2, …, p 和 j = 1, 2, …, q; ∀为学习率( 0< ∀< 1) ;
# 调整 L C 层节点的阈值
! j = ∀dj
式中, j = 1, 2, …, q;
30
6
7
40
77. 166
4
60°
9. 5
24
8
9. 5
40
71. 035
5
60°
9. 5
24
7
7
120
75. 354
6
60°
9. 5
24
6
12
80
75. 040
7
60°
9. 5
18
8
7
80
72. 237
8
60°
9. 5
18
7
12
40
69. 758
9
60°
9. 5
18
6
9. 5
120
72. 876
表 2 药剂用量及试验结果
k值
名称 N aOH 用量( g/ t ) ZnS O 4 用量 g / t 乙黄药用量 g / t
选矿效率( % )
1
2
3
4
5
6
7
8
9
667 450 53 87. 00
1000 500 60 84. 93
1333 550 67 86. 64
667 500 67 86. 25
1000 550 53 87. 21
( aK1 ,
a
K 2
,
…,
a
K h
,
…,
a
K n
)
( aK1 + ! a, aK2 , … , aKh , … , aKn )
( aK1 ,
a
K 2
+
!a,
…,
aKh ,
…,
aKn )
( aK1 ,
a
K 2
,
…,
a
K h
+
!a,
…,
aKn )
( aK1 ,
a
K 2
,
…,
a
K h
,
…,
1998 年 12 月
系统工程理论与实践
第 12 期
基于神经网络与弹性分析的因素分析法及其应用
李英龙
( 昆明理工大学资源开发工程系, 云南 昆明 650093)
摘要 论述了基于神经网络与弹性分析的因素分析法, 并用两个实例说明其应用。 关键词 神经网络 弹性分析 因素分析
A M et hod of Fact or Analysis Based on Ar tificial Neural Net w ork and Analy sis
E
K h*
分别除
E
K 1
,
E
K 2
,
…,
E
K h
,
…,
E
K n
,
得E
′K 1
,
E
′K 2
,
…,
E
′K h
,
…,
E
′K n
.
最后,
将各输入因素所对 应的
E
′K h
进行累加,
并据此进行因素 分析。记
Sh
为输入因素
h
所对应的
E
′K h
的累加值, 则:
m
Sh =
E百度文库
′K h
k= 1
根据 S h 的大小判断输入因素 h 对输出 因素的影响程度的大小。Sh 大, 则它 所对应的输入因素 对输出
记
E
K h
为样本
k
的输入特征向量的
aKh
分量,
所对应的输入因素在样本点
k
的弹性的绝对值, 则:
E
K h
=
(
c
K h
-
cK ) / cK
!a
/
a
K h
式中, h= 1, 2, …, n, k = 1, 2, …, m.
求
E
* h
K,
E
* h
K
=
m
ax
{
E
K 1
,
E
K 2
,
…,
E
K h
,
…,
E
K n
}
。用
(
c
k j
-
cj )
式中, j = 1, 2, …, q; ckj 为 L c 层 节点 j 的
期望输出;
! 计 算 L B 层 节 点 相 对于 每 个 dj
的一般化误差
q
ei = bi ( 1 - bi) w ij dj
j= 1
式中, i = 1, 2, …, p ; 上式相当于将 L C 层
图 1 最基本的 BP 的 BP 网络拓扑结构
激活值
n
bi = f
vhiah - i
h= 1
式中, i = 1, 2, …, p , f 为 S 型函数;
计算 L C 层节点的激活值
p
cj = f
w ij bi - j
i= 1
式中, j = 1, 2, …, q;
计 算 L C 层( 输 出层) 节点 的一般
化误差
dj =
cj ( 1 -
cj
)
标准误差逆传播学习过程描述如下 :
本文于 1997 年 5 月 4 日收到 本研究获云南 省中青年学术和技术带头人培养经费资助 云南省自然科 学基金资助
第 12 期
基于神经网络 与弹性分析的因素分析法及其应用
45
1) 给 L A 层节点到 L B 层节点的连接权 v hi, L B 层节点到 LC 层节点的连接权 w ij 以及 L B 层节点的阈值
47
BP 网络的输出因素, 记该 BP 网络为 BP 2。表 1 中的 9 组数据构成 BP 1 网络的训练样本集, 一组数据对应一 个样本。同样, 表 2 中的 9 组数据构成 BP 2 网络的训练样本集, 一组数据对应一个样本。
采用线性插值法变换样本集数据。线性插值 公式为:
x ′i =
a1 +
然后, 根据建立的 BP 网络, 求各输入因素所对应的弹性。记预处理后的样本集中的样本 k 的输入特征 向量 为( aK1 , aK2 , …, aKh , … , aKn ) , h= 1, 2, …, n, k = 1, 2, …, m, n 为样本 输入特征 向量的分量 个数, m 为 样本集所含样本个数。将下列向量作为所建 BP 网络的输入特征向量:
of Elast icity and It s Applicat ion
L i Yinglong
( K unming U niver sity o f Science a nd T echnolog y, Kunming Yunnan 650093)
Abstract T his paper discussed a method o f fact or analysis based on art ificial neur al netw or k and analysis of ela st icity , which w as applied to solving t wo pr act ical pro blems. Keywords ar tificial neur al netw o rk; analy sis o f ela st icity ; facto r analysis
放矿模 拟试验, 将 hf f , md, s, r d 作为 BP 网络的输入因 素, y 作 为 BP 网络的 输出因素, 记该 BP 网络 为 BP1; 对于浮选试 验, 将 N aO H 用量、ZnSO4 用量和 乙黄药用量 作为 BP 网络的输 入因素, 选矿效率 作为
第 12 期
基于神经网络 与弹性分析的因素分析法及其应用
1 神经网络与弹性分析
1. 1 神经网络 人工 神经网络( A r tificial Neur al N etw o rk, AN N ) , 简称神 经网络, 是基 于对人脑组织结构、活动 机制
的初步认识而建立起来的新学科, 其目的在于模拟大脑的某些机理与机制, 实现某方面的功能。 现有的神经网络模型已达近百种, 并且新的模型还在不断推出。下面介绍 本文所采用的神经网络模型
i, L C 层节点的阈值 j 赋[ - 1, + 1] 区间的随机值;
2) 对于每个模式对( A K , CK ) ( k = 1, 2, …, m) , 进行下列操作:
将 A k 的值送到 L A 层节点, 再将
L A 层节点的激 活值 ah 通过 连接权矩 阵
V 送到 L B 层节 点, 产 生 L B 层节点新 的
a
K n
+
!a)
网 络根据这些 输入, 求出相应的 输出值( 为便于 讨论, 这里的 输出特 征向量 只含一 个分量) , 分别记 为 cK,
cK1 ,
cK2 ,
…,
c
K h
,
…,
c
K n
。cK
为将样本
k
的输入特征向量作为输入,
网络求出的输出值。C
K h
为当样本 k
的输
入特征向量的第 h 个分量加 !a 而其余分量值保持不变时, 网络求出的输出值。
∃ 调整 L A 层节点到 L B 层节点的连接权
! vhi = #ahei 式中, h= 1, 2, …, n 且 i= 1, 2, …, p , 0< #< 1;
% 调整 L B 层 节点的阈值 ! i = #ei
式中, i = 1, 2, …, p ; 3) 重复步骤 2) , 直到对于 j = 1, 2, …, q 和 k= 1, 2, …, m, 误差 dj 变得足够小或为零为止[ 1] 。 从数学角度来看, BP 网络是一组输入节点到输出节点的映射。这种映射 是一种高度非线性映射。如果
有 n 个输入节点, 有 q 个输出点节, 则网络是: F: Rn → Rq
Y= F(X) 1. 2 弹性分析
弹性理论最早由法国经济学家古 诺( 法国 数学家、经济 学家、数理 经济学派最主要的先 驱者和奠基者)
46
系统工程理论与实践
1998 年 12 月
提出。以后, 英国著名经济学家马歇尔又科学地完善了弹性公式, 并将其发展为一个完整的理论[2] 。 概括地说, 弹性是一个因变数的相对变化 和一个自变数的相 对变化之比。换言之, 弹性就是因 变数变
算法和标准误差逆传播算法。本文应用的 BP 网络采用后一种算法。 最基本的 BP 网络是三层前馈 网络, 即输入 层 L A 、隐层 L B 和输出层 L C, 节点之间前 向连接, 其 拓扑结
因素的影响程度就大, 反之亦然。
3 实例
文献[ 4] 中给出了一个采矿工程中的放矿模拟试验的 试验数据, 见 表 1。表 1 中, hf f , md , s , r d 为试验 因素, y 为试验指标。文献[ 5] 中给出了矿物 加工工程中的一个铜矿浮选的试验数据, 见表 2。表 2 中乙黄药 用量、N aO H 用量、Z nSO 4 用量为试验 因素, 选矿效率为试验指标。下面应用基 于神经网络与弹性分析的因 素分析方法, 根据这些试验数据进行因素分析, 并 将结果与文献[ 4, 5] 进行比较。
构 示意图如 图 1。 图中 L A 层的 n 个节 点( 输 入节点) 对应于 A k 的 n 个分量, 而 L C 层 的 q 个节点( 输出 节 点) 对应 Ck 的 q 个分量, A k= ( aK1 , …, aKn ) , Ck= ( cK1 , …, cKq ) , ( A k, Ck) ( k= 1, 2, …, m) 为模式对。
1333 450 60 87. 74
667 550 60 86. 03
1000 450 67 87. 26
近年来, 人们将神经网络用于求解一些工程问题。由于其可学习 性、巨量并行性、能有效表达和利用隐 性知识等特点, 神经网络的引入为解决一些传统方法难于解决的工程问题提供了一种新的途 径。应用神经 网络建立预测模型或相关模型, 是现阶段神经网络应用研究的重要内容之一。如何根据所建立的网络模型 进行因素分析, 以拓宽神经网络在工程中的应用范围, 是本文下面将要论述的问题。
( an -
a1)
xixn -
x1 x1
式 中, x i 和 x ′i 分别 为原始 数据和预 处理后 的相应 数据, x 1 和 x n 分别为 序列{ x i} 的下 界和上 界, x i ∈[ x 1,
x n] , a1 和 an 为变换参数。在变换上述样本集数据时, 取 a1= 0. 3, an= 0. 7, 变换后的样本集如表 3 和表 4 所
示。
表 1 采场结构参数优选试验安排与结果
试验编号 矿体倾角 ∀ 矿体厚度 m
矿房高度 hf f / m
顶柱厚度 md / m
漏斗间距 S/ m
顶柱崩距
r d/ m
回贫差 y / %
1
2
3
4
1
60°
9. 5
30
8
12
120
74. 582
2
60°
9. 5
30
7
9. 5
80
76. 170
3
60°
9. 5
动的百分比除以自变数变动的百分比的 比值。它 是这两种变数的相对变动之比而不是绝对变动之比[ 3] 。
弹性 =
因变量的变动率 自变量的变动率
2 基于神经网络与弹性分析的因素分析
首先, 对样本集中的数据进行预处理, 即对数据进行 无量纲化或归一化 处理, 使其变 换为[ 0, 1] 之间的
数。
其次, 用预处理后的样本集训练 BP 网络, 建立反映自变量 与因变量之间关系的 模型 Y = F( X ) 。在训 练 BP 网络时, 只有当网络的权空间数据趋于稳定或不 变时, 训练才算结束。
节点的误差逆传播到 L B 层;
∀ 调整 L B 层 节点到 L C 层节点的连接权
! w ij = ∀bid j
式中, i = 1, 2, …, p 和 j = 1, 2, …, q; ∀为学习率( 0< ∀< 1) ;
# 调整 L C 层节点的阈值
! j = ∀dj
式中, j = 1, 2, …, q;
30
6
7
40
77. 166
4
60°
9. 5
24
8
9. 5
40
71. 035
5
60°
9. 5
24
7
7
120
75. 354
6
60°
9. 5
24
6
12
80
75. 040
7
60°
9. 5
18
8
7
80
72. 237
8
60°
9. 5
18
7
12
40
69. 758
9
60°
9. 5
18
6
9. 5
120
72. 876
表 2 药剂用量及试验结果
k值
名称 N aOH 用量( g/ t ) ZnS O 4 用量 g / t 乙黄药用量 g / t
选矿效率( % )
1
2
3
4
5
6
7
8
9
667 450 53 87. 00
1000 500 60 84. 93
1333 550 67 86. 64
667 500 67 86. 25
1000 550 53 87. 21
( aK1 ,
a
K 2
,
…,
a
K h
,
…,
a
K n
)
( aK1 + ! a, aK2 , … , aKh , … , aKn )
( aK1 ,
a
K 2
+
!a,
…,
aKh ,
…,
aKn )
( aK1 ,
a
K 2
,
…,
a
K h
+
!a,
…,
aKn )
( aK1 ,
a
K 2
,
…,
a
K h
,
…,
1998 年 12 月
系统工程理论与实践
第 12 期
基于神经网络与弹性分析的因素分析法及其应用
李英龙
( 昆明理工大学资源开发工程系, 云南 昆明 650093)
摘要 论述了基于神经网络与弹性分析的因素分析法, 并用两个实例说明其应用。 关键词 神经网络 弹性分析 因素分析
A M et hod of Fact or Analysis Based on Ar tificial Neural Net w ork and Analy sis
E
K h*
分别除
E
K 1
,
E
K 2
,
…,
E
K h
,
…,
E
K n
,
得E
′K 1
,
E
′K 2
,
…,
E
′K h
,
…,
E
′K n
.
最后,
将各输入因素所对 应的
E
′K h
进行累加,
并据此进行因素 分析。记
Sh
为输入因素
h
所对应的
E
′K h
的累加值, 则:
m
Sh =
E百度文库
′K h
k= 1
根据 S h 的大小判断输入因素 h 对输出 因素的影响程度的大小。Sh 大, 则它 所对应的输入因素 对输出
记
E
K h
为样本
k
的输入特征向量的
aKh
分量,
所对应的输入因素在样本点
k
的弹性的绝对值, 则:
E
K h
=
(
c
K h
-
cK ) / cK
!a
/
a
K h
式中, h= 1, 2, …, n, k = 1, 2, …, m.
求
E
* h
K,
E
* h
K
=
m
ax
{
E
K 1
,
E
K 2
,
…,
E
K h
,
…,
E
K n
}
。用
(
c
k j
-
cj )
式中, j = 1, 2, …, q; ckj 为 L c 层 节点 j 的
期望输出;
! 计 算 L B 层 节 点 相 对于 每 个 dj
的一般化误差
q
ei = bi ( 1 - bi) w ij dj
j= 1
式中, i = 1, 2, …, p ; 上式相当于将 L C 层
图 1 最基本的 BP 的 BP 网络拓扑结构
激活值
n
bi = f
vhiah - i
h= 1
式中, i = 1, 2, …, p , f 为 S 型函数;
计算 L C 层节点的激活值
p
cj = f
w ij bi - j
i= 1
式中, j = 1, 2, …, q;
计 算 L C 层( 输 出层) 节点 的一般
化误差
dj =
cj ( 1 -
cj
)
标准误差逆传播学习过程描述如下 :
本文于 1997 年 5 月 4 日收到 本研究获云南 省中青年学术和技术带头人培养经费资助 云南省自然科 学基金资助
第 12 期
基于神经网络 与弹性分析的因素分析法及其应用
45
1) 给 L A 层节点到 L B 层节点的连接权 v hi, L B 层节点到 LC 层节点的连接权 w ij 以及 L B 层节点的阈值
47
BP 网络的输出因素, 记该 BP 网络为 BP 2。表 1 中的 9 组数据构成 BP 1 网络的训练样本集, 一组数据对应一 个样本。同样, 表 2 中的 9 组数据构成 BP 2 网络的训练样本集, 一组数据对应一个样本。
采用线性插值法变换样本集数据。线性插值 公式为:
x ′i =
a1 +
然后, 根据建立的 BP 网络, 求各输入因素所对应的弹性。记预处理后的样本集中的样本 k 的输入特征 向量 为( aK1 , aK2 , …, aKh , … , aKn ) , h= 1, 2, …, n, k = 1, 2, …, m, n 为样本 输入特征 向量的分量 个数, m 为 样本集所含样本个数。将下列向量作为所建 BP 网络的输入特征向量:
of Elast icity and It s Applicat ion
L i Yinglong
( K unming U niver sity o f Science a nd T echnolog y, Kunming Yunnan 650093)
Abstract T his paper discussed a method o f fact or analysis based on art ificial neur al netw or k and analysis of ela st icity , which w as applied to solving t wo pr act ical pro blems. Keywords ar tificial neur al netw o rk; analy sis o f ela st icity ; facto r analysis
放矿模 拟试验, 将 hf f , md, s, r d 作为 BP 网络的输入因 素, y 作 为 BP 网络的 输出因素, 记该 BP 网络 为 BP1; 对于浮选试 验, 将 N aO H 用量、ZnSO4 用量和 乙黄药用量 作为 BP 网络的输 入因素, 选矿效率 作为
第 12 期
基于神经网络 与弹性分析的因素分析法及其应用
1 神经网络与弹性分析
1. 1 神经网络 人工 神经网络( A r tificial Neur al N etw o rk, AN N ) , 简称神 经网络, 是基 于对人脑组织结构、活动 机制
的初步认识而建立起来的新学科, 其目的在于模拟大脑的某些机理与机制, 实现某方面的功能。 现有的神经网络模型已达近百种, 并且新的模型还在不断推出。下面介绍 本文所采用的神经网络模型
i, L C 层节点的阈值 j 赋[ - 1, + 1] 区间的随机值;
2) 对于每个模式对( A K , CK ) ( k = 1, 2, …, m) , 进行下列操作:
将 A k 的值送到 L A 层节点, 再将
L A 层节点的激 活值 ah 通过 连接权矩 阵
V 送到 L B 层节 点, 产 生 L B 层节点新 的
a
K n
+
!a)
网 络根据这些 输入, 求出相应的 输出值( 为便于 讨论, 这里的 输出特 征向量 只含一 个分量) , 分别记 为 cK,
cK1 ,
cK2 ,
…,
c
K h
,
…,
c
K n
。cK
为将样本
k
的输入特征向量作为输入,
网络求出的输出值。C
K h
为当样本 k
的输
入特征向量的第 h 个分量加 !a 而其余分量值保持不变时, 网络求出的输出值。
∃ 调整 L A 层节点到 L B 层节点的连接权
! vhi = #ahei 式中, h= 1, 2, …, n 且 i= 1, 2, …, p , 0< #< 1;
% 调整 L B 层 节点的阈值 ! i = #ei
式中, i = 1, 2, …, p ; 3) 重复步骤 2) , 直到对于 j = 1, 2, …, q 和 k= 1, 2, …, m, 误差 dj 变得足够小或为零为止[ 1] 。 从数学角度来看, BP 网络是一组输入节点到输出节点的映射。这种映射 是一种高度非线性映射。如果
有 n 个输入节点, 有 q 个输出点节, 则网络是: F: Rn → Rq
Y= F(X) 1. 2 弹性分析
弹性理论最早由法国经济学家古 诺( 法国 数学家、经济 学家、数理 经济学派最主要的先 驱者和奠基者)
46
系统工程理论与实践
1998 年 12 月
提出。以后, 英国著名经济学家马歇尔又科学地完善了弹性公式, 并将其发展为一个完整的理论[2] 。 概括地说, 弹性是一个因变数的相对变化 和一个自变数的相 对变化之比。换言之, 弹性就是因 变数变