人工智能在电力系统中的应用
合集下载
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
第一章 概述
1.1 人工智能定义
人工智能是那些与人的思维相关的活动,诸如决策、 问题求解和学习等的自动化(Bellman,1978); 人工智能是一种计算机能够思维,使机器具有智力的 激动人心的新尝试(Haugeland,1985); 人工智能是那些使知觉、推理和行为成为可能的计算 的研究(Winston, 1992); 人工智能是关于人造物的智能行为,而智能行为包括 知觉、推理、学习、交流的行为(Nilsson,1998)。 像人一样思考的系统、像人一样行动的系统、理性地 思考、行动的系统( Stuart Russell, 2003)。
1.3人工智能在电力系统的应用领域
继电保护 Relaying protection 经济调度 Economic dispatch 变电所运行控制 Substation switching and control 系统恢复供电 System reconfiguration and restoration 电力质量控制 Power quality Control 系统设计优化 System Design Optimization 电力规划 planning for electric Power 电气设备故障诊断 Fault diagnosis for electric facilities
2.3 人工神经网络的分类
反馈神经网络
输入
……
输出
……
反馈网络中,输出信号通过与输入连接而 返回到输入端,从而形成一个回路。在前向网 络中,有单层感知器、自适应线性网络和BP网 络。在反馈网络中,有离散型和连续型霍普菲 尔德网络。
2.4 BP神经网络
2.4.1 BP神经网络概述
BP 网络神经网络是目前应用最为广泛和成功的神经网络 之一。它是在1986年由Rumelhant 和 McClelland 提出的一 种多层网络的“逆推”学习算法。其基本思想是,学习过程 由信号的正向传播与误差的反向传播两个过程组成。正向传 播时,输入样本从输入层传入,经隐层逐层处理后传向输出 层。若输出层的实际输出与期望输出不符,则转向误差的反 向传播阶段。误差的反向传播是将输出误差以某种形式通过 隐层向输入逐层反传,并将误差分摊给各层的所有单元,从 而获得各层单元的误差信号,此误差信号即作为修正各单元 权值的依据。这种信号正向传播与误差反向传播的各层权值 调整过程是周而复始地进行。权值不断调整的过程,也就是 网络的学习训练过程。此过程一直进行到网络输出的误差减 少到可以接受的程度,或进行到预先设定的学习次数为止。
2.4 BP神经网络
2.4.2 BP神经网络应用领域 函数逼近:用输入矢量和相应的输出矢量 训练—个网络逼近一个函数; 模式识别:用一个特定的输出矢量将它与 输入矢量联系起来; 分类:把输入矢量以所定义的合适方式进 行分类;
数据压缩:减少输出矢量维数以便于传输 或存储。
2.4 BP神经网络
2.4.3 BP网络模型与结构
环境 输入 教师 期望输出
学习系统
实际输出
误差信号
非监督学习(无教师学习)
2.3 人工神经网络的分类
前向神经网络
前向网络中,各神经元节点接受前一层的输出信 号,并将本层的输出作为下一层的输入,其特点是信 号的流向是从输入流向输出。在ANN的实际应用中, 80%~90%的ANN模型是采用BP网络或它的变化形式, 它也是前向网络的核心部分、体现了ANN精华的部分。
f f 1 A 0 -b 0 1 A
-1
-1
不带偏差的阀值型激活函数
带偏差的阀值型激活函数
1 W P b 0 A f W P b 0 W P b 0
2.4 BP神经网络
2.4.4 BP神经网路的几种常见激活函数 线形型
f f 1 A 0 -b 1 A
反向传播用于逐层传递误差,修改神经元间的连接权 值,以使网络对输入信息经过计算后所得到的输出能 达到期望的误差要求。
2.4 BP神经网络 2.4.5 BP网络学习
设输入为P,输人有r个,隐含层内有s1个神经元,激 话函数为F1,输出层内有个s2神经元,对应的激活函 数为F2,输出为A,目标矢量力T。 输入层
2.1 神经网络的基本概念及组成特性
神经元及其突触是神经网络的基本器件。因此,模拟生物 神经网络应首先模拟生物神经元。在人工神经网络中,神经 元常被称为“处理单元”。有时从网络的观点出发常把它称 为“节点”。人工神经元是对生物神经元的一种形式化描述。 神经元主要由三部分构成:(1)细胞体;(2)轴突;(3)树 突
模拟退火算法Simulated Annealing,)
多智能体系统 (Multi-agent system)
1.3人工智能在电力系统的应用领域
机组启停 Unit Commitment 维护计划 Maintenance scheduling 负荷预测 Load Forecasting 发电控制与保护 Generation control and protection 潮流优化 Optimal Power Flow Analysis 电力系统安全分析 Security Analysis 电力系统稳定分析 Stability Analysis 无功优化分配 Var dispatch and planning 控制优化 Optimization of self-adaptive control
E E a 2 k w2 ki w2 ki a 2 k w2 ki t k a 2 k f 2 ' a1i ki a1i
其中:
ki ek f 2'
ek t k a 2 k
ek :误差; :学习速率,过大容易震荡,过小调整过慢;
其中:
ki (t k a2 k ) f 2'
!注意:输出层的权值变化与输出层的阈值变 化的差别
2.4 BP神经网络 2.4.5 BP网络学习
1、误差反向传播 (3)隐含层的权值变化:
对从第j个输入到第i个输出的权值有: E E a 2 k a1i w1ij w1ij a 2 k a1i w1ij
t k a 2 k f 2 ' w2 ki f 1' p j ij p j
k 1
s2
' 其中: ij ei f 1
ei ki w2 ki
k 1
s2
(4)隐含层的阈值变化:
b1i ij
2.4 BP神经网络 2.4.6 BP网络的限制与不足及改进
1.2人工智能的研究途径与研究领域
心理模拟,符号推演 行为模拟,控制进化 生理模拟,神经计算 群体模拟,仿生计算
专家系统 (Expert Systems) 人工神经网络 (Artificial Neural Networks) 模糊逻辑 (Fuzzy Logic) 进化算法 (如:遗传算法Genetic Algorithm, 粒子群Swarm Particle,禁忌搜索与联想记忆功能
ANN通过自身的网络结构能够实现对信息的记忆。而所记 忆的信息是存储在神经元之间的权值中。从单个权值中看不出 所储存的信息内容,因而是分布式的存储方式。这使得网络具 有良好的容错性,并能进行聚类分析、特征提取、缺损模式复 原等模式信息处理工作;又宜于模式分类、模式联想等识别工 作。
j
隐含层
Wij
i
输出层
Pj
a1i
Wki
k
a2i
2.4 BP神经网络 2.4.5 BP网络学习
1、信息的正向传递 (1)隐含层中第i个神经元的输出为:
r a1i f 1 w1ij p j b1i i 1,2,, s1 j 1 (2)输出层第k个神经元的输出为
1 e 2n b 双曲正切S型函数关系: f 1 e 2n b
2.4 BP神经网络 2.4.5 BP网络学习
BP算法的学习目的是对网络的连接权值进行调整,使 得调整后的网络对任一输入都能得到所期望的输出。
学习过程由正向传播和反向传播组成。
正向传播用于对前向网络进行计算,即对某一输入 信息,经过网络计算后求出它的输出结果。
2.2 人工神经网络的特性
高度的并行性
ANN是由许多相同的简单处理单元并联组合而成,虽然每 个单元的功能简单,但大量简单处理单元的并行活动,使其对 信息的处理能力与效果惊人。
高度的非线性全局作用
ANN每个神经元接受大量其它神经元的输入,并通过并行 网络产生输出,影响其他神经元。网络之间的这种互相制约和 互相影响,实现了从输入状态到输出状态空间的非线性映射。 从全局的观点来看,网络整体性能不是网络局部性能的简单迭 加,而表现出某种集体性的行为。
s1 a 2 k f 2 w2 ki a1i b2 k i 1
k 1,2,, s2
(3)定义误差函数为:
1 s2 E W , B t k a 2 k 2 k 1
2
2.4 BP神经网络 2.4.5 BP网络学习
1、误差反向传播 (1)输出层的权值变化: 对从第i个输入到第k个输出的权值有:
a2 k :训练样本对目标输出;
tk
:神经网络实际输出; f 2' :输出层神经元传递函数的导数;
2.4 BP神经网络 2.4.5 BP网络学习
1、误差反向传播 (2)输出层的阀值变化:
E E a 2 k b2 ki b2 ki a 2 k b2 ki t k a 2 k f 2 ' ki
十分强的自适应、自学习功能
ANN可以通过训练和学习来获得网络的权值与结构,呈现 出很强的学习能力和对环境的自适应能力。
2.3 人工神经网络的学习方法
监督学习(有教师学习) 如图所示,这种学习方式需要外界存在一个 “教师” ,他可对给定一组输入提供应有的输出结 果,这组已知的输入-输出数据称为训练样本集,学 习系统(神经网络)可根据已知输出与实际输出之 间的差值(误差信号)来调节系统参数
0
-1
-1
不带偏差的线性激活函数
带偏差的线形型激活函数
A f W P b W P b
2.4 BP神经网络 2.4.4 BP神经网路的几种常见激活函数
f
Sigmoid 型
1 A
f
1
A 0
0
-1
-1
对数S型激活函数
双曲正切S型激活函数
对数S型函数关系为:
f
1 1 e n b
1 不足
需要较长的训练时间 对于一些复杂的问题,BP算法可能要进行几小时甚 至更长的时间的训练。这主要是由于学习速率太小 所造成的。可采用变化的学习速率或自适应的学习 速率加以改进。 完全不能训练 这主要表现在网络出现的麻痹现象上。在网络的训 练过程中,当其权值调得过大,可能使得所有的或 大部分神经元的加权总和偏大,这使得激活函数的 输入工作在S型转移函数的饱和区,从而导致其导 数非常小,从而使得对网络权值的调节过程几乎停 顿下来。通常为了避免这种现象的发生,一是选取 较小的初始权值,二是采用较小的学习速率,但这 又增加了训练时间。
第二章 神经网络及其在电力系统 中的应用
人工神经网络是集脑科学、神经心理学和信 息科学等多学科的交叉研究领域,是近年来高科 技领域的一个研究热点。它的研究目标是通过研 究人脑的组成机理和思维方式,探索人类智能的 奥秘,进而通过模拟人脑的结构和工作模式,使 机器具有类似人类的智能。它已在模式识别、机 器学习、专家系统等多个方面得到应用,成为人 工智能研究中的活跃领域。本章将简要介绍神经 网络基本的概念、模型以及学习算法以及应用实 例。
BP网络具有一层或多层隐含层,其主要差别也表现在 激活函数上 BP网络的激活函数必须是处处可微的 ,BP网络经常使 用的是S型的对数或正切激话函数和线性函数
s1xr j P rxq 1
W1
i A1
s2xs1
F1
s1xq
W2 B2
s2x1
k A2
B1
s1x1 1
F2
s2xq
2.4 BP神经网络
2.4.4 BP神经网路的几种常见激活函数 阀值型
1.1 人工智能定义
人工智能是那些与人的思维相关的活动,诸如决策、 问题求解和学习等的自动化(Bellman,1978); 人工智能是一种计算机能够思维,使机器具有智力的 激动人心的新尝试(Haugeland,1985); 人工智能是那些使知觉、推理和行为成为可能的计算 的研究(Winston, 1992); 人工智能是关于人造物的智能行为,而智能行为包括 知觉、推理、学习、交流的行为(Nilsson,1998)。 像人一样思考的系统、像人一样行动的系统、理性地 思考、行动的系统( Stuart Russell, 2003)。
1.3人工智能在电力系统的应用领域
继电保护 Relaying protection 经济调度 Economic dispatch 变电所运行控制 Substation switching and control 系统恢复供电 System reconfiguration and restoration 电力质量控制 Power quality Control 系统设计优化 System Design Optimization 电力规划 planning for electric Power 电气设备故障诊断 Fault diagnosis for electric facilities
2.3 人工神经网络的分类
反馈神经网络
输入
……
输出
……
反馈网络中,输出信号通过与输入连接而 返回到输入端,从而形成一个回路。在前向网 络中,有单层感知器、自适应线性网络和BP网 络。在反馈网络中,有离散型和连续型霍普菲 尔德网络。
2.4 BP神经网络
2.4.1 BP神经网络概述
BP 网络神经网络是目前应用最为广泛和成功的神经网络 之一。它是在1986年由Rumelhant 和 McClelland 提出的一 种多层网络的“逆推”学习算法。其基本思想是,学习过程 由信号的正向传播与误差的反向传播两个过程组成。正向传 播时,输入样本从输入层传入,经隐层逐层处理后传向输出 层。若输出层的实际输出与期望输出不符,则转向误差的反 向传播阶段。误差的反向传播是将输出误差以某种形式通过 隐层向输入逐层反传,并将误差分摊给各层的所有单元,从 而获得各层单元的误差信号,此误差信号即作为修正各单元 权值的依据。这种信号正向传播与误差反向传播的各层权值 调整过程是周而复始地进行。权值不断调整的过程,也就是 网络的学习训练过程。此过程一直进行到网络输出的误差减 少到可以接受的程度,或进行到预先设定的学习次数为止。
2.4 BP神经网络
2.4.2 BP神经网络应用领域 函数逼近:用输入矢量和相应的输出矢量 训练—个网络逼近一个函数; 模式识别:用一个特定的输出矢量将它与 输入矢量联系起来; 分类:把输入矢量以所定义的合适方式进 行分类;
数据压缩:减少输出矢量维数以便于传输 或存储。
2.4 BP神经网络
2.4.3 BP网络模型与结构
环境 输入 教师 期望输出
学习系统
实际输出
误差信号
非监督学习(无教师学习)
2.3 人工神经网络的分类
前向神经网络
前向网络中,各神经元节点接受前一层的输出信 号,并将本层的输出作为下一层的输入,其特点是信 号的流向是从输入流向输出。在ANN的实际应用中, 80%~90%的ANN模型是采用BP网络或它的变化形式, 它也是前向网络的核心部分、体现了ANN精华的部分。
f f 1 A 0 -b 0 1 A
-1
-1
不带偏差的阀值型激活函数
带偏差的阀值型激活函数
1 W P b 0 A f W P b 0 W P b 0
2.4 BP神经网络
2.4.4 BP神经网路的几种常见激活函数 线形型
f f 1 A 0 -b 1 A
反向传播用于逐层传递误差,修改神经元间的连接权 值,以使网络对输入信息经过计算后所得到的输出能 达到期望的误差要求。
2.4 BP神经网络 2.4.5 BP网络学习
设输入为P,输人有r个,隐含层内有s1个神经元,激 话函数为F1,输出层内有个s2神经元,对应的激活函 数为F2,输出为A,目标矢量力T。 输入层
2.1 神经网络的基本概念及组成特性
神经元及其突触是神经网络的基本器件。因此,模拟生物 神经网络应首先模拟生物神经元。在人工神经网络中,神经 元常被称为“处理单元”。有时从网络的观点出发常把它称 为“节点”。人工神经元是对生物神经元的一种形式化描述。 神经元主要由三部分构成:(1)细胞体;(2)轴突;(3)树 突
模拟退火算法Simulated Annealing,)
多智能体系统 (Multi-agent system)
1.3人工智能在电力系统的应用领域
机组启停 Unit Commitment 维护计划 Maintenance scheduling 负荷预测 Load Forecasting 发电控制与保护 Generation control and protection 潮流优化 Optimal Power Flow Analysis 电力系统安全分析 Security Analysis 电力系统稳定分析 Stability Analysis 无功优化分配 Var dispatch and planning 控制优化 Optimization of self-adaptive control
E E a 2 k w2 ki w2 ki a 2 k w2 ki t k a 2 k f 2 ' a1i ki a1i
其中:
ki ek f 2'
ek t k a 2 k
ek :误差; :学习速率,过大容易震荡,过小调整过慢;
其中:
ki (t k a2 k ) f 2'
!注意:输出层的权值变化与输出层的阈值变 化的差别
2.4 BP神经网络 2.4.5 BP网络学习
1、误差反向传播 (3)隐含层的权值变化:
对从第j个输入到第i个输出的权值有: E E a 2 k a1i w1ij w1ij a 2 k a1i w1ij
t k a 2 k f 2 ' w2 ki f 1' p j ij p j
k 1
s2
' 其中: ij ei f 1
ei ki w2 ki
k 1
s2
(4)隐含层的阈值变化:
b1i ij
2.4 BP神经网络 2.4.6 BP网络的限制与不足及改进
1.2人工智能的研究途径与研究领域
心理模拟,符号推演 行为模拟,控制进化 生理模拟,神经计算 群体模拟,仿生计算
专家系统 (Expert Systems) 人工神经网络 (Artificial Neural Networks) 模糊逻辑 (Fuzzy Logic) 进化算法 (如:遗传算法Genetic Algorithm, 粒子群Swarm Particle,禁忌搜索与联想记忆功能
ANN通过自身的网络结构能够实现对信息的记忆。而所记 忆的信息是存储在神经元之间的权值中。从单个权值中看不出 所储存的信息内容,因而是分布式的存储方式。这使得网络具 有良好的容错性,并能进行聚类分析、特征提取、缺损模式复 原等模式信息处理工作;又宜于模式分类、模式联想等识别工 作。
j
隐含层
Wij
i
输出层
Pj
a1i
Wki
k
a2i
2.4 BP神经网络 2.4.5 BP网络学习
1、信息的正向传递 (1)隐含层中第i个神经元的输出为:
r a1i f 1 w1ij p j b1i i 1,2,, s1 j 1 (2)输出层第k个神经元的输出为
1 e 2n b 双曲正切S型函数关系: f 1 e 2n b
2.4 BP神经网络 2.4.5 BP网络学习
BP算法的学习目的是对网络的连接权值进行调整,使 得调整后的网络对任一输入都能得到所期望的输出。
学习过程由正向传播和反向传播组成。
正向传播用于对前向网络进行计算,即对某一输入 信息,经过网络计算后求出它的输出结果。
2.2 人工神经网络的特性
高度的并行性
ANN是由许多相同的简单处理单元并联组合而成,虽然每 个单元的功能简单,但大量简单处理单元的并行活动,使其对 信息的处理能力与效果惊人。
高度的非线性全局作用
ANN每个神经元接受大量其它神经元的输入,并通过并行 网络产生输出,影响其他神经元。网络之间的这种互相制约和 互相影响,实现了从输入状态到输出状态空间的非线性映射。 从全局的观点来看,网络整体性能不是网络局部性能的简单迭 加,而表现出某种集体性的行为。
s1 a 2 k f 2 w2 ki a1i b2 k i 1
k 1,2,, s2
(3)定义误差函数为:
1 s2 E W , B t k a 2 k 2 k 1
2
2.4 BP神经网络 2.4.5 BP网络学习
1、误差反向传播 (1)输出层的权值变化: 对从第i个输入到第k个输出的权值有:
a2 k :训练样本对目标输出;
tk
:神经网络实际输出; f 2' :输出层神经元传递函数的导数;
2.4 BP神经网络 2.4.5 BP网络学习
1、误差反向传播 (2)输出层的阀值变化:
E E a 2 k b2 ki b2 ki a 2 k b2 ki t k a 2 k f 2 ' ki
十分强的自适应、自学习功能
ANN可以通过训练和学习来获得网络的权值与结构,呈现 出很强的学习能力和对环境的自适应能力。
2.3 人工神经网络的学习方法
监督学习(有教师学习) 如图所示,这种学习方式需要外界存在一个 “教师” ,他可对给定一组输入提供应有的输出结 果,这组已知的输入-输出数据称为训练样本集,学 习系统(神经网络)可根据已知输出与实际输出之 间的差值(误差信号)来调节系统参数
0
-1
-1
不带偏差的线性激活函数
带偏差的线形型激活函数
A f W P b W P b
2.4 BP神经网络 2.4.4 BP神经网路的几种常见激活函数
f
Sigmoid 型
1 A
f
1
A 0
0
-1
-1
对数S型激活函数
双曲正切S型激活函数
对数S型函数关系为:
f
1 1 e n b
1 不足
需要较长的训练时间 对于一些复杂的问题,BP算法可能要进行几小时甚 至更长的时间的训练。这主要是由于学习速率太小 所造成的。可采用变化的学习速率或自适应的学习 速率加以改进。 完全不能训练 这主要表现在网络出现的麻痹现象上。在网络的训 练过程中,当其权值调得过大,可能使得所有的或 大部分神经元的加权总和偏大,这使得激活函数的 输入工作在S型转移函数的饱和区,从而导致其导 数非常小,从而使得对网络权值的调节过程几乎停 顿下来。通常为了避免这种现象的发生,一是选取 较小的初始权值,二是采用较小的学习速率,但这 又增加了训练时间。
第二章 神经网络及其在电力系统 中的应用
人工神经网络是集脑科学、神经心理学和信 息科学等多学科的交叉研究领域,是近年来高科 技领域的一个研究热点。它的研究目标是通过研 究人脑的组成机理和思维方式,探索人类智能的 奥秘,进而通过模拟人脑的结构和工作模式,使 机器具有类似人类的智能。它已在模式识别、机 器学习、专家系统等多个方面得到应用,成为人 工智能研究中的活跃领域。本章将简要介绍神经 网络基本的概念、模型以及学习算法以及应用实 例。
BP网络具有一层或多层隐含层,其主要差别也表现在 激活函数上 BP网络的激活函数必须是处处可微的 ,BP网络经常使 用的是S型的对数或正切激话函数和线性函数
s1xr j P rxq 1
W1
i A1
s2xs1
F1
s1xq
W2 B2
s2x1
k A2
B1
s1x1 1
F2
s2xq
2.4 BP神经网络
2.4.4 BP神经网路的几种常见激活函数 阀值型