基于BP神经网络的日负荷预测
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
神经元网络的学习过程是模仿人的学习过程，其学习方式主要有三种：有导师学习、无导师学习和强化学习。学习是一个相对持久的变化过程，同时也是一个推理过程，例如通过经验也可以学习，学习是神经元网络最重要的能力。
神经元网络的学习规则在学习过程中主要是指网络的连接权的值发生了改变，学习到的内容也是记忆在连接权之中。学习规则有：Hebb学习规则、感知机(Perception)学习规则、Delta学习规则等等。
（22）
（23）
（24）
（25）
其中，隐层节点误差 中的 表示输出节点 的误差 通过权值 向节点 反向传播成为隐层节点的误差。
3）阈值的修正
阈值 也是变化值，在修正权值的同时也需要修正，原理同权值修正一样。误差函数对输出节点阈值求导
（26）
其中
（27）
（28）
则：
（29）
阈值修正：
（30）
（31）
误差函数对隐层节点阈值求导
（32）
其中
（33）
（34）
（35）
则：
（36）
阈值修正：
（37）
（38）
4）传递函数f(x)的导数
设激活函数为非线性的sigmoid函数：
则有：
（39）
（40）
对输出层节点百度文库
（41）
（42）
对隐含层节点
（43）
（44）
在计算函数梯度时有两种方式：顺序方式和批处理方式。顺序方式，就是每增加一个输入样本，重新计算一次梯度并调整权值。该方式所需的临时存储空间较批处理方式小，且随机输入样本有利于权值空间的搜索具有随机性，在一定程度上可以避免学习陷入局部最小，但其误差收敛条件难以建立；批处理方式就是利用所有的输入样本计算梯度，然后调整权值。它能够精确计算出梯度向量，误差收敛条件非常简单，易于并行处理。
神经元网络的工作过程是重复地对网络进行训练，当网络训练好了以后，就可以正常进行工作，可以用来分析数据和处理问题。
1.2 BP网络
BP网络是一种多层感知器，网络由若干层神经元组成，每个神经元都是一个感知器，每层包含多个感知器，相邻层神经元用权连接起来，信号从前往后顺序传播，故又称其为前向传播网络。它是目前应用最为广泛的一种神经网络。其拓扑结构如图1所示。网络由输入层、隐含层、输出层组成。
基于BP神经网络的日负荷预测
1 BP神经网络
1.1人工神经网络简介及基本问题
1.1.1人工神经网络
人工神经网络（Artificial Neural Networks ，即ANN）是一种采用物理可实现的系统来模仿人脑神经细胞的结构和功能的系统。它是在现代神经科学研究成果的基础上提出的，试图通过模拟大脑神经网络处理、记忆信息的方式进行信息处理。人工神经网络是近年来十分热门的交叉学科，它涉及生物、电子、计算机、数学和物理学科，有着非常广泛的应用前景，其应用领域包括：建模、时间序列分析、模式识别和控制等。
人工神经网络的模型目前已有近40种，其中有反传网络、感知器、自组织映射、Hopfield网络、波耳兹曼机、适应谐振理论等。根据连接的拓扑结构，神经网络模型可以分为两类：前向网络和反馈网络。前向神经网络模型是指那些在网络中各处理单元之间的连接都是单向的，而且总是指向网络输出方向的网络模型。反传网络就是一种典型的前向网络。反馈网络模型是一种反馈动力学系统，它具有极复杂的动力学特性。反馈神经网络模型可以用完备的无向图表示，代表性的模型包括：Hopfield网络模型和Hamming网络模型。
2 电力系统的短期负荷预测
电力系统负荷预测是电力系统调度、实时控制、运行计划和发展规划的前提，是电网调度部门和规划部门所必须具有的基本信息。准确的负荷预测有助于提高系统的安全性和稳定性，能够减少发电成本。随着电力市场的建立和发展，短期负荷预测技术已成为电力系统EMS系统中必不可少的部分。
短期负荷预测是指提前预报未来几小时、1天至几天的电力负荷，主要用于安排日开停机计划和发电计划。对一个电力企业而言，提高运行的安全性和经济性，提高发电设备的利用率和经济调度的有效性，都要依赖准确的短期负荷预测结果。短期负荷预测作用的大小主要取决于预测精度，因此如何提高预测精度是目前研究短期负荷预测理论和方法的重点。关于短期负荷预测的研究已有很长的历史，国内外许多专家和学者在预测理论和方法方面做了大量的研究工作，提出了很多预测模型。
图1 BP网络拓扑结构
此外，网络中单个神经元的输入与输出之间的函数关系叫做激活函数。激活函数有许多种类型，其中比较常用的激活函数有三种形式：阈值型，S型和线性型。在BP网络中，要求激活函数必须是处处可微的，所以经常采用S型和线性函数。
BP网络学习规则的指导思想是：对网络权值和阈值的修正要沿着误差函数下降最快的方向（负梯度方向）进行。即：
（1）
其中 是当前的权值和阈值矩阵， 是当前误差函数的梯度， 是学习速度。
下面以只含一个隐含层的三层BP网络为例，介绍B P算法的推导过程。
对该网络中的相关记号做如下约定：
1、输入层节点数为 ，隐含层节点数为 ，输出层节点数为 。相应各层结点的编号为 ， ， ， ， ， ；
2、输入层节点与隐含层各节点间的网络权值为 ，隐含层各节点的阈值为 ；隐含层节点与输出层各节点间的网络权值为 ，输出层各节点的阈值为 ；
3、 表示输入层第 个输入（或输出）， 表示隐含层第 个输出， 表示输出层第 个输出；
4、 为输出层对应节点的期望值。
则模型的推导过程如下：
隐含层节点的输出为：
（2）
其中
（3）
输出节点的计算输出为：
（4）
其中
（5）
输出节点的误差为：
（6）
1）误差函数对输出节点求导
（7）
式中，E是多个 的函数。但有一个 与 有关，各 间相互独立，其中
1.1.2人工神经网络的基本问题
人工神经元模型是生物神经元的模拟与抽象。这里所说的抽象是从数学角度而言，所谓模拟是对神经元的结构和功能而言，相当于一个多输入单输出的非线性阈值器件。人工神经网络模型主要考虑的问题有：网络连接的拓扑结构、神经元的特征、学习规则等。
人工神经元网络模型是将神经元通过一定的结构组织起来，从而构成人工神经元网络。按照神经元连接的拓扑结构不同，可分为分层网络和相互连接型网络。分层网络是将一个神经元网络模型中的所有神经元按功能分为若干层，一般有输入层、中间层和输出层。相互连接型网络是指网络中任意两个单元之间都可以相互连接。
（8）
（9）
则：
（10）
设输入节点误差为：
（11）
则：
（12）
2）误差函数对隐层节点求导
（13）
E是多个 的函数，针对某一个 ，对应一个 ，它与所有 有关，其中
（14）
（15）
（16）
则：
（17）
设隐层节点误差为：
（18）
则：
（19）
由于权值的修正 ， 正比于误差函数沿梯度下降，则有：
（20）
（21）
神经元网络的学习规则在学习过程中主要是指网络的连接权的值发生了改变，学习到的内容也是记忆在连接权之中。学习规则有：Hebb学习规则、感知机(Perception)学习规则、Delta学习规则等等。
（22）
（23）
（24）
（25）
其中，隐层节点误差 中的 表示输出节点 的误差 通过权值 向节点 反向传播成为隐层节点的误差。
3）阈值的修正
阈值 也是变化值，在修正权值的同时也需要修正，原理同权值修正一样。误差函数对输出节点阈值求导
（26）
其中
（27）
（28）
则：
（29）
阈值修正：
（30）
（31）
误差函数对隐层节点阈值求导
（32）
其中
（33）
（34）
（35）
则：
（36）
阈值修正：
（37）
（38）
4）传递函数f(x)的导数
设激活函数为非线性的sigmoid函数：
则有：
（39）
（40）
对输出层节点百度文库
（41）
（42）
对隐含层节点
（43）
（44）
在计算函数梯度时有两种方式：顺序方式和批处理方式。顺序方式，就是每增加一个输入样本，重新计算一次梯度并调整权值。该方式所需的临时存储空间较批处理方式小，且随机输入样本有利于权值空间的搜索具有随机性，在一定程度上可以避免学习陷入局部最小，但其误差收敛条件难以建立；批处理方式就是利用所有的输入样本计算梯度，然后调整权值。它能够精确计算出梯度向量，误差收敛条件非常简单，易于并行处理。
神经元网络的工作过程是重复地对网络进行训练，当网络训练好了以后，就可以正常进行工作，可以用来分析数据和处理问题。
1.2 BP网络
BP网络是一种多层感知器，网络由若干层神经元组成，每个神经元都是一个感知器，每层包含多个感知器，相邻层神经元用权连接起来，信号从前往后顺序传播，故又称其为前向传播网络。它是目前应用最为广泛的一种神经网络。其拓扑结构如图1所示。网络由输入层、隐含层、输出层组成。
基于BP神经网络的日负荷预测
1 BP神经网络
1.1人工神经网络简介及基本问题
1.1.1人工神经网络
人工神经网络（Artificial Neural Networks ，即ANN）是一种采用物理可实现的系统来模仿人脑神经细胞的结构和功能的系统。它是在现代神经科学研究成果的基础上提出的，试图通过模拟大脑神经网络处理、记忆信息的方式进行信息处理。人工神经网络是近年来十分热门的交叉学科，它涉及生物、电子、计算机、数学和物理学科，有着非常广泛的应用前景，其应用领域包括：建模、时间序列分析、模式识别和控制等。
人工神经网络的模型目前已有近40种，其中有反传网络、感知器、自组织映射、Hopfield网络、波耳兹曼机、适应谐振理论等。根据连接的拓扑结构，神经网络模型可以分为两类：前向网络和反馈网络。前向神经网络模型是指那些在网络中各处理单元之间的连接都是单向的，而且总是指向网络输出方向的网络模型。反传网络就是一种典型的前向网络。反馈网络模型是一种反馈动力学系统，它具有极复杂的动力学特性。反馈神经网络模型可以用完备的无向图表示，代表性的模型包括：Hopfield网络模型和Hamming网络模型。
2 电力系统的短期负荷预测
电力系统负荷预测是电力系统调度、实时控制、运行计划和发展规划的前提，是电网调度部门和规划部门所必须具有的基本信息。准确的负荷预测有助于提高系统的安全性和稳定性，能够减少发电成本。随着电力市场的建立和发展，短期负荷预测技术已成为电力系统EMS系统中必不可少的部分。
短期负荷预测是指提前预报未来几小时、1天至几天的电力负荷，主要用于安排日开停机计划和发电计划。对一个电力企业而言，提高运行的安全性和经济性，提高发电设备的利用率和经济调度的有效性，都要依赖准确的短期负荷预测结果。短期负荷预测作用的大小主要取决于预测精度，因此如何提高预测精度是目前研究短期负荷预测理论和方法的重点。关于短期负荷预测的研究已有很长的历史，国内外许多专家和学者在预测理论和方法方面做了大量的研究工作，提出了很多预测模型。
图1 BP网络拓扑结构
此外，网络中单个神经元的输入与输出之间的函数关系叫做激活函数。激活函数有许多种类型，其中比较常用的激活函数有三种形式：阈值型，S型和线性型。在BP网络中，要求激活函数必须是处处可微的，所以经常采用S型和线性函数。
BP网络学习规则的指导思想是：对网络权值和阈值的修正要沿着误差函数下降最快的方向（负梯度方向）进行。即：
（1）
其中 是当前的权值和阈值矩阵， 是当前误差函数的梯度， 是学习速度。
下面以只含一个隐含层的三层BP网络为例，介绍B P算法的推导过程。
对该网络中的相关记号做如下约定：
1、输入层节点数为 ，隐含层节点数为 ，输出层节点数为 。相应各层结点的编号为 ， ， ， ， ， ；
2、输入层节点与隐含层各节点间的网络权值为 ，隐含层各节点的阈值为 ；隐含层节点与输出层各节点间的网络权值为 ，输出层各节点的阈值为 ；
3、 表示输入层第 个输入（或输出）， 表示隐含层第 个输出， 表示输出层第 个输出；
4、 为输出层对应节点的期望值。
则模型的推导过程如下：
隐含层节点的输出为：
（2）
其中
（3）
输出节点的计算输出为：
（4）
其中
（5）
输出节点的误差为：
（6）
1）误差函数对输出节点求导
（7）
式中，E是多个 的函数。但有一个 与 有关，各 间相互独立，其中
1.1.2人工神经网络的基本问题
人工神经元模型是生物神经元的模拟与抽象。这里所说的抽象是从数学角度而言，所谓模拟是对神经元的结构和功能而言，相当于一个多输入单输出的非线性阈值器件。人工神经网络模型主要考虑的问题有：网络连接的拓扑结构、神经元的特征、学习规则等。
人工神经元网络模型是将神经元通过一定的结构组织起来，从而构成人工神经元网络。按照神经元连接的拓扑结构不同，可分为分层网络和相互连接型网络。分层网络是将一个神经元网络模型中的所有神经元按功能分为若干层，一般有输入层、中间层和输出层。相互连接型网络是指网络中任意两个单元之间都可以相互连接。
（8）
（9）
则：
（10）
设输入节点误差为：
（11）
则：
（12）
2）误差函数对隐层节点求导
（13）
E是多个 的函数，针对某一个 ，对应一个 ，它与所有 有关，其中
（14）
（15）
（16）
则：
（17）
设隐层节点误差为：
（18）
则：
（19）
由于权值的修正 ， 正比于误差函数沿梯度下降，则有：
（20）
（21）