基于模糊积分的数据融合.
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
基于模糊积分的数据融合
报告人：王丽娟 时间：2004年4月
数据融合是由美国JDL实验室数据融合专家组(DFS)提出的并给出了一般的 概念模型。最初用于军事领域，现在广泛应用于机器人，交通管制，故障 诊断等民生领域。最初数据融合用于处理传感器的信息融合，由于传感器
的固有特性，单一传感器的信息通常不完备以及抗干扰的需要，经常使用
随着数据维数的增长，单分类器处理数据的能力和效率都有所不足；而
且单分类器适用于特定类型的数据，对于混合型的数据单分类器很难得到 较好的分类效果，因而可以采用不同类型的分类器处理不同类型的数据。 在识别过程中每个分类器单独处理不同的输入的数据，独立决策，最终把 各个分类器的结果融合得到一个一致的决策。多分类器融合过程存在三个 子问题：需要多少个分类器，以什么方式组合这些分类器以及当多个分类 器分类结果不一致时，在没有先验知识的前提下，如何统一结果。分类器
权重，利用一些已知的数据训练网络得到该类数据模型的权重；接着根据
现有的网络结构和权重等参数得到未知样本的类别。BP算法被称作反向传 播算法，主要思想是从前向后（正向）逐层传播信息；从后向前（反向）
逐层传播输出层的误差，间接算出隐层误差。
信息
误差
图2 神经网络结构图
算法分为两个阶段： 第一阶段（正向过程）输入信息从输入层经隐层逐层计算各单元的输 出值；根据下式计算每层的输出值：
同类或异类传感器的组合来获得互补的信息或增加抗干扰的能力。现在不 仅局限于传感器，从各方面采集得到的原始数据和分类器处理的结果都可
以通过融合技术进行加工。如Sung-Bae cho和Jin H.Kim使用基于模糊逻辑
多神经网络融合解决在线手写字符识别问题。Alexandre lemieux等构造了 一个灵活的多分类器系统用于人脸识别系统。国内有哈尔滨工业大学权太
0.51
0
b=0.556
0.58
-1 信息
例：有两组数据点，第一组数据为（0，0）（0，1），第二组数据 为（1，0）（1，1）是。构造一个三层的神经网络，由于数据有两个属 性，设计两个输入节点；输出有两类，设计两个输出节点。当第一组数 据输入时，第一个输出节点为1；当第二组数据输入时，第二个输出节点 为1 ，用BP算法训练网络。
为（1，0）（1，1）是。构造一个三层的神经网络，由于数据有两个属 性，设计两个输入节点；输出有两类，设计两个输出节点。当第一组数 据输入时，第一个输出节点为1；当第二组数据输入时，第二个输出节点 为1 ，用BP算法训练网络。
0
wih1=0.82 wih2=0.20 0.36
who1=0.12 who2=0.904
除错误的信息。将预处理后的信息输入分类器，分类器根据 一定的学习算法得到分类的模型或规则，常用的分类器，如： KNN、神经网络、决策树、SVM、贝叶斯分类器、粗糙集等。 根据所得到的模型或规则预测未知样本的类别，做出决策。
信息获取 预处理 分类器决策 分类器设计
图1 分类识别过程
这里重点介绍神经网络的BP算法。神经网络由神经元和权重构成，神经元 即为：输入节点，输出节点和隐层结点三部分；权重是各个神经元相互连 接的强度。神经网络通过训练，从样本中学习知识，并且将知识以数值的 形式存储于连接权中。神经网络的分类过程分成两部分，首先学习网络的
j
wij
பைடு நூலகம்
( y O j )O j (1 O j ) 输出层的计算方法 j O (1 O ) w 非输出层的计算方法 j j jk k k
（3） 修正各层权重： wij (t
1) wij (t ) wij (t )
（4）重复上述过程直到算法收敛，即误差小于给定的阈值。
的组合方式有以下四种。虽然上述前个问题应该同时考虑，但它们通常被
单独考虑看作覆盖优化和决策优化策略。在覆盖优化中，组合规则是固定 的。一种方法就是针对不同的分类器随机选择要度量输入特征的子集。另 一种方法是用不同的数据集训练数据，可以采用Boosting方法。通过GA算 法可以同时解决这两个问题得到最优解。
范等人出版了信息融合一书，北京理工大学，浙江大学等学校都在研究信
息融合问题处理雷达图像识别系统
首先介绍一下模式识别中的分类过程，分类通过对具有类别 标记的实例(数据) 进行训练,得出一个能够预测新实例类别 的模型。第一步信息获取，收集大量的数据。这些数据中可
能含有冗余和错误信息，对数据预处理，选取重要信息，删
例：有两组数据点，第一组数据为（0，0）（0，1），第二组数据
为（1，0）（1，1）是。构造一个三层的神经网络，由于数据有两个属 性，设计两个输入节点；输出有两类，设计两个输出节点。当第一组数 据输入时，第一个输出节点为1；当第二组数据输入时，第二个输出节点 为1 ，用BP算法训练网络。
例：有两组数据点，第一组数据为（0，0）（0，1），第二组数据
who1 0.12-> 0.15 0.51 0.36 who2 0.90->0.86 0.58
Wih1 0.82-> 0.82
1
wih2 0.20->0.196
0
b 0.55->0.57
wih1=7.2 wih2=-0.32 b=5.62 who1=-3.78 who2=3.78
信息 误差
数据融合一般分为两个层次，特征层和决策层。特征层的 融合是数据的属性的联合，分别从所有信息提取特征，然后 经过关联处理组成联合特征向量，这样一方面可以降低数据 属性的维数，另一方面可以提高数据质量，从而改善分类效 果。决策层的融合首先根据各分类器传送的信息独立做出决 策，然后通过关联处理与决策层融合推理获得最后的联合推 断结论。
net j wijOi
i
O j f (net j )
第二阶段（反向传播过程）输出误差逐层向前算出隐层各个单元的 误差，并用此误差修正前层的值。在BP算法中常采用梯度法修正权值， 为此要求输出函数可微，通常采用Sigmoid函数作为输出函数。 1 （1） 计算误差： ˆ j )2 E (yj y E 2 j wij (t ) j Oi （2） 按照梯度方向计算各层权重的修正量： 其中 的计算公式为
报告人：王丽娟 时间：2004年4月
数据融合是由美国JDL实验室数据融合专家组(DFS)提出的并给出了一般的 概念模型。最初用于军事领域，现在广泛应用于机器人，交通管制，故障 诊断等民生领域。最初数据融合用于处理传感器的信息融合，由于传感器
的固有特性，单一传感器的信息通常不完备以及抗干扰的需要，经常使用
随着数据维数的增长，单分类器处理数据的能力和效率都有所不足；而
且单分类器适用于特定类型的数据，对于混合型的数据单分类器很难得到 较好的分类效果，因而可以采用不同类型的分类器处理不同类型的数据。 在识别过程中每个分类器单独处理不同的输入的数据，独立决策，最终把 各个分类器的结果融合得到一个一致的决策。多分类器融合过程存在三个 子问题：需要多少个分类器，以什么方式组合这些分类器以及当多个分类 器分类结果不一致时，在没有先验知识的前提下，如何统一结果。分类器
权重，利用一些已知的数据训练网络得到该类数据模型的权重；接着根据
现有的网络结构和权重等参数得到未知样本的类别。BP算法被称作反向传 播算法，主要思想是从前向后（正向）逐层传播信息；从后向前（反向）
逐层传播输出层的误差，间接算出隐层误差。
信息
误差
图2 神经网络结构图
算法分为两个阶段： 第一阶段（正向过程）输入信息从输入层经隐层逐层计算各单元的输 出值；根据下式计算每层的输出值：
同类或异类传感器的组合来获得互补的信息或增加抗干扰的能力。现在不 仅局限于传感器，从各方面采集得到的原始数据和分类器处理的结果都可
以通过融合技术进行加工。如Sung-Bae cho和Jin H.Kim使用基于模糊逻辑
多神经网络融合解决在线手写字符识别问题。Alexandre lemieux等构造了 一个灵活的多分类器系统用于人脸识别系统。国内有哈尔滨工业大学权太
0.51
0
b=0.556
0.58
-1 信息
例：有两组数据点，第一组数据为（0，0）（0，1），第二组数据 为（1，0）（1，1）是。构造一个三层的神经网络，由于数据有两个属 性，设计两个输入节点；输出有两类，设计两个输出节点。当第一组数 据输入时，第一个输出节点为1；当第二组数据输入时，第二个输出节点 为1 ，用BP算法训练网络。
为（1，0）（1，1）是。构造一个三层的神经网络，由于数据有两个属 性，设计两个输入节点；输出有两类，设计两个输出节点。当第一组数 据输入时，第一个输出节点为1；当第二组数据输入时，第二个输出节点 为1 ，用BP算法训练网络。
0
wih1=0.82 wih2=0.20 0.36
who1=0.12 who2=0.904
除错误的信息。将预处理后的信息输入分类器，分类器根据 一定的学习算法得到分类的模型或规则，常用的分类器，如： KNN、神经网络、决策树、SVM、贝叶斯分类器、粗糙集等。 根据所得到的模型或规则预测未知样本的类别，做出决策。
信息获取 预处理 分类器决策 分类器设计
图1 分类识别过程
这里重点介绍神经网络的BP算法。神经网络由神经元和权重构成，神经元 即为：输入节点，输出节点和隐层结点三部分；权重是各个神经元相互连 接的强度。神经网络通过训练，从样本中学习知识，并且将知识以数值的 形式存储于连接权中。神经网络的分类过程分成两部分，首先学习网络的
j
wij
பைடு நூலகம்
( y O j )O j (1 O j ) 输出层的计算方法 j O (1 O ) w 非输出层的计算方法 j j jk k k
（3） 修正各层权重： wij (t
1) wij (t ) wij (t )
（4）重复上述过程直到算法收敛，即误差小于给定的阈值。
的组合方式有以下四种。虽然上述前个问题应该同时考虑，但它们通常被
单独考虑看作覆盖优化和决策优化策略。在覆盖优化中，组合规则是固定 的。一种方法就是针对不同的分类器随机选择要度量输入特征的子集。另 一种方法是用不同的数据集训练数据，可以采用Boosting方法。通过GA算 法可以同时解决这两个问题得到最优解。
范等人出版了信息融合一书，北京理工大学，浙江大学等学校都在研究信
息融合问题处理雷达图像识别系统
首先介绍一下模式识别中的分类过程，分类通过对具有类别 标记的实例(数据) 进行训练,得出一个能够预测新实例类别 的模型。第一步信息获取，收集大量的数据。这些数据中可
能含有冗余和错误信息，对数据预处理，选取重要信息，删
例：有两组数据点，第一组数据为（0，0）（0，1），第二组数据
为（1，0）（1，1）是。构造一个三层的神经网络，由于数据有两个属 性，设计两个输入节点；输出有两类，设计两个输出节点。当第一组数 据输入时，第一个输出节点为1；当第二组数据输入时，第二个输出节点 为1 ，用BP算法训练网络。
例：有两组数据点，第一组数据为（0，0）（0，1），第二组数据
who1 0.12-> 0.15 0.51 0.36 who2 0.90->0.86 0.58
Wih1 0.82-> 0.82
1
wih2 0.20->0.196
0
b 0.55->0.57
wih1=7.2 wih2=-0.32 b=5.62 who1=-3.78 who2=3.78
信息 误差
数据融合一般分为两个层次，特征层和决策层。特征层的 融合是数据的属性的联合，分别从所有信息提取特征，然后 经过关联处理组成联合特征向量，这样一方面可以降低数据 属性的维数，另一方面可以提高数据质量，从而改善分类效 果。决策层的融合首先根据各分类器传送的信息独立做出决 策，然后通过关联处理与决策层融合推理获得最后的联合推 断结论。
net j wijOi
i
O j f (net j )
第二阶段（反向传播过程）输出误差逐层向前算出隐层各个单元的 误差，并用此误差修正前层的值。在BP算法中常采用梯度法修正权值， 为此要求输出函数可微，通常采用Sigmoid函数作为输出函数。 1 （1） 计算误差： ˆ j )2 E (yj y E 2 j wij (t ) j Oi （2） 按照梯度方向计算各层权重的修正量： 其中 的计算公式为