基于神经网络的数据挖掘研究
基于改进BP神经网络算法的数据挖掘技术的研究
它是基于梯度法的极小化二次性能指标函数， 即Ｅ＝∑ ＿ Ｅ ｍｌｋ
～ ｎ。
式 ， 为 部 差 数即ｋ＞ （） ∑ －ｋ ∑ 中Ｅ 局 误 函 ，Ｅ ． １ Ｙ ｅ ｋ ； ｋ ｋ ＝ ｋ ｅ＝ ）
寻 求 目标 函数 的极小 有两 种 基本 方法 ， 即逐 个处 理和 成批 处理 。所 谓逐 个处理 ， 既随 机依 次输 入样本 ， 每输 入一个 样本 都进 行连 接权 的调整 。所谓成 批 处 理， 在所 有 样本 输入 后 计 算其 总 误差 进 行 。 是
文章编 号 ：０ ９ ９ ４ ２ １ ） １ ０ ５ ２ １ ０ — １Ｘ（０ ０ ３ ０ ７ ０
１数据 挖掘 技 术 数据 挖掘技 术 （ａ ａ Ｍｎ ｎ ｅｈ ｏ ｏ ｙ 是运 爿基于 计算机 的 方法， Ｄ ｔ ｉ ｉｇ Ｔ ｃｎ ｌ ｇ ） ｊ 包括新 技术， 而在大 量 的数 据 中获得 有效 的 、 从 潜在有 用价 值 的、 终可理 解 最 的模 式 的非平 凡过程 。 用数 据挖 掘技术 到数 据处 理 中， 以提 高数据 处理 效 应 可 率、发现数 据之 间存在 的关 系， 改变 目前数 据 分析人 员更 多地依 赖 自身 的直 觉和 经验 来进 行判 断 的局 面， 为企业 带来 利益 ， 为科 学研 究寻 找最 佳解 决 或
设 隐含层 数 为 Ｌ 第 ｒ隐含层 连接 权 ｗｒ 阵第 Ｐ行 的调整 方程 为 ： Ｉ 矩
Ａ Ｗ
口
（ 咄 一 ｌ ｈ ” １ ｆ ｒ ） ： Ｗ （ ： ，ｐ ， Ｏ ２ ＂ ｗ”
其 ≤ （ 中 ｝＝ ｒ ｈ
当 ｒ ＝Ｌ 时 ，ｈ ” ｋ ， 由上 式 分 析 可 见 ， 隐 含 层 局 部 的 误 差 ＝ｘ ，
《 （ ０ ， 的 算是以 层的 误差为 础的 即 算 ＝，） 计 ｒ １ ２ 高 局部 基 ， 在计 过程中 部误 局
基于改进神经网络的数据挖掘
Ｍｉｒｃｍｐ ｔｒＡ ｐｉａｉｎ ｏ． ３Ｎｏ ７ ２０ ｃｏｏ ｕｅ ｐ ｌ ｔ ｓ １２ ， ． ，０ ７ ｃ ｏ Ｖ 文 章 编 号 ：０ ７ ７７ ２０ ）７ ０ １ 一Ｏ １ ０ — ５Ｘ（０ ７ ０ — ０ ４ ２
研 究 与 设 计
ｋ— ｋ— １ 一
性 。 由 于神 经 网络 算 法 仍 旧是 最 速 下 降 法 ， 不能 避 免 局 部 但 仍
极 值 问 题 。 拟退 火 算 法 通 过 逐 步 减小 网络 联 接 权 的修 改 量 ， 模 使 神 经 元 网络 在 寻 找 全 局 极 小 点 区 域 时 ， 足 够 的 “ 量 ” 有 能 从 局 部 极 小 点 跳 出来 ， 旦 进 入 全 局极 小值 区 域 ， 接 权 的修 改 一 联
量 将 变 小 ， 网络 没 有 足 够 的“ 量 ” 出 来 ， 模 拟 退 火 算 法 使 能 跳 故
基 本 解 决 了局 部 极 值 问 题 。 用 Ｃ ｕｈ 使 ａ ｃ ｙ训 练 能 够 提 高训 练速
根据 距 离 的选 取 更 新 划 分 矩 阵 ｕ 根据 划 分 矩 阵 ｕ， 新 聚 类 中心 Ｐ 更
为 解 决 Ｆ Ｍ 算 法 的有 效性 问题 和局 部最 小 问 题 ， 者 提 Ｃ 作
掘就是为顺应这种需要应 运而生发 展起来 的数据处理技 术 ， 聚类 、 策树 、 经 网络 是 数 据 挖 据 中 的重 要 技 术 。在 聚 类 方 决 神 面 ， 何 创 新 或 改 进 算 法 以提 高 聚 类 有 效 性 是 当前 研 究 的热 如 点 问 题之 一 。在 聚 类 分 析 中 ， 目前 往 往 将 两 种算 法 混 合 进 行 。 本 文 提 出 了三 种 算 法 混 合 的新 方 法 ， 即基 于 改 进 的 模 糊 逻 辑 神 经 元 网络 算 法 的 Ｆ Ｍ 算 法 ， 过 试 验 ， 大 多 数 情 况 下 可 Ｃ 经 在
神经网络在数据挖掘中的应用
神经网络在数据挖掘中的应用随着计算机科学的快速发展，数据挖掘技术已经成为了数据分析领域中的重要手段。
它可以从庞大的数据集中发现隐藏的模式和规律，帮助人们预测未来趋势，优化决策。
在数据挖掘中，神经网络是一种非常重要的工具，它在各种数据挖掘任务中都具有重要的应用价值。
本文将介绍神经网络在数据挖掘中的应用，并探讨其未来发展方向。
一、神经网络简介神经网络是一种模拟生物神经系统的计算机模型，它可以通过学习发现数据中复杂的模式，并用于分类、预测和优化等任务。
神经网络由许多神经元组成，这些神经元之间构成了一个复杂的网络结构。
在神经网络的学习过程中，神经元之间会自动调整其连接权重，从而实现对训练数据的拟合。
二、1.分类在分类任务中，神经网络被广泛应用。
通过对已经分类的数据进行学习，神经网络可以自动地对新数据进行分类。
神经网络的分类精度通常比传统的分类算法要高，尤其是在处理非线性分类问题时效果更加明显。
例如，在银行领域，可以使用神经网络对信用风险进行分析，帮助银行挑选优质的客户，提高贷款的审核效率；在生物信息学领域，可以使用神经网络对未知蛋白质进行分类，以了解其功能、性质等信息。
2.预测神经网络也可以被应用于预测任务中。
通过对已有的数据进行学习，神经网络可以学习到数据中的规律和趋势。
然后，使用已经学习到的规律和趋势，可以对未来数据进行预测。
例如，在股市预测方面，可以使用神经网络对股票价格进行预测；在气象学方面，可以使用神经网络对未来的气象数据进行预测并进行相应的调整。
3.优化神经网络还可以被用于优化任务中。
在这种任务中，神经网络可以学习到某个系统的局部规律，然后使用这些规律进行优化操作。
在一些大规模、高维的优化问题中，神经网络比其他算法更具有优势。
例如，在交通规划方面，可以使用神经网络对交通网络的优化进行分析，在学校排课方面，可以使用神经网络对课表进行排列，以减少教室的使用率，提高学校的资源利用率。
三、神经网络在数据挖掘中的发展方向随着数据挖掘技术的不断发展，神经网络也在不断发展中。
基于循环神经网络与时序数据挖掘的交通流量预测研究
基于循环神经网络与时序数据挖掘的交通流量预测研究交通流量预测是城市交通规划和管理中的关键问题之一。
准确预测交通流量可以帮助交通部门优化路网规划、交通信号控制以及旅行者信息提供等操作，最终提高城市交通运行效率和减少交通拥堵。
随着循环神经网络（Recurrent Neural Network, RNN）技术和时序数据挖掘方法的发展，基于RNN和时序数据挖掘的交通流量预测研究被广泛应用。
循环神经网络是一类特殊的神经网络结构，适用于处理序列数据、时间序列等具有时间依赖性的问题。
与传统的前馈神经网络（Feedforward Neural Network）相比，RNN的隐状态可以通过一个循环的连接实现信息在时序上的传递，从而对前序信息进行记忆和利用。
这使得RNN成为处理交通流量预测问题的强有力工具。
在交通流量预测中，时序数据挖掘扮演着至关重要的角色，其可以从历史交通流量数据中识别出重要的模式和趋势，从而为预测模型提供准确的输入。
常见的时序数据挖掘方法包括时间序列分析、周期性分析、自回归模型、移动平均模型等。
这些方法可以帮助我们理解交通流量数据中的季节性、周期性和趋势性，并提取出有效的特征用于交通流量预测。
基于循环神经网络和时序数据挖掘的交通流量预测方法可以分为两个主要步骤：特征提取和流量预测。
首先，通过时序数据挖掘方法，我们可以从历史交通流量数据中提取出有意义的特征。
例如，我们可以提取每天的交通流量变化模式、周末与工作日的流量差异、季节性和节假日对流量的影响等。
这些特征可以用于后续的流量预测模型。
针对特征提取之后的交通流量预测问题，循环神经网络被广泛应用。
基于RNN的交通流量预测模型能够利用历史交通数据中的时序信息和交通流量的动态特性进行预测。
这种方法能够捕获与时间相关的特征，同时还能够考虑到交通流量之间的相互影响。
常见的基于RNN的交通流量预测模型包括基本的循环神经网络（Simple RNN）、长短期记忆网络（Long Short-Term Memory, LSTM）和门控循环单元（Gated Recurrent Unit, GRU）等。
数据挖掘与神经网络的结合
数据挖掘与神经网络的结合数据挖掘与神经网络的结合是当今科技领域中非常热门的研究方向。
随着互联网的迅猛发展和大数据时代的来临，数据的规模和复杂性都急剧增加，传统的数据挖掘方法面临着巨大的挑战。
而神经网络作为一种强大的模式识别和学习的工具，能够有效地处理大规模的、复杂的非线性数据，为数据挖掘提供了新的思路和方法。
数据挖掘是从大规模数据集中发现有用信息的过程。
它包括从数据中提取出隐藏的模式、趋势和规律，并利用这些知识做出预测和决策。
传统的数据挖掘方法主要基于统计学和机器学习的技术，如决策树、聚类、关联规则挖掘等。
然而，这些方法在处理大规模、高维度、非线性的数据上存在一定的局限性。
而神经网络作为一种模拟人脑神经元网络的计算模型，被认为是解决复杂问题的有效工具。
神经网络是一种由大量互联的神经元组成的计算系统，它模拟了人脑中神经元之间的连接和传递信息的方式。
神经网络能够从数据中学习并建立一种复杂的非线性映射关系，实现模式识别、分类和预测等功能。
相比传统的数据挖掘方法，神经网络具有更强的非线性建模能力和更强大的泛化能力，能够更好地处理复杂的数据关系。
将数据挖掘和神经网络相结合，可以充分发挥两者的优势。
首先，神经网络可以作为一个强有力的数据挖掘工具，应用于特征提取、数据降维、分类和预测等任务。
通过训练神经网络，可以学习到数据中的潜在特征和规律，从而提高数据挖掘的准确性和效果。
其次，数据挖掘可以为神经网络提供更好的数据预处理和特征选择，从而加速网络的训练和提高泛化能力。
数据挖掘方法可以帮助神经网络识别和过滤无关的特征，减少数据的干扰，提高网络的性能和效率。
数据挖掘与神经网络的结合在各个领域都有着广泛的应用。
在金融领域，通过对历史交易数据进行挖掘和建模，可以预测股票价格的波动和市场的走势，辅助投资决策。
在医疗领域，通过分析大量的病例数据和基因数据，可以发现潜在的疾病风险因素和治疗方法，提供个性化的医疗服务。
在电商领域，通过对用户的浏览、点击和购买行为数据进行挖掘，可以实现个性化推荐和精准营销，提升用户的购物体验和消费满意度。
基于模糊神经网络的数据挖掘技术的研究
隐藏着许多重要 的信息 ，人们希望能够对其进行更高层次 的分析 ，以便更好地利用这些数据。为 给决策者提供一个统一 的全局视角 ，在许多领域建立了数据仓库 。但 大量 的数据往往使人们无法 辨别隐藏在其 中的能对决策提供支持 的信息 ，而传统的查询 、报表工具无法满足挖掘这些信息的
需求 。因此 ，需要一种新的数据分析技术处理大量数据 ，并从 中抽取有价值 的潜在知识 ，数据挖 掘 （ ａ ｎ ｇ 技术 由此应运而生。数据挖掘技术也正是伴随着数据仓库技术 的发展而逐步完 Ｄ ｔ Ｍｉ ｎ ） ａ ｉ
大致可经历以下 ５个步骤 ：
（） １ 数据选择。从数据库中提取所需数据及其相关属性 。 （） ２ 数据预处理 。对在数据选择阶段产生的数据 ， 根据需要进行再加工 ， 保证数据的完整性和
一
致性 ， 对缺失 、失真等噪声数据应用数据平滑技术进行处理。针对数据特点 ， 可选取分箱、聚类 、
Ａｓａ Ｐ ｄｆ ｎ ｅ ｅ ｃ ｎ Ｉ ｆ ｒ ｔ ｎＰ ｏ ｅ ｓ ｇｐ ：２ ｉ— ａ ｉ Ｃｏ ｆ ｒ ｎ ｅｏ ｎ ｏ ｍａ ｏ ｒ ｃ ｓ ｉ ， ｐ ３ ０～３ ３ ｃ ｉ ｎ ２
［］ ｒ ｈ ｘｍｇ ， ｒｆ ｎ ｈ ｇ ” ａ ｎ ｇＡ ｄ ｐ ｖ ｅｒｌ ｔ ｒ ｄｌｏ ｉａｃ ａ ｓ ”Ｐｏｅｄｎ ｓ ８Ｄ ｕ ｉ Ｐｏ ｇＺ ａ ，Ｄ ｔ Ｍｉｉ — ｎＡ ａｔ ｅＮ ｕａＮｅ Ｓ ｉ Ｘｕ Ｍｉ ｎ ａ ｎ ｉ ｗｏｋＭｏ ｅ ｆｒ ｎ ｎｉ Ａ ｌ ｉ ， ｒｃｅｉｇ Ｆ ｌ ａｎ ｙ ｓ
利用 目 比较成熟的机器学习方法。 前
（） ５ 神经网络方法 ：神经网络由于本身 良 好的鲁棒性 、自 组织 自 适应性、并行处理 、 分布存储
４ ４
神经网络模型在大数据分析中的应用研究
神经网络模型在大数据分析中的应用研究神经网络模型是一种模仿人类大脑神经元结构和工作原理的计算机模型，通过学习和训练来识别模式和处理数据。
随着大数据时代的来临，神经网络模型在大数据分析中的应用也呈现出越来越重要的作用。
本文将探讨神经网络模型在大数据分析中的应用研究以及它所带来的影响和发展趋势。
神经网络模型在大数据分析中的应用主要涉及数据挖掘、机器学习、自然语言处理等领域。
在数据挖掘方面，神经网络模型可以通过对大规模数据进行训练和学习，从中发现隐藏的模式和规律，帮助企业做出更准确的数据预测和决策。
在机器学习方面，神经网络模型可以通过不断的反馈和调整，提高模型的准确性和泛化能力，使得机器能够更好地模拟人类的认知和决策过程。
在自然语言处理方面，神经网络模型可以通过对大量语言数据的学习，实现自然语言的理解和生成，从而推动智能对话系统和语音识别技术的发展。
神经网络模型的应用也带来了一系列的影响和挑战。
首先，神经网络模型需要大量的数据来进行训练和学习，对数据的质量和数量提出了更高的要求。
其次，神经网络模型的训练和优化过程需要大量的计算资源和时间，对计算机性能提出了更高的挑战。
此外，神经网络模型的复杂性和黑盒性也给模型的解释和可解释性带来了一定的困难，如何有效地解释和解释模型的结果成为了一个重要的研究方向。
为了解决上述问题，研究者们提出了许多方法和技术。
例如，可以通过数据增强和迁移学习的方法来提升神经网络模型的性能和泛化能力，减少对大数据的需求。
可以通过并行计算和分布式学习的方法来加速神经网络模型的训练和优化过程，提高模型的效率和可扩展性。
还可以通过可解释性和可视化的方法来解释和解释神经网络模型的结果，增强模型的可理解性和可信度。
在未来，随着大数据的不断增长和技术的不断创新，神经网络模型在大数据分析中的应用还将继续扩展和深化。
研究者们可以不断改进神经网络模型的结构和算法，提高模型的性能和鲁棒性。
可以加强跨学科的合作和交流，共同面对神经网络模型在大数据分析中所面临的挑战和机遇。
基于BP神经网络算法的数据挖掘方法研究
及的学科 广泛 ，挖掘方法种类也是多种多样 ，他们 的主要任务
主要包括 以下 ４种 ，这也是数据挖掘的最重要 的 ４个任务 ：
（）分类 （ｌｓｉｃｔ ｎ 。数据挖 掘中分类的任务 主要是 １ Ｃａｓ ｉ ｉ ） ｆａｏ
输入层 隐含层 输 出层
训练 分类 函数或者分 类模 型 ，也成 为分类 学 习器 ，该 学习 器 能够按 照预定 义 的模 型把数据 库 中的数据 项映射 指定 的类别 中，也成为有监督学习任务 。 （） 汇总 （ｕ ａｉ ｔ ｎ 。该 任务 的主要 目的是对 数据 ２ Ｓ ｍｍ ｒ ａ ｏ） ｚｉ 进行提取 ，给出一个 比较集 中的描述 形式 ，数据 挖掘 中从数 网络算法 的数据挖 掘方法研 究
蒋 菱 。叶 明亮
（ 四川大学计算机学院 ，成都 ６ ０ ０ ） １２ ７
摘
要 ： 详 细介 绍 了数据挖掘技 术的相关概念 、任务 以及神 经 网络原理 ，指 出了传统的 Ｂ Ｐ算法在数据挖掘过程 中
的不足之 处 ，提 出了一种 变异 的 Ｂ Ｐ神 经网络 算法 ，大大提 高 了 Ｂ Ｐ神 经网路 算法的收敛速度 。 关键词 ： 数据挖掘 ； 经网络 ； Ｐ算法 神 Ｂ
有效 的 。神 经网络通 常用 于解 决分类 和 回归两类 问题 ，神经 网络模 型 的结 构主要 包括输 入层 、输 出层 和隐含层 ，其 中输
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
对输入模式Xp，若输出层中第k个神经元的期望输出为
dpk，实际输出为ypk。输出层的输出方差 ：
E p
1 2
k
(d pk y pk )2
若输入N个模式，网络的系统均方差为：
E 1 2N
y j (k)
f
[W
T j
(k
)
X
k
]
1 j M
第四步：修正权值。
W j (k 1) W j (k ) [d j y j (k )] X k
dj：第j个神经元的期望输出。
1, d j 1,
Xk j Xk j
1 j M
第五步：转到第二步。
当全部学习样本都能正确分类时，学习过程结束。
经验证明，当η随k的增加而减小时，算法一定收敛。
(其它神经元的输 出)
x1
w1
x2
w2
┇
┇Байду номын сангаас
xn
wn
互连强度 ∑ f
输出函数
y
输出
作比较 的阈值
图8.2 人工神经元模型
人工神经元间的互连：信息传递路径轴突-突触-树突的简化。
连接的权值：两个互连的神经元之间相互作用的强弱。
神经元的动作：
n
net wi xi i 1
y f (net)
(xi , wi R)
算法描述
第一步：设置初始权值wij(1)，w(n+1)j(1)为第j个神经元的阈值。 第二步：输入新的模式向量。
第三步：计算神经元的实际输出。
设第k次输入的模式向量为Xk，与第j个神经元相连的权向量为 W j (k) [w1 j , w2 j , , w(n1) j ]T
第j个神经元的实际输出为
BP算法的学习过程
设：某层任一神经元j的 输入为netj，输出为yj； 相邻低一层中任一 神经元i的输出为yi。
net j wij yi
i
y j f (net j )
wij：神经元i与j之间的连接权； f(∙)：神经元的输出函数。
y1
…
yM
…
j
…
i
…
…
x1
x2
…
xn
S型输出函数：
yj
1
0.5
前馈网络；
输入层
…
中间层为一层或多层处理单元；
x1
x2
…
xn
只允许一层连接权可调。
2．BP算法
学习过程分为两个阶段：
第一阶段（正向传播过程）：给出输入信息通过输入层经各隐层 逐层处理并计算每个单元的实际输出值
第二阶段（反向传播过程）：若在输出层未能得到期望的输出值， 则逐层递归地计算实际输出与期望输出之间的差值（即误差）， 通过梯度下降法来修改权值，使得总误差函数达到最小。
2.2 BP网络
BP网络：采用BP算法（Back-Propagation Training Algorithm）
的多层感知器。
误差反向传播算法
认识最清楚、应用最广泛。
性能优势：识别、分类 1．多层感知器
输出层
y1
…
yM
…
针对感知器学习 …
算法的局限性：模式 第 二 隐
类必须线性可分。
层
…
结构：
第一隐 层
y1
…
yM
…
…
x1
x2
…
xn
感知器结构示意图
结构特点：
* 双层（输入层、输出层）； * 两层单元之间为全互连； * 连接权值可调。 * 输出层神经元个数等于类
别数。
设输入模式向量，X [x1, x 2, , x m ]，T 共M类。
输出层第j个神经元对应第j个模式类，
n
输出为 y j f ( wij xi j )
教师
t(n) 期望输出
输入
环境
p(n)
神经网络
实际输出
比较
a(n)
误差信号
e(n)
神经网络学习方式---无监督、自组织学习 无监督学习：网络的学习完全是一种自我调整的过程，不存在 教师信号。输入模式进入网络后，网络按照预先设定的某种规 则反复地自动调整网络结构和连接权值，使网络最终具有模式 分类等功能。
输出函数 f：也称作用函数，非线性。
y
y
1
1
0θ
net
（a）
阈值型
0
net
（b）
S型
f 为阈值型函数时：y sgn
n
wi xi
i1
设 wn1 ，点积形式： y sgn(W T X )
式中，W [w1,, wn , wn1 ]T X [x1,, xn , 1]T
1.3 神经网络的学习 学习： 神经网络的最重要特征之一。
实质： 从环境中获取知识并改进自身性能，主要指调节网络参
数使网络达到某种度量，又称为网络的训练。
神经网络学习方式---监督学习
监督学习：对每一个输入训练样本，都有一个期望得到的输出 值（也称教师信号），将它和实际输出值进行比较，根据两者 之间的差值不断调整网络的连接权值，直到差值减少到预定的 要求。
输入
环境 神经网络
1.4 神经网络的结构分类
分层结构 有明显层次，信息流向由输入层到输出层。 —— 前馈网络
相互连接结构 没有明显层次，任意两个神经元之间可达，具有输出
单元到隐层单元或输入单元的反馈连接 。 —— 反馈网络
2 前馈神经网络
2.1 感知器 感知器（Perceptron）：F．Rosenblatt于1957年提出。
n1
有
y j f (
wij xi )
f
(W
T j
X
)
i 1
M类问题判决规则( 神经元的输出函数) 为
yj
f
(W
T j
X
)
1, 1,
若X j 若X j
1 j M
* 正确判决的关键：
输出层每个神经元必须有一组合适的权值。
* 感知器采用监督学习算法得到权值；
* 权值更新方法：δ学习规则。
1 神经网络基本概念
1.1 生物神经元 细胞体、树突、轴突和突触。
来自其它神经元轴突的神经末梢
树突 细胞体 细胞核
轴突
突触 神经末梢
生物神经元的工作机制
兴奋和抑制两种状态。
（1）兴奋状态传递兴奋信号 （2）抑制状态传递抑制信息
1.2 人工神经元 人工神经元：生物神经元的简化模拟。
n维输入向量X
接收的信息
netj
0
θj
1 y j f (net j ) 1 e(net j j ) h0 θj：神经元阈值； h0：修改输出函数形状的参数。
设：输出层中第k个神经元的实际输出为yk，输入为netk；
与输出层相邻的隐层中任一神经元j的输出为yj。
netk wjk y j
j
yk f (netk )
i 1
θj：第j个神经元的阈值；
yi
wij：输入模式第i个分量与
输出层第j个神经元间的连接权。
x1
w1j
x2 w2j
┇┇
xi
wij
┇
┇
wnj
j yj
输出单元对所有输入数值加权求和，经阈值型输出函数
产生一组输出模式。
令 j w(n1) j 。取 W j [w1 j , w2 j , , w(n1) j ]T X [x1, x 2, , x n , 1]T