聚类分析和回归分析SPSS
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
(1)菜单选项: Analyze->regression->linear… (2)选择一个变量为因变量进入dependent框 (3)选择一个变量为自变量进入independent框 (4)enter:所选变量全部进入回归方程(默认方法) (5)对样本进行筛选(selection variable) – 利用满足一定条件的样本数据进行回归分析 (6)指定作图时各数据点的标志变量(case labels)
2015/7/23
中国人民大学六西格玛质量管理研究中心
目录 上页 下页 返回 结束
10
2015/7/23
中国人民大学六西格玛质量管理研究中心
目录 上页 下页 返回 结束
11
2015/7/23
中国人民大学六西格玛质量管理研究中心
目录 上页 下页 返回 结束
12
§ 回归分析SPSS上机实践
一元基本操作步骤
2015/7/23
中国人民大学六西格玛质量管理研究中心
17
(三)options选项: • stepping method criteria:逐步筛选法参数设置. – use probability of F:以F值相伴概率作为变量进入和剔 除方程的标准.一个变量的F值显著性水平小于 entry(0.05)则进入方程;大于removal(0.1)则剔除出方程
2015/7/23
中国人民大学六西格玛质量管理研究中心
目录 上页 下页 返回 结束
8
最短距离法和最长距离法操作步骤与类平均法一样，只不过 要在Cluster Method下拉菜单中分别选择Nearest Neighbor 和Furthest Neighbor选项。图3.18、图3.19、图3.20分别 显示了三种方法的分类结果。为便于对照，将三种方法分类 的结果综合列于表3.18。
• Predict from estimation period through last case:计算保存所有 预测值. • Predict through :如果预测周期超过了数据文件的最后一个观测期, 选择此项,并输入预测期数.
2015/7/23
目录 上页 下页 返来自百度文库 结束
7
对例，我们采用欧氏距离分别用类平均法、 最短距离法、最长距离法把31个省市分类。 类平均法聚类在SPSS中的操作为：点选 “Analyze”→“Classify” →“Hierarchical Cluster”，打开Hierarchical Cluster Analysis对话框，将八个聚类指标选入 Variables栏中，将表示地区的变量选入 Label Cases By栏中，按“Plots”按钮，在 弹出的窗口中选中Dendrogram（谱系图） 选项，按“Continue”返回主对话框，在按 “Method”按钮，在Cluster Method下拉菜 单中选择Between-groups linkage（组间 连接法，即类平均法）选项，返回主对话 框后按“OK”即可得到聚类结果。
将原始数据录入SPSS，并依次点击“Analyze”→ “Correlate” →“Bivariate”，打开Bivariate Correlations对话框，把八个变量选入Variables 栏中，单击“OK”，得到这八个指标对应的相关系 数，列于表3.16。
2015/7/23
中国人民大学六西格玛质量管理研究中心
2015/7/23
中国人民大学六西格玛质量管理研究中心
目录 上页 下页 返回 结束
2
(5) 在系统聚类法中底下有四个按纽，分别是Statistics、Plots、 Method、Save。 （a）在Statistics中，有Agglomeration schedule（每一阶段聚类 的结果），Proximity matrix（样品间的相似性矩阵）。由Cluster membership可以指定聚类的个数，none选项不指定聚类个数，Single solution指定一个确定类的个数，Range of solution指定类的个数 的范围（如从分3类到分5类）。 (b)在Plots中，有Dendrogram（谱系聚类图，也称树状聚类图）、 Icicle(冰柱图)、Orientation指冰柱图的方向（Horizontal 水平方 向、Vertical垂直方向）。 (c)在Method中， Cluster可以选择聚类方法，Measure中可以选择计 算的距离。 (d)在Save中，可以选择保存聚类结果。 选好每个选项后，点“OK”就可以执行了。
.因此:Entry<removal
– use F value:以F值作为变量进入(3.84)和剔除(2.71)方 程的标准
(四)save选项: 将回归分析结果保存到数据编辑窗口中或某磁盘文件中
2015/7/23
中国人民大学六西格玛质量管理研究中心
18
曲线回归基本操作步骤
(1)绘制散点图,观察并确定模型. (2)菜单选项: analyze->regression->curve estimation (3) 选择因变量到dependent框 (4) 选择自变量到independent框或选time以时 间作自变量 (5)选择模型 (R2最高拟和效果最好)
2015/7/23
中国人民大学六西格玛质量管理研究中心
目录 上页 下页 返回 结束
3
§社会经济案例研究
例 城镇居民消费水平通常用表3.15中的八项指标 来描述，八项指标间存在一定的线性相关。为研 究城镇居民的消费结构，需将相关性强的指标归 并到一起，这实际就是对指标聚类。原始数据列 于表3.15。
2015/7/23 13
中国人民大学六西格玛质量管理研究中心
(二) statistics选项 (1)基本统计量输出 – Estimates:默认.显示回归系数相关统计量. – confidence intervals:每个非标准化的回归系数95% 的置信区间. – Descriptive:各变量均值、标准差和相关系数单侧检 验概率. – Model fit:默认.判定系数、估计标准误差、方差分析 表、容忍度 (2)Residual框中的残差分析 – Durbin-waston:D-W值 – casewise diagnostic:异常值(奇异值)检测 (输出预测 值及残差和标准化残差)
§ 聚类分析SPSS上机实践
系统聚类法 用SPSS软件自带的数据文件World95.sav来做一 个实例分析。 为了研究亚洲国家的经济发展水平和文化教育水 平，以便于对亚洲国家进行分类研究，这里我们 进行聚类分析（在World95.sav数据中筛选出亚洲 国家，使用Data→Select Cases→If condition is satisfied中选入region=3）。 详细步骤如下： (1) 打开数据。使用菜单中File→Open命令，然后 选中要分析的数据World95.sav。
2015/7/23
中国人民大学六西格玛质量管理研究中心
16
(二) statistics选项 (1)基本统计量输出 – Part and partial correlation:与Y的简单相 关、偏相关和部分相关 – R square change:每个自变量进入方程后 R2及F值的变化量 – Collinearity dignostics:共线性诊断.
2015/7/23
中国人民大学六西格玛质量管理研究中心
目录 上页 下页 返回 结束
1
(2)在菜单中的选项中选择Analyze→Classify命令， Classify命令下有两个聚类分析命令，一是K-means cluster（K-均值聚类），二是Hierarchical cluster （系统聚类法）。这里我们选择系统聚类法。 (3) 在系统聚类法中，我们看到Cluster下有两个 选项，Cases（样品聚类或Q型聚类）和Variables (变量聚类或R型聚类)。这里我们选择对样品进行 聚类。 (4) Display下面有两个选项，分别是Statistics (统计量)、Plots（输出图形），我们可以选择所 需要输出的统计量和图形。
2015/7/23
中国人民大学六西格玛质量管理研究中心
19
其他选项 (1)display ANOVA table:方差分析表 (2)plot models:绘制观察值和预测值的对比图. (3)save选项: – predicted values:保存预测值. – Residual:保存残差值. – prediction interval:保存预测值的默认95%的可置信区间. – Predict case:以time作自变量进行预测.
直观看出，类平均法分为三类：｛1，9，11，19｝为第一类， ｛13，2，22，10｝为第二类，其他为第三类；最短距离法 分为两类，｛1，9，11，19｝为一类，其余的省市归为一大 类；最长距离法也分为三类：｛1，9，11，19｝为第一类， ｛10，22，2，13，26｝为第二类，其余的省市为第三类。 很显然，这三种方法的分类效果是有差异的。
2015/7/23
中国人民大学六西格玛质量管理研究中心
14
(三)plot选项:图形分析. • Standardize residual plots:绘制残差序列直 方图和累计概率图,检测残差的正态性 • 绘制指定序列的散点图,检测残差的随机性、异 方差性 – ZPRED:标准化预测值 – ZRESID:标准化残差 – SRESID:学生化残差 – produce all partial plot:绘制因变量和所有 自变量之间的散点图
2015/7/23
中国人民大学六西格玛质量管理研究中心
目录 上页 下页 返回 结束
6
上面介绍的几种系统聚类方法，并类的原则和步 骤基本一致，所不同的是类与类的距离有不同的 定义。其实可以把这几种方法统一起来，有利于 在计算机上灵活地选择更有意义的谱系图。
2015/7/23
中国人民大学六西格玛质量管理研究中心
2015/7/23
中国人民大学六西格玛质量管理研究中心
目录 上页 下页 返回 结束
9
那么究竟采用哪一种分类为好呢？一种方法是根据分类问题 本身的知识来决定取舍。另一种方法是将几种方法的共性取 出来，有争议的样品根据其实际情况再划分。综合考虑这两 点，笔者认为从全国各省、市、区的消费情况来看，分为三 类较为合适。 由分类结果可以看出，类平均法和最长距离法的分类结果基 本上一致，只是在西藏应该划入第二类还是第三类上存在差 异，从表3.15的实际情来看，西藏的经济发展和消费水平与 始终处在第二类的福建、天津、重庆和江苏有较大差距，因 此划入第三类较为合适，即这个聚类分析用类平均法较为合 适。
目录 上页 下页 返回 结束
4
2015/7/23
中国人民大学六西格玛质量管理研究中心
目录 上页 下页 返回 结束
5
表3.16中最大的相关系数为r4，8＝0.837，将G4和G8并成一新类G9，然后 计算G9与各类的相关系数，再找最大的相关系数，每次缩小一类得图3－ 17。 我们可以看出全国城镇居民得消费结构大致可以分为三个方面，一类是各 种副食、日用品及交通通信、文化教育和住房等支出，这是在消费结构中 起主导作用的方面；其次是居民购买烟、酒、饮料及着装支出；粮食和水 电燃料是两项很重要的消费指标，但目前在城镇居民的消费中占的比例较 小，可将它们归并为同一类。
2015/7/23
中国人民大学六西格玛质量管理研究中心
15
多元回归基本操作步骤
(1)菜单选项: analyze->regression->linear… (2)选择一个变量为因变量进入dependent框 (3)选择一个或多个变量为自变量进入independent 框 (4)选择多元回归分析的自变量筛选方法: – enter:所选变量全部进入回归方程(默认方法) – remove:从回归方程中剔除变量 – stepwise:逐步筛选；backward:向后筛选； forward:向前筛选 (5)对样本进行筛选(selection variable) – 利用满足一定条件的样本数据进行回归分析 (6)指定作图时各数据点的标志变量(case labels)
2015/7/23
中国人民大学六西格玛质量管理研究中心
目录 上页 下页 返回 结束
10
2015/7/23
中国人民大学六西格玛质量管理研究中心
目录 上页 下页 返回 结束
11
2015/7/23
中国人民大学六西格玛质量管理研究中心
目录 上页 下页 返回 结束
12
§ 回归分析SPSS上机实践
一元基本操作步骤
2015/7/23
中国人民大学六西格玛质量管理研究中心
17
(三)options选项: • stepping method criteria:逐步筛选法参数设置. – use probability of F:以F值相伴概率作为变量进入和剔 除方程的标准.一个变量的F值显著性水平小于 entry(0.05)则进入方程;大于removal(0.1)则剔除出方程
2015/7/23
中国人民大学六西格玛质量管理研究中心
目录 上页 下页 返回 结束
8
最短距离法和最长距离法操作步骤与类平均法一样，只不过 要在Cluster Method下拉菜单中分别选择Nearest Neighbor 和Furthest Neighbor选项。图3.18、图3.19、图3.20分别 显示了三种方法的分类结果。为便于对照，将三种方法分类 的结果综合列于表3.18。
• Predict from estimation period through last case:计算保存所有 预测值. • Predict through :如果预测周期超过了数据文件的最后一个观测期, 选择此项,并输入预测期数.
2015/7/23
目录 上页 下页 返来自百度文库 结束
7
对例，我们采用欧氏距离分别用类平均法、 最短距离法、最长距离法把31个省市分类。 类平均法聚类在SPSS中的操作为：点选 “Analyze”→“Classify” →“Hierarchical Cluster”，打开Hierarchical Cluster Analysis对话框，将八个聚类指标选入 Variables栏中，将表示地区的变量选入 Label Cases By栏中，按“Plots”按钮，在 弹出的窗口中选中Dendrogram（谱系图） 选项，按“Continue”返回主对话框，在按 “Method”按钮，在Cluster Method下拉菜 单中选择Between-groups linkage（组间 连接法，即类平均法）选项，返回主对话 框后按“OK”即可得到聚类结果。
将原始数据录入SPSS，并依次点击“Analyze”→ “Correlate” →“Bivariate”，打开Bivariate Correlations对话框，把八个变量选入Variables 栏中，单击“OK”，得到这八个指标对应的相关系 数，列于表3.16。
2015/7/23
中国人民大学六西格玛质量管理研究中心
2015/7/23
中国人民大学六西格玛质量管理研究中心
目录 上页 下页 返回 结束
2
(5) 在系统聚类法中底下有四个按纽，分别是Statistics、Plots、 Method、Save。 （a）在Statistics中，有Agglomeration schedule（每一阶段聚类 的结果），Proximity matrix（样品间的相似性矩阵）。由Cluster membership可以指定聚类的个数，none选项不指定聚类个数，Single solution指定一个确定类的个数，Range of solution指定类的个数 的范围（如从分3类到分5类）。 (b)在Plots中，有Dendrogram（谱系聚类图，也称树状聚类图）、 Icicle(冰柱图)、Orientation指冰柱图的方向（Horizontal 水平方 向、Vertical垂直方向）。 (c)在Method中， Cluster可以选择聚类方法，Measure中可以选择计 算的距离。 (d)在Save中，可以选择保存聚类结果。 选好每个选项后，点“OK”就可以执行了。
.因此:Entry<removal
– use F value:以F值作为变量进入(3.84)和剔除(2.71)方 程的标准
(四)save选项: 将回归分析结果保存到数据编辑窗口中或某磁盘文件中
2015/7/23
中国人民大学六西格玛质量管理研究中心
18
曲线回归基本操作步骤
(1)绘制散点图,观察并确定模型. (2)菜单选项: analyze->regression->curve estimation (3) 选择因变量到dependent框 (4) 选择自变量到independent框或选time以时 间作自变量 (5)选择模型 (R2最高拟和效果最好)
2015/7/23
中国人民大学六西格玛质量管理研究中心
目录 上页 下页 返回 结束
3
§社会经济案例研究
例 城镇居民消费水平通常用表3.15中的八项指标 来描述，八项指标间存在一定的线性相关。为研 究城镇居民的消费结构，需将相关性强的指标归 并到一起，这实际就是对指标聚类。原始数据列 于表3.15。
2015/7/23 13
中国人民大学六西格玛质量管理研究中心
(二) statistics选项 (1)基本统计量输出 – Estimates:默认.显示回归系数相关统计量. – confidence intervals:每个非标准化的回归系数95% 的置信区间. – Descriptive:各变量均值、标准差和相关系数单侧检 验概率. – Model fit:默认.判定系数、估计标准误差、方差分析 表、容忍度 (2)Residual框中的残差分析 – Durbin-waston:D-W值 – casewise diagnostic:异常值(奇异值)检测 (输出预测 值及残差和标准化残差)
§ 聚类分析SPSS上机实践
系统聚类法 用SPSS软件自带的数据文件World95.sav来做一 个实例分析。 为了研究亚洲国家的经济发展水平和文化教育水 平，以便于对亚洲国家进行分类研究，这里我们 进行聚类分析（在World95.sav数据中筛选出亚洲 国家，使用Data→Select Cases→If condition is satisfied中选入region=3）。 详细步骤如下： (1) 打开数据。使用菜单中File→Open命令，然后 选中要分析的数据World95.sav。
2015/7/23
中国人民大学六西格玛质量管理研究中心
16
(二) statistics选项 (1)基本统计量输出 – Part and partial correlation:与Y的简单相 关、偏相关和部分相关 – R square change:每个自变量进入方程后 R2及F值的变化量 – Collinearity dignostics:共线性诊断.
2015/7/23
中国人民大学六西格玛质量管理研究中心
目录 上页 下页 返回 结束
1
(2)在菜单中的选项中选择Analyze→Classify命令， Classify命令下有两个聚类分析命令，一是K-means cluster（K-均值聚类），二是Hierarchical cluster （系统聚类法）。这里我们选择系统聚类法。 (3) 在系统聚类法中，我们看到Cluster下有两个 选项，Cases（样品聚类或Q型聚类）和Variables (变量聚类或R型聚类)。这里我们选择对样品进行 聚类。 (4) Display下面有两个选项，分别是Statistics (统计量)、Plots（输出图形），我们可以选择所 需要输出的统计量和图形。
2015/7/23
中国人民大学六西格玛质量管理研究中心
19
其他选项 (1)display ANOVA table:方差分析表 (2)plot models:绘制观察值和预测值的对比图. (3)save选项: – predicted values:保存预测值. – Residual:保存残差值. – prediction interval:保存预测值的默认95%的可置信区间. – Predict case:以time作自变量进行预测.
直观看出，类平均法分为三类：｛1，9，11，19｝为第一类， ｛13，2，22，10｝为第二类，其他为第三类；最短距离法 分为两类，｛1，9，11，19｝为一类，其余的省市归为一大 类；最长距离法也分为三类：｛1，9，11，19｝为第一类， ｛10，22，2，13，26｝为第二类，其余的省市为第三类。 很显然，这三种方法的分类效果是有差异的。
2015/7/23
中国人民大学六西格玛质量管理研究中心
14
(三)plot选项:图形分析. • Standardize residual plots:绘制残差序列直 方图和累计概率图,检测残差的正态性 • 绘制指定序列的散点图,检测残差的随机性、异 方差性 – ZPRED:标准化预测值 – ZRESID:标准化残差 – SRESID:学生化残差 – produce all partial plot:绘制因变量和所有 自变量之间的散点图
2015/7/23
中国人民大学六西格玛质量管理研究中心
目录 上页 下页 返回 结束
6
上面介绍的几种系统聚类方法，并类的原则和步 骤基本一致，所不同的是类与类的距离有不同的 定义。其实可以把这几种方法统一起来，有利于 在计算机上灵活地选择更有意义的谱系图。
2015/7/23
中国人民大学六西格玛质量管理研究中心
2015/7/23
中国人民大学六西格玛质量管理研究中心
目录 上页 下页 返回 结束
9
那么究竟采用哪一种分类为好呢？一种方法是根据分类问题 本身的知识来决定取舍。另一种方法是将几种方法的共性取 出来，有争议的样品根据其实际情况再划分。综合考虑这两 点，笔者认为从全国各省、市、区的消费情况来看，分为三 类较为合适。 由分类结果可以看出，类平均法和最长距离法的分类结果基 本上一致，只是在西藏应该划入第二类还是第三类上存在差 异，从表3.15的实际情来看，西藏的经济发展和消费水平与 始终处在第二类的福建、天津、重庆和江苏有较大差距，因 此划入第三类较为合适，即这个聚类分析用类平均法较为合 适。
目录 上页 下页 返回 结束
4
2015/7/23
中国人民大学六西格玛质量管理研究中心
目录 上页 下页 返回 结束
5
表3.16中最大的相关系数为r4，8＝0.837，将G4和G8并成一新类G9，然后 计算G9与各类的相关系数，再找最大的相关系数，每次缩小一类得图3－ 17。 我们可以看出全国城镇居民得消费结构大致可以分为三个方面，一类是各 种副食、日用品及交通通信、文化教育和住房等支出，这是在消费结构中 起主导作用的方面；其次是居民购买烟、酒、饮料及着装支出；粮食和水 电燃料是两项很重要的消费指标，但目前在城镇居民的消费中占的比例较 小，可将它们归并为同一类。
2015/7/23
中国人民大学六西格玛质量管理研究中心
15
多元回归基本操作步骤
(1)菜单选项: analyze->regression->linear… (2)选择一个变量为因变量进入dependent框 (3)选择一个或多个变量为自变量进入independent 框 (4)选择多元回归分析的自变量筛选方法: – enter:所选变量全部进入回归方程(默认方法) – remove:从回归方程中剔除变量 – stepwise:逐步筛选；backward:向后筛选； forward:向前筛选 (5)对样本进行筛选(selection variable) – 利用满足一定条件的样本数据进行回归分析 (6)指定作图时各数据点的标志变量(case labels)