量表的信度与效度分析计算
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
编码员间信度π = (π o - π e)/(1 - π e)
π o：观测到的一致性或叫实际一致性（用霍斯提公式计算） π e：纯粹由于偶然性而造成的一致性或叫期望一致性
（等于每个类别出现的相对频率的平方和）
3、等价性分析--编码者间信度的计算公式
• 利用霍斯特公式计算时，一般信度在90%或以上 • 利用史考特公式计算时，信度大都是75%或以上
3、等价性分析
A 当使用两种不同的量表去测量同一概念时，这
两种量表是否等价？
方法：在同一时段中，让同一组被访者接受两种量表 的测试；计算两组得分之间的相关，用于评价信度
B 当两个评分者（或编码员）判断同一现象时， 评价结果是否一致？
方法：计算两个评分者评分之间的相关；或计算两个 编码员编码结果一致的比例，用于评价信度
三、信度评价
从三个方面来分析测量的信度
• 稳定性 (stability) • 内在一致性 (internal consistency) • 等价性 (equivalency)
1、稳定性分析 也叫做测验--再测验法
目的： 考察对于同样的问答题（或测试） 对同一组被访者或受测试者 前后两次测量的结果是否基本一致
3、等价性分析 • 前一种应用A比较少见（构造等价的量表非 常困难） • 后一种应用B比较常见，也称为
评分者内在信度
(inter-rater reliability)
编码员间信度
(inter-coder reliability)
3、等价性分析 在内容分析中，要评价编码员间信度
编码：将分析单位（如单词、符号、主题等） 置于各种内容类别中
2、内在一致性分析
目的：检验多项目量表中各个项目的一致性
可信的量表的项目必须具有内在一致性
2、内在一致性分析 方法之一：折半法
(split-half technique)
• 将量表中的项目分成两半 • 计算这两部分的总得分的相关系数rh
如果量表具有较高的内在一致性 那么这两部分应该是高度相关的
2、内在一致性分析 方法之一：折半法
优点：计算简单、易于操作 缺点：信度的大小可能与编码时所用的类别的数目有关
类别的数目越少，由于偶然性而造成一致的可能性就越大
编码问题都是两个类别时，随机的编码也可能有50%的信度 在五个类别的情况，随机的编码就只可能有20%左右的信度
3、等价性分析--编码者间信度的计算公式 史考特(Scott)指数
(split-half technique) 优点：不需要重复的测量 常用分法：按项目号的前后顺序分
或按项目号的奇偶性分 计算公式：
ru = 2rh / (1 + rh)
2、内在一致性分析 方法之一：折半法
(split-half technique) 注意：需先将量表中的反意题作逆向处理
再分别计算两部分的总得分 前提假设：两半题项得分方差大致相等
一、信度（reliability）定义
若重复进行测量，产生相同结果的准确程度 测量的可靠性、稳定性和预测性 测量的精确度
• 反复测量结果的稳定性或一致性可能很高 • 但却可能是不准确的
用零点没有调整在中心的秤来测量重量 采用有明显导向性的问答题组成的量表测量态度
二、效度（validity）定义 • 所测量的是不是研究者所想要的
• 在多大程度上给出了他/她所想要的
例如，研究者希望测量电视广告的传播效果
目的：了解广告能否引起目标消费群的购买欲望
消费者的购物决策是否与观看的电视广告相关 如果：最终测得的不是广告对消费者购物决策的影响
而主要是消费者对广告艺术感染力的评价 结论：所用量表是无效的或是效度很低的
wenku.baidu.com
• 信度高时效度不一定高 • 但效度高时信度一定高
考察编码员内(intra-coder)信度时
• 让同一个编码员在不同的时间内对同一个资料编码两次 • 然后借助以上公式计算编码-再编码信度
将上式中对应两个编码员的数据， 改为同一编码员的两次数据
例 在一项少儿电视节目内容分析的编码表中，两个编码员 分别同时独立地将100个少儿节目分配到如下三个类别中：1、 单本剧 2、连续剧 3、系列剧。已知编码不一致的节目 共计8个；这三个类别的节目数分别占30%、45%和25%。试 分别利用霍斯提和史考特公式，评价这两个编码员编码的等 价性。
1、稳定性分析 方法： 用“再测信度”来测量稳定性 再测信度：两次测量结果间的相关系数
相关系数越接近 1，表示稳定性越好
1、稳定性分析 缺点：
一般应用中很难真正实现（人力、财力、时间） 再测信度的应用有局限性 • 第一次的测量可能会影响到第二次（信度偏高）
• 两次测量间客观的情况可能有变化（信度偏低）
α 信度系数是评估量表内部一致性的比较常用系数
2、内在一致性分析 方法之三：平均相关系数法 缺点：偏重于项目之间的相关
而不是整个量表的信度 项目越多，平均相关系数就可能越高 提高信度的方法之一： 增加量表中的测量项目
因为各个项目的随机误差可能会相互抵消
2、内在一致性分析 小结： • 信度的高低既依赖于项目的内在一致性 • 也依赖于量表的长度 因此： • 一方面尽量设计内在相关性更高的项目 • 另一方面也可以考虑适当增加项目的数量
否则可能会低估信度系数
2、内在一致性分析
方法之二：alpha信度系数法
克朗巴哈提出用α 系数来测量累加量表的信度
α = K (1 - Σ σ i2/σ T2)/(K-1)
K
量表中题（项目）的总数
σ
2 i
第i个题（项目）得分的题内方差
Σ
σ
2 i
K个题项的方差之和
σ
2 T
总得分（所有题项得分之和）的方差
不同的编码者独立地编码 如果能得到比较一致的结果 则信度较高
3、等价性分析--编码者间信度的计算公式 霍斯提(Holsti)公式
假定两个编码员分别同时做了m1和m2个 单位的编码，其中一致的编码数为m，则
编码者间信度 = 2m / (m1 + m2)
3、等价性分析--编码者间信度的计算公式
霍斯提(Holsti)公式
解： m1= m2 =100, m = 100-8 = 92 霍斯提信度
= 2m/(m1 + m2)=2(92)/(100+100)=0.92 π o = 0.92, π e = (0.30)2+(0.45)2+(0.25)2=0.355
π o：观测到的一致性或叫实际一致性（用霍斯提公式计算） π e：纯粹由于偶然性而造成的一致性或叫期望一致性
（等于每个类别出现的相对频率的平方和）
3、等价性分析--编码者间信度的计算公式
• 利用霍斯特公式计算时，一般信度在90%或以上 • 利用史考特公式计算时，信度大都是75%或以上
3、等价性分析
A 当使用两种不同的量表去测量同一概念时，这
两种量表是否等价？
方法：在同一时段中，让同一组被访者接受两种量表 的测试；计算两组得分之间的相关，用于评价信度
B 当两个评分者（或编码员）判断同一现象时， 评价结果是否一致？
方法：计算两个评分者评分之间的相关；或计算两个 编码员编码结果一致的比例，用于评价信度
三、信度评价
从三个方面来分析测量的信度
• 稳定性 (stability) • 内在一致性 (internal consistency) • 等价性 (equivalency)
1、稳定性分析 也叫做测验--再测验法
目的： 考察对于同样的问答题（或测试） 对同一组被访者或受测试者 前后两次测量的结果是否基本一致
3、等价性分析 • 前一种应用A比较少见（构造等价的量表非 常困难） • 后一种应用B比较常见，也称为
评分者内在信度
(inter-rater reliability)
编码员间信度
(inter-coder reliability)
3、等价性分析 在内容分析中，要评价编码员间信度
编码：将分析单位（如单词、符号、主题等） 置于各种内容类别中
2、内在一致性分析
目的：检验多项目量表中各个项目的一致性
可信的量表的项目必须具有内在一致性
2、内在一致性分析 方法之一：折半法
(split-half technique)
• 将量表中的项目分成两半 • 计算这两部分的总得分的相关系数rh
如果量表具有较高的内在一致性 那么这两部分应该是高度相关的
2、内在一致性分析 方法之一：折半法
优点：计算简单、易于操作 缺点：信度的大小可能与编码时所用的类别的数目有关
类别的数目越少，由于偶然性而造成一致的可能性就越大
编码问题都是两个类别时，随机的编码也可能有50%的信度 在五个类别的情况，随机的编码就只可能有20%左右的信度
3、等价性分析--编码者间信度的计算公式 史考特(Scott)指数
(split-half technique) 优点：不需要重复的测量 常用分法：按项目号的前后顺序分
或按项目号的奇偶性分 计算公式：
ru = 2rh / (1 + rh)
2、内在一致性分析 方法之一：折半法
(split-half technique) 注意：需先将量表中的反意题作逆向处理
再分别计算两部分的总得分 前提假设：两半题项得分方差大致相等
一、信度（reliability）定义
若重复进行测量，产生相同结果的准确程度 测量的可靠性、稳定性和预测性 测量的精确度
• 反复测量结果的稳定性或一致性可能很高 • 但却可能是不准确的
用零点没有调整在中心的秤来测量重量 采用有明显导向性的问答题组成的量表测量态度
二、效度（validity）定义 • 所测量的是不是研究者所想要的
• 在多大程度上给出了他/她所想要的
例如，研究者希望测量电视广告的传播效果
目的：了解广告能否引起目标消费群的购买欲望
消费者的购物决策是否与观看的电视广告相关 如果：最终测得的不是广告对消费者购物决策的影响
而主要是消费者对广告艺术感染力的评价 结论：所用量表是无效的或是效度很低的
wenku.baidu.com
• 信度高时效度不一定高 • 但效度高时信度一定高
考察编码员内(intra-coder)信度时
• 让同一个编码员在不同的时间内对同一个资料编码两次 • 然后借助以上公式计算编码-再编码信度
将上式中对应两个编码员的数据， 改为同一编码员的两次数据
例 在一项少儿电视节目内容分析的编码表中，两个编码员 分别同时独立地将100个少儿节目分配到如下三个类别中：1、 单本剧 2、连续剧 3、系列剧。已知编码不一致的节目 共计8个；这三个类别的节目数分别占30%、45%和25%。试 分别利用霍斯提和史考特公式，评价这两个编码员编码的等 价性。
1、稳定性分析 方法： 用“再测信度”来测量稳定性 再测信度：两次测量结果间的相关系数
相关系数越接近 1，表示稳定性越好
1、稳定性分析 缺点：
一般应用中很难真正实现（人力、财力、时间） 再测信度的应用有局限性 • 第一次的测量可能会影响到第二次（信度偏高）
• 两次测量间客观的情况可能有变化（信度偏低）
α 信度系数是评估量表内部一致性的比较常用系数
2、内在一致性分析 方法之三：平均相关系数法 缺点：偏重于项目之间的相关
而不是整个量表的信度 项目越多，平均相关系数就可能越高 提高信度的方法之一： 增加量表中的测量项目
因为各个项目的随机误差可能会相互抵消
2、内在一致性分析 小结： • 信度的高低既依赖于项目的内在一致性 • 也依赖于量表的长度 因此： • 一方面尽量设计内在相关性更高的项目 • 另一方面也可以考虑适当增加项目的数量
否则可能会低估信度系数
2、内在一致性分析
方法之二：alpha信度系数法
克朗巴哈提出用α 系数来测量累加量表的信度
α = K (1 - Σ σ i2/σ T2)/(K-1)
K
量表中题（项目）的总数
σ
2 i
第i个题（项目）得分的题内方差
Σ
σ
2 i
K个题项的方差之和
σ
2 T
总得分（所有题项得分之和）的方差
不同的编码者独立地编码 如果能得到比较一致的结果 则信度较高
3、等价性分析--编码者间信度的计算公式 霍斯提(Holsti)公式
假定两个编码员分别同时做了m1和m2个 单位的编码，其中一致的编码数为m，则
编码者间信度 = 2m / (m1 + m2)
3、等价性分析--编码者间信度的计算公式
霍斯提(Holsti)公式
解： m1= m2 =100, m = 100-8 = 92 霍斯提信度
= 2m/(m1 + m2)=2(92)/(100+100)=0.92 π o = 0.92, π e = (0.30)2+(0.45)2+(0.25)2=0.355