满意度能作为社会服务效果评价指标吗?
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
满意度能作为社会服务效果评价指标吗?作者:刘江顾东辉肖梦希
来源:《华东理工大学学报(社会科学版)》2022年第01期
[摘要] 滿意度因其容易被理解、方便操作而成为政府购买社会服务领域被广泛使用的效果评价指标之一。
但是其主观倾向性、自评异质性,以及其与社会服务效果之间的逻辑联系,又对满意度作为效果评价指标提出了挑战:满意度能作为社会服务效果评价指标吗?为回应这一问题,本研究以N市一项为期3年的社区自治服务项目为案例,通过严格的问卷设计和样本抽取,综合使用潜在类别分析(latent class analysis)和回归分析处理数据。
数据分析结果显示:(1)满意度在不同特质的人之间具有较强的稳定性;(2)满意度与社会服务的主观效果之间
具有显著正向联系,可以被主观效果有效预测;(3)满意度与社会服务的客观效果之间不具有显著性联系,无法被客观效果有效预测。
统计结果说明,满意度作为社会服务的效果指标具有条件性限制。
在实务工作中,满意度可以用来代替社会服务的主观效果,但是不能用来代替社会服务的客观效果。
研究结果为满意度作为效果指标的运用设定了限制性条件,可以减少该领域内满意度被滥用的现象。
[关键词] 满意度社会服务评估效果评估社会服务
[基金项目] 本文系国家社会科学基金重大项目“中国特色社会工作制度体系研究”(编号:19ZDA144)、国家社会科学基金青年项目“新时代社会工作服务的赋权评估实践体系研究”(编号:21CSH065)的阶段性成果。
[作者简介] 刘江,南京理工大学公共事务学院讲师,研究方向为社会工作评估研究、社会工作理论、社会工作量化分析;顾东辉,复旦大学社会发展与公共政策学院教授、博士生导师,研究方向为社会工作理论、中国特色社会工作;肖梦希,江苏省科学技术情报研究所助理研究员,研究方向为科技评估。
[中图分类号] C916
[文献标识码] A
[文章编号] 1008-7672(2022)01-0001-14
一、问题提出
受我国政府购买社会服务纵深发展之影响,针对社会服务的评估已经从单纯地重视过程转向过程与效果并重。
就社会服务效果评估而言,研究者们从评估设计①②、评估方法③④、评估内容⑤⑥等角度进行研究。
在评估实践中,受评估成本、评估技术、评估手段的限制(如严谨的前后测、指标开发、统计建模等),内容简单、操作便捷的服务对象满意度成为实务工作者和第三方评估者评价社会服务效果的首选工具。
一般而言,评估领域的满意度通常有两种测量方法。
一种是整体满意度,也即通过询问服务对象单一的问题来测量其对社会服务的主观感受。
另一种是针对服务过程和内容的满意度,也即要求服务对象从服务的可及性、连续性、工作者服务能力、服务环境、服务结果等方面进行满意度评价。
后一种测量方法催生出许多满意度量表,比如CSQ-8⑦、SSS-15⑧、PSQ-
18⑨、SPRI⑩。
虽然两种测量方法在内容和形式上差异较大,但是二者本质上同为服务对象根据接受服务的主观经历(或经验)进行评价。
当前,我国社会服务评估最常用的是整体满意度测量方法。
实务工作者或评估者通常会询问服务对象对机构提供的服务总体上是否满意,回答选项通常包括非常不满意、比较不满意、一般、比较满意、非常满意。
作为社会服务效果评价指标,满意度面临两个重要的困境。
首先,作为一种主观评价,满意度通常源自个人接受服务的体验,是对服务的期望与实际情况之间做出的比较。
①②③这种比较又会因服务对象个人特质、所属群体、所在地域等因素而存在差异。
因为这些差异,不同的服务对象可能会对同一个回答选项具有完全不同的认知和理解,这通常被叫作“自评异质性”。
④⑤当出现这种现象时,不同服务对象提供的满意度评价结果在多大程度上能够体现出服务的真实状况就会遭到怀疑。
因此,满意度在不同群体之间的稳定性就成为其作为效果评价指标的第一个困境。
其次,从社会服务效果评估的角度来看,效果评估就是确定干预(服务)是否在实践意义上产生了预期效果。
这个界定至少包含两层含义。
其一,服务预期的效果是否达到?其二,在控制或排除其他干扰因素的情况下,干预(服务)与预期效果之间是否存在因果关系?基于这两点,服务对象根据自身接受服务的体验所做的主观评价,满意度高不一定是“治疗效果好”的同义词。
⑥因此,服务预期效果与满意度之间是否存在正相关关系就成为其作为效果评价指标的第二个困境。
本研究旨在借助政府购买社会服务项目对该议题展开研究。
本研究将分以下几个步骤完成:(1)指出满意度作为效果评价指标面临的困境;(2)以政府购买社会服务项目为研究对象收集数据,并进行统计分析;(3)总结和讨论统计分析结果,并对未来研究和评估实务提出有关建议。
二、文献回顾
(一)满意度的测量困境
满意度这一概念最早由Cardozo于1965年提出,通常用于描述一种针对社会、行为健康等方面项目是否成功的实用且有效的指标。
⑦关于满意度的理论内涵,刘芳等将其归纳为三种模式,分别是:对比模式(contrast model)、同化模式(assimilation model)、同化—对比整合模式(integrated assimilation-contrast model)。
⑧其中,对比模式是理解满意度比较普遍且容易被理解的理论模式。
在这一模式中,服务对象对服务的期望与服务的真实情况之间的比较构成满意度的核心内容。
①一些学者将满意度视为服务对象的一种心理状态(psychological state),并且这种心理状态源自服务对象对服务的主观期待和所感知的服务效果之间的主观比较。
②③总体来说,满意度同时具有认知和情感两个要素。
就认知而言,它是服务对象对服务内容、服务过程和服务效果的认知及其所做出的评估;而情感则反映了服务对象在多大程度上喜欢或者不喜欢所接受的服务。
④
从做出满意度抉择的微观心理机制角度来看,服务对象通常会根据自己对满意度的理解从记忆中搜寻与项目(或服务)有关的碎片化信息(比如接受服务的感觉、服务人员工作态度、服务人员工作技巧等)来进行回答。
这些碎片化的信息通常是服务对象感知最为深刻的内容。
这可能导致服务对象将服务效果的评价等同于其所感知的内容,而不是服务的真实效果。
此外,受服务情境的影响,服务对象通常会报告偏高的满意度(属于明显的回答偏误)。
这可能源自服务对象对服务提供者表示感谢,而非忠于服务的真实情况;也可能源自服务对象受到服
务情境中他人(包括服务提供者、资方等)施加的压力;还可能源自服务对象对未来是否可以继续接受服务的考虑。
⑤⑥不论是服务对象根据所接受的服务而产生的认知要素、情感要素,还是其最终做出选择的微观心理机制,都体现出满意度的主观倾向性。
从影响满意度的外在因素来看,年龄是最具效力的影响因素,相较于年轻的服务对象,年龄大的服务对象通常呈现出较高的满意度。
⑦就性别而言,相较于男性,女性呈现出较高的满意度⑧,但是也有研究显示,男性更容易呈现较高的满意度⑨。
就受教育程度而言,受教育程度低的服务对象比受教育程度高的服务对象更容易呈现出较高的满意度。
①当研究者们得出这类比较性研究结果时,本质上隐含的一个前提是“满意度”(如非常满意)对所有服务对象而言都代表着同样的水平(同样的满意度认知状况)。
因此,我们所观测到的自评结果在不同群体间是可比较的,即群间可比性。
②但是,满意度的主观倾向性导致其具有较强的自评异质性,也即由于每个人打分时的评判原则或标准不同,因而使得人们给出的评分相互之间的可比性会存在一定问题。
以上这些因素都可能导致满意度在不同群体间缺乏稳定性。
(二)满意度作为效果评价指标的逻辑困境
满意度与服务质量管理(quality management)密切联系在一起。
传统的评估实务通常过于强调评估结果的客观性,进而过于强调第三方评估的角色。
服务对象通常被屏蔽于评估环节之外。
但是,针对服务质量好坏的评估如果只考虑服务的提供者和评估者,那么可能导致评估结果出现偏差。
③从质量管理的角度来看,满意度是评估社会服务质量的核心要素,是社会服务质量管理的基石,与服务对象的健康状况、生命质量等有重要联系。
④因此,进行质量评价必须充分考虑服务对象的需求、偏好及其接受服务的主观体验。
⑤较高的满意度通常被视为衡量服务组织服务质量好坏的重要标准。
⑥正是基于这些因素,许多服务机构(或组织)都尝试使用满意度来评价服务质量,甚至直接将其作为评价服务效果的重要指标。
作为评价服务质量好坏的重要指标,满意度的优势在于其对社会服务各个层次(包括个体层次的改变、项目管理、项目传递等)的质量具有高度敏感性,有助于服务提供者提升服务质量和服务效果。
⑦但是,服务质量与服务效果之间存在本质上的差别。
服务效果超越了简单的主观好坏评价,效果评估就是确定干预(服务)是否在实践意义上产生了预期效果。
⑧由此,理解服务效果的关键是在排除其他干扰因素的情况下,确定服务与其对象的特定状况之间的因果联系。
然而,较高的满意度可能源自受他人社会赞许之影响,也可能源自服务对象期望的实现,而非源自服务的实际效果或服务对象需求的满足。
①因此,较高的满意度并不一定是“治疗效果好”的同义词。
②即便满意度高低可以说明服务质量好壞,也无法直接说明服务效果如何。
既然满意度不能直接说明服务效果如何,那么二者之间存在何种逻辑关系呢?对于满意度与服务效果之间的关系,我们可以从测量的角度来理解。
在实际研究和运用中,满意度通常可以从过程(process)和结果(outcome)两个角度来进行测量。
作为一个过程,满意度可以对服务结果产生影响;作为一种结果,满意度受到诸多因素的影响。
③Pendleton指出,满意度是
介于服务和服务结果之间的重要变量。
④而John等将满意度视为服务效果的前置性变量。
⑤满意度可以作为预测服务对象关于服务态度和行为的变量。
遵循这些思路,满意度评价服务效果的核心逻辑是:那些对服务感到满意的服务对象,会继续接受服务进而获益;而那些对服务感到不满意的服务对象,通常会停止接受服务而无法从服务中获益。
⑥根据上述逻辑,满意度与服务效果之间是一种间接关系。
这种间接关系导致其作为服务评价指标的逻辑变得更加模糊。
满意度与服务效果之间的因果机制难以获得有效说明。
这进一步导致满意度作为社会服务效果评价指标存在着较强的随机性。
这种随机性打破了作为效果评价指标的满意度与真实服务效果之间一一对应的关系,进而降低其有效预测(或被预测)服务真实效果的可能性。
(三)研究推论
根据前述有关满意度的测量困境和作为效果评价指标的逻辑困境,本研究提出推论:
推论1:受个人特质等差异之影响,满意度会在不同的服务对象之间存在差异。
推论2:受逻辑模糊性的影响,满意度无法有效预测(或被预测)服务的真实效果。
三、研究设计与方法
(一)研究设计和案例选择标准
1. 满意度测量困境的应对策略
本研究认为,我们可以从以下两个方面来回应满意度测量中的自评异质性和逻辑困境。
首先,在进行研究设计时,我们应该充分考虑满意度自评异质性的特征。
一般而言,满意度报告存在差异源自服务对象对服务实际情况的感知。
而服务对象的感知又随个人特质(如性别、年龄、受教育程度、宗教信仰等)而变化。
要检验满意度是否具有稳定性,就需要对这些影响感知的个人特质进行有效处理。
也即在研究过程中,一是要确保研究对象在人口学特征变量上具有多样性,保证研究对象包括不同年龄、不同性别、不同教育背景的人,二是检验满意度是否随不同特征的变化而变化,进而确定满意度在不同人群(或个体)间的稳定性。
其次,在进行研究设计时,我们应该充分考虑社会服务效果评估的逻辑。
由于“满意度高”不是“治疗效果好”的同义词,且与真实服务效果之间的关系存在随机性,因此需要检验满意度能否或者在多大程度上能够被真实的服务效果所预测。
在研究过程中,一是要确保服务对象所参与的社会服务产生了特定的效果,二是检验满意度能否被真实的服务效果所预测。
2. 案例标准及选择
根据前述应对策略,本研究使用如下标准选择案例:第一,所选案例能够检验满意度在不同特征的服务对象之间的稳定性,因此本研究需选择一个服务对象多、服务对象异质性高的案例。
第二,所选案例能够检验满意度与服务效果之间的联系。
由于社会服务效果通常包含主观效果与客观效果,因此需要选择一个能顺利完成并产生某种主观和客观效果的案例。
根据上述标准,本研究最终选择一项政府购买并落地基层社区的社会服务项目。
该项目是东部地区N 市W社区的居民自治项目。
该项目由专业的社会组织——H社会工作服务中心——执行(项目逻辑见文章第四部分)。
从影响满意度的外在因素来看,年龄是最具效力的影响因素,相较于年轻的服务对象,年龄大的服务对象通常呈现出较高的满意度。
⑦就性别而言,相较于男性,女性呈现出较高的满意度⑧,但是也有研究显示,男性更容易呈现较高的满意度⑨。
就受教育程度而言,受教育程度低的服务对象比受教育程度高的服务对象更容易呈现出较高的满意度。
①当研究者们得出这类比较性研究结果时,本质上隐含的一个前提是“满意度”(如非常满意)对所有服务对象而言都代表着同样的水平(同样的满意度认知状况)。
因此,我们所观测到的自评结果在不同群体间是可比较的,即群间可比性。
②但是,满意度的主观倾向性导致其具有较强的自评异质性,也即由于每个人打分时的评判原则或标准不同,因而使得人们给出的评分相互之间的可比性会存在一定问题。
以上这些因素都可能导致满意度在不同群体间缺乏稳定性。
(二)满意度作为效果评价指标的逻辑困境
满意度与服务质量管理(quality management)密切联系在一起。
传统的评估实务通常过于强调评估结果的客观性,进而过于强调第三方评估的角色。
服务对象通常被屏蔽于评估环节之外。
但是,针对服务质量好坏的评估如果只考虑服务的提供者和评估者,那么可能导致评估结果出现偏差。
③从质量管理的角度来看,满意度是评估社会服务质量的核心要素,是社会服务质量管理的基石,与服务对象的健康状况、生命质量等有重要联系。
④因此,进行质量评价必须充分考虑服务对象的需求、偏好及其接受服务的主观体验。
⑤较高的满意度通常被视为衡量服务组织服务质量好坏的重要标准。
⑥正是基于这些因素,许多服务机构(或组织)都尝试使用满意度来评价服务质量,甚至直接将其作为评价服务效果的重要指标。
作为评价服务质量好坏的重要指标,满意度的优势在于其对社会服务各个层次(包括个体层次的改变、项目管理、项目传递等)的质量具有高度敏感性,有助于服务提供者提升服务质量和服务效果。
⑦但是,服务质量与服务效果之间存在本质上的差别。
服务效果超越了简单的主观好坏评价,效果评估就是确定干预(服务)是否在实践意义上产生了预期效果。
⑧由此,理解服务效果的关键是在排除其他干扰因素的情况下,确定服务与其对象的特定状况之间的因果联系。
然而,较高的满意度可能源自受他人社会赞许之影响,也可能源自服务对象期望的实现,而非源自服务的实际效果或服务对象需求的满足。
①因此,较高的满意度并不一定是“治疗效果好”的同义词。
②即便满意度高低可以说明服务质量好坏,也无法直接说明服务效果如何。
既然满意度不能直接说明服务效果如何,那么二者之间存在何种逻辑关系呢?对于满意度与服务效果之间的关系,我们可以从测量的角度来理解。
在实际研究和运用中,满意度通常可以从过程(process)和结果(outcome)两个角度来进行测量。
作为一个过程,满意度可以对服务结果产生影响;作为一种结果,满意度受到诸多因素的影响。
③Pendleton指出,满意度是介于服务和服务结果之间的重要变量。
④而John等将满意度视为服务效果的前置性变量。
⑤满意度可以作为预测服务对象关于服务态度和行为的变量。
遵循这些思路,满意度评价服务效果的核心逻辑是:那些对服务感到满意的服务对象,会继续接受服务进而获益;而那些对服务感到不满意的服务对象,通常会停止接受服务而无法从服务中获益。
⑥根据上述逻辑,满意度与服务效果之间是一种间接关系。
这种间接关系导致其作为服务评价指标的逻辑变得更加模糊。
满意度与服务效果之间的因果机制难以获得有效说明。
这进一步导致满意度作为社会服务效果评价指标存在着较强的随机性。
这种随机性打破了作为效果评价指标的满意度与真实服务效果之间一一对应的关系,进而降低其有效预测(或被预测)服务真实效果的可能性。
(三)研究推论
根据前述有关满意度的测量困境和作为效果评价指标的逻辑困境,本研究提出推论:
推论1:受个人特质等差异之影响,满意度会在不同的服务对象之间存在差异。
推論2:受逻辑模糊性的影响,满意度无法有效预测(或被预测)服务的真实效果。
三、研究设计与方法
(一)研究设计和案例选择标准
1. 满意度测量困境的应对策略
本研究认为,我们可以从以下两个方面来回应满意度测量中的自评异质性和逻辑困境。
首先,在进行研究设计时,我们应该充分考虑满意度自评异质性的特征。
一般而言,满意度报告存在差异源自服务对象对服务实际情况的感知。
而服务对象的感知又随个人特质(如性别、年龄、受教育程度、宗教信仰等)而变化。
要检验满意度是否具有稳定性,就需要对这些影响感知的个人特质进行有效处理。
也即在研究过程中,一是要确保研究对象在人口学特征变量上具有多样性,保证研究对象包括不同年龄、不同性别、不同教育背景的人,二是检验满意度是否随不同特征的变化而变化,进而确定满意度在不同人群(或个体)间的稳定性。
其次,在进行研究设计时,我们应该充分考虑社会服务效果评估的逻辑。
由于“满意度高”不是“治疗效果好”的同义词,且与真实服务效果之间的关系存在随机性,因此需要检验满意度
能否或者在多大程度上能够被真实的服务效果所预测。
在研究过程中,一是要确保服务对象所参与的社会服务产生了特定的效果,二是检验满意度能否被真实的服务效果所预测。
2. 案例标准及选择
根据前述应对策略,本研究使用如下标准选择案例:第一,所选案例能够检验满意度在不同特征的服务对象之间的稳定性,因此本研究需选择一个服务对象多、服务对象异质性高的案例。
第二,所选案例能够检验满意度与服务效果之间的联系。
由于社会服务效果通常包含主观效果与客观效果,因此需要选择一个能顺利完成并产生某种主观和客观效果的案例。
根据上述标准,本研究最终选择一项政府购买并落地基层社区的社会服务项目。
该项目是东部地区N 市W社区的居民自治项目。
该项目由专业的社会组织——H社会工作服务中心——执行(项目逻辑见文章第四部分)。
从影响满意度的外在因素来看,年龄是最具效力的影响因素,相较于年轻的服务对象,年龄大的服务对象通常呈现出较高的满意度。
⑦就性别而言,相较于男性,女性呈现出较高的满意度⑧,但是也有研究显示,男性更容易呈现较高的满意度⑨。
就受教育程度而言,受教育程度低的服务对象比受教育程度高的服务对象更容易呈现出较高的满意度。
①当研究者们得出这类比较性研究结果时,本质上隐含的一个前提是“满意度”(如非常满意)对所有服务对象而言都代表着同样的水平(同样的满意度认知状况)。
因此,我们所观测到的自评结果在不同群体间是可比较的,即群间可比性。
②但是,满意度的主观倾向性导致其具有较强的自评异质性,也即由于每个人打分时的评判原则或标准不同,因而使得人们给出的评分相互之间的可比性会存在一定问题。
以上这些因素都可能导致满意度在不同群体间缺乏稳定性。
(二)满意度作为效果评价指标的逻辑困境
满意度与服务质量管理(quality management)密切联系在一起。
传统的评估实务通常过于强调评估结果的客观性,进而过于强调第三方评估的角色。
服务对象通常被屏蔽于评估环节之外。
但是,针对服务质量好坏的评估如果只考虑服务的提供者和评估者,那么可能导致评估结果出现偏差。
③从质量管理的角度来看,满意度是评估社会服务质量的核心要素,是社会服务质量管理的基石,与服务对象的健康状况、生命质量等有重要联系。
④因此,进行质量评价必须充分考虑服务对象的需求、偏好及其接受服务的主观体验。
⑤较高的满意度通常被视为衡量服务组织服务质量好坏的重要标准。
⑥正是基于这些因素,许多服务机构(或组织)都尝试使用满意度来评价服务质量,甚至直接将其作为评价服务效果的重要指标。
作为评价服务质量好坏的重要指标,满意度的优势在于其对社会服务各个层次(包括个体层次的改变、项目管理、项目传递等)的质量具有高度敏感性,有助于服务提供者提升服务质量和服务效果。
⑦但是,服务质量与服务效果之间存在本质上的差别。
服务效果超越了简单的主观好坏评价,效果评估就是确定干预(服务)是否在实践意义上产生了预期效果。
⑧由此,理解服务效果的关键是在排除其他干扰因素的情况下,确定服务与其对象的特定状况之间的因。