“ZZHRmary”的帖子《公司的培训效果评估是怎么做的呢?》中,我很简单地说到了:“一般都是采用Kirkpatrick的四层次理论、Phillips的五级六指标和Swanson & Holton的结果评价体系,对反应层、学习层、行为层、结果层进行评估的。”后,“jinchengsdu”提及:“能不能来个具体的案例 大家讨论一下了?”看到这个问题,想了一下,培训评估还真不是一个案例就能说明的。常诚有关培训开发的第一帖,从Phillips的“五级六指标”模型开始。嘿嘿!
先简单说一下,培训开发的流程一般是:对培训进行需求分析(确定需求优先级)→进行培训项目设计(设定目标、课程开发、资料获取、选择培训师、选择培训技术、培训计划日程)→培训项目实施→效果评估(确定评估标准、设计评估方案、实施评估、结果分析与反馈)。从这个流程上,大家都看到培训评估是流程的最后一步,导致很多人很容易把这一步看作是培训完成后才需要做的事情。这样的理解是不对的。
需求分析:指明了“为啥做”和“做啥”的方向;
设计与实施:解决了“做到啥程度”和“怎么做”的过程;
培训评估:回答的是“做得怎样”的问题,也就是对当初为啥搞培训的出发点和初衷进行验证,对培训实施的过程进行跟踪,对培训后产生的成果进行衡量测量。
所以,培训效果评估是贯穿于整个培训的循环中的,而不是等到培训搞完了才来评估。
一、Phillips的“五级评估六类指标”模型
评估级别及相关数据的种类
|
数据的重点
|
数据用途概述
|
第一级:反应和/或满意度,以及所计划的行动
|
培训项目、培训人员和评选结果可能将如何得到应用
|
1.衡量相关人员对培训项目的主观看法,主要是学员对培训项目和对培训人员的反应和满意度 2.它也许还可以衡量另一个维度:学员参加培训后所指的的行动计划,即学员如何实施新的要求、项目或流程,或他们将如何运用新知识和新技能 3.有关反应的信息可用来改善培训的内容、设计和实施流程 4.制订行动计划的过程有助于促成培训成果向工作环境的转移 5.有关行动计划的信息可以用来决定将来评估的重点,并用来对比实际结果和当初的计划
|
第二级:学习结果
|
重点在学员及有利于学习的支持性机制
|
1.衡量学员在多大程度上掌握了培训中的内容:所期望的态度、知识、技术、流程等 2.对学习的衡量要比获得反应的信息难,要采用客观的衡量方法,衡量指标要能够量化 3.衡量获得的信息用来判断学员对学习内容的理解和吸收程度 4.衡量获得的信息还可以用来改进培训项目的内容设计和实施流程
|
第三级:工作中的应用和/或实施
|
重点在学员、工作环境和有助于学习内容得以应用的支持性机制
|
1.衡量学员在工作中行为的变化,包括培训中所学知识和技术在实际工作中的应用 2.评估信息可以提供有关培训内容在工作环境中是否得到应用以及使用的频率和效果 3.探寻培训内容有效的条件;若有效,如何在其他环境条件下重复应用 4.探寻阻碍培训内容应用有效性的原因,以便能够有针对性地对培训项目加以改进,或者促进其他培训项目的发起和实施
|
第四级:对业务的影响
|
重点在培训对组织绩效所产生的影响
|
1.评估目的在于确定培训对于改进组织绩效所产生的影响或效果,并于组织的期望值进行对比 2.评估产生的主观数据包括顾客的满意度增加、员工的敬业度提高、顾客的保留率提高、对顾客反应时间缩短等 3.评估产生的客观数据包括成本的节省、产出的增加、时间的节省或质量的改进等 4.获得业务影响效果信息的方式有:培训前后分别收集数据,对通过培训引起的业务绩效的改进情况(或没有改进)进行分析,将培训的结果和适当的业务指标联系起来
|
第五级:投资回报率(ROI)
|
重点在于培训所产生的用货币形式来体现的收益
|
1.本级评估关注的是相对于培训成本,培训产生的业务效果所带来的用货币形式体现的价值,并进一步计算ROI 2.ROI可以用投资回报的价值或成本收益的比例(%)来表示 3.ROI衡量了培训项目对实现组织目标的贡献大小,显示了培训项目的真正价值 4.由培训产生的业务指标的改进所带来的ROI不一定都是正值
|
无形收益
|
重点在于用非货币形式体现的因素来衡量培训的价值
|
1.无形收益数据是指不能或不应该转换成货币价值的数据 2.无形收益数据与数据的重要性无关,它所指的是数据缺少客观性和无法转化成用货币形式来体现价值;或者有时将某些数据转化成货币形式来体现价值的代价太高昂 3.无形数据常常是培训所产生的正面影响的体现,但又无法用货币形式来衡量其价值的大小 4.在培训所产生的业务效果无法用货币形式来衡量时,它就无法与培训成本相比较,也就无法确定其ROI,因此,无形收益必须以非货币形式另列一类 5.有时管理层和利益相关者满足于无形收益的数据 6.培训对业务效果所产生影响的主观数据一般属于无形收益,如顾客满意度、员工敬业度、客户保留率、员工保留率等 7.培训对业务流程中所产生的影响的主观数据也属于无形收益,如组织承诺的增加、团队合作的改进、客户服务的改善、冲突的减少、压力的减轻等
|
Phillips对培训效果评估的贡献是:
1.在Kirkpatrick的四层次理论基础上将第四层次进一步量化形成了第五个层次(第五级)的评估概念ROI,将培训的结果转变成货币价值。
2.创建了无形收益作为第六类指标,使定性化的主观信息成为评估的必要组成部分。
3.明确提出了在制订效果评估策略时,应首先确定评估的级别(层次),并据此收集相关的数据资讯,包括“硬数据”和“软数据”。
4.培训评估并不一定需要覆盖全部的级别,应根据评估目的的进行部分或全部评估。
5.设计了效果评估的“十步骤”来指导评估活动的具体实施如图:
下面部分就是以“十步骤”来说明这“五级六指标法”
二、Phillips的“五级评估六类指标”模型具体应用
1、设定培训目标,确定效果评估的基础
(1)以结果为导向确定培训评估的框架
确定以结果为导向的效果评估框架是“五级六指标”流程的第一步,目的在于确定培训项目的效果领域和具体业务指标,并网每一项指标设定目标期望值,使培训目标与组织目标高度契合。以结果为导向的评估框架,揭示了效果评估贯穿于整个培训过程的作用点(如图):
阶段A:对组织、任务和个人层次上的培训需求加以确认,更重要的是对每一需求是否满足的评价进行分级,根据培训需求的层次决定相应的效果评估等级,制定评估策略和计划。
阶段B:从培训方案设计开始到实施培训方案,在此过程中要进行一级(满意度/反应,行动计划)和二级(学习结果)评估,并且根据评估策略和计划收集相应的数据以供更高级别评估之用。
阶段C:对项目的跟踪评估。在设定的时间周期内进行三级(应用/实施)、四级(业务影响)、五级(投资回报率)和/或无形收益的评估。
(2)制定每一级培训效果评估的目标
总体目标的制定上有ASTD法、人力资源指标法等,这里不详细说了,详细说说培训项目具体目标的制定:采用Phillips的“五级评估六类指标”设定培训项目的目标,如下工作表:
评估目标的级别
|
目标的关注点
|
一级:对培训的反应/满意度
|
规定培训实施后,学员对培训的满意度和反应的程度
|
二级:学习结果
|
规定学员应该从培训中获得的知识和所需技能的提高程度
|
三级:培训的应用/实施
|
规定培训结束后,学到的知识和技能被应用到工作环境中时,必须实现怎样的行为变化
|
四级:培训对业务的影响
|
规定培训结束后,业务指标将发生怎样的变化和改善
|
五级:培训的投资回报率
|
规定比较成本和收益,实施培训项目所带来的投资回报率
|
无形收益
|
规定无法转化成货币价值的四级指标作为无形收益
|
1).反应/满意度目标的制定
作为最为基础的目标,一级培训目标反映了学员对项目的喜欢程度,体现了是否在培训中建立双赢关系,这对取得更高级培训效果至关重要。因此,学员对培训活动的反应应该是正面的,至少也不应该是负面的。
2).学习目标的制定
学习目标既能够帮助学员明确学习的内容和成绩要求,又为评估学习效果设定了标准,以下内容可作为设定学习目标时参考:
目的:衡量知识和技能的掌握程度
|
最好的学习目标:
1.描述可观察到的和可衡量的行为
2.以结果为导向,描述清楚、具体
3.具体说明学员在培训之后的应知应会应做
4.包含三个元素:
行为—在培训结束时,学员将能够做什么
条件—在什么情况下学员才能完成任务
标准—有效地完成认为必须要达到的程度或水平
三种类型的学习目标:
1.认知—熟悉术语、概念和流程
2.知识—对概念和流程的理解
3.行为—技能的展现水平(至少具备基本水平)
举例:
1.能够辨别和理解6个领导力模型和理论
2.在给定的19个客户访问场景中,以100%的正确率来启动客户拜访程序(应用正确的步骤)
|
3).应用/实施目标的制定
这目标是学习目标的延伸,反映的是从培训中学到的知识和技能在实际工作中的应用,同时为评估员工在工作中的行为变化和绩效改变提供了标准。以下内容可以供设定这个目标使参考:
目的:衡量知识和技能在工作中的应用程度
|
最好的应用/实施目标:
1.描述可观察到的和可衡量的行为
2.以结果为导向,描述清楚、具体
3. 具体说明学员在培训之后应该做出哪些改变(行为和绩效)
4.包含三个元素:
行为—在培训结束后的一个具体跟踪时间周期内,学员产生了哪些改变,或取得了哪些成绩
条件—在什么情况下学员才能完成任务
标准—有效地完成认为必须要达到的程度或水平
两种类型的应用/实施目标:
1.基于知识层面的目标:对概念、流程的一般理解
2.基于行为层面的目标:技能的展现水平(至少具备基本水平)
需要回答的主要问题:
1.在工作中将应用什么样的新知识
2.应用技能的频率是怎样的
3.将完成什么样的新任务
4.将采取什么样的新措施
5.将采取什么样的新行动
6.将实施什么样的新程序
7.将实施什么样的新方针
8.将实施什么样的新流程
举例:
1.在每个客户访问的场景中,应用开启拜访的正确步骤
2.确定小组成员中谁在客户拜佛过程中表现出缺乏信心,以便在应用过程中为他们提供辅导
|
4).业务影响目标的制定
这个目标是所有利益相关者对培训“成果”的期望所在,是衡量学员是否将培训中所学知识和技能应用到实际工作中而带来行为和绩效变化的关键步骤,也是对知识掌握(二级目标)和应用/实施(三级目标)的进一步验证。以下内容可以供设定这个目标时参考:
目的:衡量应用知识和技能对业务产生的影响
|
最好的业务影响目标:
1.衡量指标必须与培训中所教授的知识和技能相关
2.描述的衡量指标容易收集
3.以结果为导向,描述清楚、具体
4.详细说明培训结束后,学员在业务部门中应取得怎样的成果
四种有硬性数据的业务影响目标:
产出、质量、成本、时间
三种普通的带有软性数据的业务影响目标:
1.客户服务(响应速度、准时交货、完好性等)
2.工作环境(员工保留、员工抱怨、不公平待遇等)
3.工作习惯(怠工、缺勤、违反安全条例等)
举例:
1.在一年内,将员工流失率从30%降低到15%
2.在半年内,将缺勤率从周平均10%降低到5%
|
5).投资回报率目标的制定
具体计算办法:将培训获得的价值(用货币形式表示的净收益)与投入的资源(培训总成本)相比较。即:ROI=(培训净收益÷培训总成本)×100%
2、确定评估计划和基础数据
评估计划包括数据收集计划和分析计划,而数据必须包括客观的可衡量数据和主观的描述性数据。
(1)基础数据的分类
数据分为硬数据和软数据,分别举例:
硬数据:
产出
|
成本
|
时间
|
质量
|
生产的单件产品数
制造完成的重量
组装的零件数
回收的货款
出售的零件数
完成的表格数
放出的贷款额
库存周转率
来访的病人数
处理完的申请数
毕业的学生数
完成的工作任务
每小时的产出
预定的工作量
奖励分红金额
出货量
开发的新客户
|
预算变化
单位成本
可变成本
固定成本
一般管理成本
运营成本
成本减少
项目成本
项目成本节约
事故成本
销售费用
|
设备停机时间
加班时间
出货时间周期
项目完工时间
监管的时间
新员工的试用期
培训时间
会议日程
维修时间
工作中断时间
订单响应时间
报告延迟时间
|
废料的比例
废品率
客户拒收率
订单出错率
返工率
顾客投诉率
缺料率
与标准的偏差
生产故障率
事故数量
|
软数据:
工作习惯
|
感觉/态度
|
新技能
|
进步/改善
|
工作氛围
|
主动性
|
缺勤
|
工作主动性
|
倾听
|
工作效率的提高
|
不公平待遇的数量
|
新想法的实施
|
怠工
|
工作态度
|
阅读速度
|
加薪次数
|
员工抱怨
|
项目的圆满完成
|
超额休息
|
工作责任心
|
应用新技能的意向
|
参加培训次数
|
工作满意度
|
提交的建议数量
|
违反安全条例
|
积极工作行为
|
使用新技能的频率
|
业绩考评等级
|
员工流失
|
落实的建议数量
|
沟通故障
|
员工敬业度
|
做决定的次数
|
工作效率的提高
|
诉讼案件
|
工作成就
|
员工士气
|
解决的问题
避免的冲突
心理咨询问题
|
|
|
明确工作目的和设计业绩指标
|
(2)数据收集计划
举例:以销售培训为例
项目:互动式销售技巧培训 责任人: 日期:
|
级别
|
广义的项目目标
|
衡量指标
|
数据收集
|
数据来源
|
时间
|
责任人
|
一
|
反应/满意度 ★肯定性反应 ★建议改进的内容 ★要采取的行动
|
*在1至5数值范围内,质量、实用性、培训目标完成状况的平均值至少要达到4.7 *行动计划的提交率达到100%
|
反应问卷
|
学员
|
回顶部
|