你做了一場業務培訓,培訓後銷售額漲了 12%。你拿著這個數據匯報「培訓效果顯著」。
主管問:同期行銷部搞了一個促銷活動,你怎麼證明這 12% 是培訓的功勞而不是促銷的?
你啞口無言。
這就是培訓評估中最棘手的問題——歸因。後測分數提高了、業務指標變好了,到底是培訓的功勞,還是其他因素的干擾?對比組設計就是解決這個問題的方法。
對比組設計的邏輯
邏輯很簡單:找兩組人,一組參加培訓(實驗組),一組不參加(對照組)。兩組在培訓前後的指標都測量。實驗組的變化減去對照組的變化,差值就是培訓的淨效果。
這個邏輯之所以成立,是因為它排除了「時間推移」和「其他干預」的影響。如果對照組同期銷售額也漲了 8%,實驗組漲了 12%,那培訓的淨貢獻就是 4 個百分點——而不是 12 個百分點。
這個公式叫做「雙重差分」(Difference-in-Differences)。實驗組的變化 (A₂−A₁) 包含了培訓效果+時間效應+其他干預效果。對照組的變化 (B₂−B₁) 包含了時間效應+其他干預效果但不含培訓效果。兩者相減,就把培訓效果單獨提取出來了。
對照組怎麼選
對比組設計的關鍵不是公式,是對照組的品質。如果實驗組和對照組在培訓前就不一樣,對比結果就沒有意義。
選擇對照組有三個原則:
1. 基線匹配。兩組在培訓前的關鍵指標應該基本持平。你不能拿一個精英團隊做實驗組、一個新組建的團隊做對照組——培訓前兩組的業務能力就不一樣,後面的差異無法歸因到培訓。
2. 環境相似。兩組面對的市場環境、管理方式、資源條件應該盡量一致。如果實驗組在A區域、對照組在B區域,兩個區域的市場環境差異很大,對比結果就不乾淨。
3. 不能互相影響。實驗組的學員不應該把培訓內容「傳染」給對照組——這叫「污染」。如果實驗組把培訓資料分享給了對照組的同事,對照組也學到了,對比就失效了。
實操建議:最乾淨的對照組是不同區域或不同部門的平行團隊。比如對北區業務做培訓,用南區業務做對照——兩個區域業務結構相似但人員不重疊,污染風險低。如果找不到完美的對照組,「不等價但可用」也比「沒有對照組」強。用統計方法(如傾向得分匹配)可以部分修正基線差異。
什麼時候用對比組設計
對比組設計不是每次培訓都做的。它有成本——需要找對照組、需要管理兩組的資料採集、需要更複雜的分析。適合用對比組的場景:
- 投入大的重點培訓專案——值得花精力做嚴格評估
- 跟核心業務指標直接相關的培訓——業務、生產、客服等可量化崗位
- 首次引入的新培訓模式——需要驗證效果決定是否推廣
- 需要向管理層證明因果關係的場合——管理層明確質疑「怎麼證明是培訓的效果」
不適合用對比組的場景:入職培訓(沒有合適的對照組)、小規模培訓(樣本量太小沒統計意義)、純知識類培訓(L2 前後測已經夠用,不需要做到 L4)。
實操中的挑戰和應對
挑戰一:業務部門不讓人做對照組。
「憑什麼他們能培訓我們不能?」這是最常見的阻力。應對方法:告訴業務部門對照組會在下一期培訓中優先安排。不是「不給你培訓」,是「你先做基線,下一期你先來」。
挑戰二:對照組的人自己學了。
實驗組分享培訓資料、對照組自己看書學習——這都會導致污染。應對方法:跟實驗組明確約定不外傳培訓資料,培訓評估週期盡量短(4-8 週內完成,減少自然學習的影響)。
挑戰三:樣本量太小。
每組少於 15 人,統計檢定力不夠——即使有差異也可能不顯著。應對方法:如果實在找不到足夠的對照組,可以放寬匹配條件,用統計方法修正差異。或者把多期培訓的數據彙總分析。
對比組設計還有一個額外的好處:如果對照組在培訓前的指標跟實驗組持平,但培訓後差距拉大了——這個對比本身就是給管理層看的最有力的「培訓效果證明」。一張兩組前後對比的折線圖,比任何滿意度分數都有說服力。當管理層看到「參加了培訓的那組明顯比沒參加的那組好」時,他們不需要你解釋什麼柯氏四級,圖表自己會說話。
如果做不到完美的對比組怎麼辦
現實中很難做到完美的隨機對照實驗。但「準實驗設計」(quasi-experiment)總比「沒有對照」強。幾個退而求其次的方法:
歷史對照:用去年同期同類團隊的數據做對照。前提是今年的業務環境跟去年大致相似。優點是不需要安排對照組,缺點是無法控制環境差異。
自我對照:同一個人培訓前後的指標變化跟另一個非培訓相關的指標變化做對比。比如業務培訓後銷售額漲了 12%,但同期該員工的客戶拜訪量沒變——說明銷售額提升不是因為他更勤奮了,而是因為技巧提升了(培訓效果)。
這些方法不如真正的對比組設計嚴謹,但在管理層眼裡比「只有後測沒有對照」的數據可信得多。
🛠️ 在 FormLM 裡支援對比組評估
對比組設計的資料採集可以用 FormLM 來實現:
- 用量表評估同時給實驗組和對照組發前測和後測,數據自動按組別分類
- 用數據匯出匯出 Excel,用統計軟體做雙重差分分析
- 用Insight 前後測對比分別查看實驗組和對照組的變化趨勢
- 用AI 報告分別為兩組生成評估報告,對比差異
✅ 核心要點
- 對比組設計的核心:實驗組變化 - 對照組變化 = 培訓淨效果(雙重差分)
- 對照組選擇三原則:基線匹配、環境相似、不能互相影響(防污染)
- 不是每次培訓都做對比組——適合投入大、跟核心KPI相關、需要驗證推廣的專案
- 業務部門阻力可透過「下一期優先安排」來化解
- 做不到完美對比組時,歷史對照和自我對照也比沒有對照強
- 兩組前後對比的折線圖是給管理層看的最有力的培訓效果證明
