因果推理 · 5/6
设计小实验:先定规则再看结果
写出可执行的分配、指标、观察期和停止条件。
约 15–20 分钟。以下为虚构教学情境。
先记录你的判断
团队想比较两种邮件标题,让老客户收到 A、新客户收到 B;每天查看打开率,只要 B 更高就停止。这样的试验公平吗?
理解判断过程
标题与客户类型绑定,无法区分差异来自哪一个。可以在新老客户各自内部随机分配 A 或 B,再按预先规定的方法合并结果。随机化使组间在期望上可比,不保证小样本中每项特征完全相同。
先确定一个主要结果、最小有用差异和观察期。比如按送达人数计算七天内点击率,另监测退订率。打开率可能受邮件客户端影响;选择指标时应说明它与真实目标的关系。
每天看到有利差异就提前宣告胜利,会改变误报风险。正式检验需要事先确定分析方案,或使用合适的序贯方法。低风险小试验可以先判断流程可行性,但不能把极小样本的领先当作稳健效果。
记录分配、实际接收、交叉使用与缺失。按原分配分析通常回答“分配这个方案”的效果;只挑实际使用者重新比较可能破坏随机化。安全或明显损害可触发预定停止规则,但停止后要如实报告。
可执行的检查步骤
- 说明谁参与、随机分配单位及是否分层。
- 一次明确主要干预差异,控制或记录其他变化。
- 预定主要指标、观察期、分析方法和必要样本依据。
- 列出损害监测、停止与回退规则,报告所有分配者。
引导练习
把标题实验改写成五句话:分配、主要指标、观察期、停止规则、结论边界。
查看参考解析
新老客户内分别随机分配标题;主要指标为送达后七天点击率;等待预定样本和随访完成;明显退订异常按事先阈值停止并报告;小试验首先验证流程,效果结论需考虑估计区间及业务意义。七天是本例选择,不是通用规定。
换个场景独立应用
练习者想一天听音乐学习、一天安静学习来判断哪种更好。还要注意什么?
完成后对照参考
材料难度、时间段、顺序、疲劳和前一天学习的残留影响。可以重复并随机安排条件,使用难度相近材料及统一延迟测验;个人结果不能自动推广到别人。
保留修正记录
这里教授设计思路,不提供通用样本量;样本需求取决于变异、目标差异和分析方案。
自查:是否写了可检查的依据、可行的下一步和修改条件?点击解析不代表掌握。
来源与适用边界
NIST/SEMATECH — General design principles
研究提供概念或方法背景;上述案例、操作步骤和练习由本站编写,不是原研究实验,也未验证本课程的教学效果。
完成标记是个人记录,不代表掌握或认证。