本节书摘来自异步社区《提高转化率!网页A/B测试与多变量测试实战指南》一书中的第1章,第1.3节,作者【英】Colin McFarland,更多章节内容可以访问云栖社区“异步社区”公众号查看
1.3 创建测试计划
现在,可能你已经对优化测试多多少少有一些想法了,不过先别忙着测试。在投入优化测试之前,我们一定要先明确自己想要通过优化测试达到什么目的。现在让我们来讨论一下如何创建一个测试计划,包含测试目标、情景设想以及测试结果。
1.3.1 测试目标
目标单一简明的优化测试效果是最好的,一个目标对应一个成果,这个成果可以明确地告诉你这次测试效果是好是坏,还是没什么
差别。
不过大多数时候我们都会发现现实没那么简单。许多公司都有一个以上的关键绩效指标(KPI)。那么你需要关注的,首先是转化率、平均订单价值(AOV)这些首要目标,其次还有注册、评价和顶一下的数量。对于每项测试,你都需要关注对这些KPI产生的影响。
每次测试都设立一个能够界定测试成败的简明目标非常重要,这个目标需要考虑到每项KPI对收益的影响。这也就意味着我们终归要在这些首要和次要的KPI之间作出权衡,最终将测试价值统一起来。还有一点至关重要,此时我们考虑的不是仅仅几天的收获,而是针对长期价值的长远目标。
我们可以对不同的测试设立不同的目标,重要的是要确保每一项测试对应的目标都正确无误。确定了在未来测试中如何界定成功的方法,你也就可以公平地度量每项测试了。
目标范例
简明目标(理想):提升预订,增加需求量,增加注册量。
复杂目标(现实):增加订单量及AOV,或在不损失超过1%订单量的前提下将AOV提高10%。
现在你已经清楚了解了自己要达成的目标是什么,接下来让我们继续讨论如何创建情景设想。
1.3.2 情景设想
情景设想是指你认为你在优化测试中会见到什么。你会希望找到特定变因与特定结果之间的联系,无论变因是已存现象在还是仅仅出于假设,也无论成果影响是正面还是负面。在你搭建情景设想时,你需要为你的计划找一些证明:“如果我们观察X,它将会证明这一变因与那个结果之间必然存在某种联系”。
情景设想,是指我们尝试性地进行推测,以便通过逻辑判断或主观经验挖掘及测试获知行为结果。
——韦氏词典
如果你希望提升优化“马马虎虎”的内容,保护表现优秀的内容,又或者是找到那些没用的内容(以便把它换成有用之物),情景设想都可以支持你达成测试目标。
优化与提升
我们做测试的目的很可能主要是想提升网站效果,销售更多的商品、预订更多的坐席、获得更多的订阅者,总之是促成各种提升。
优化与提升也恰恰是优化测试诞生的目的,而且,毫无疑问,优化与提升也是测试工作的核心。当你的测试工作日臻成熟,优化与提升甚至将成为你工作的全部焦点。
保护与留存
提升效果是好事,但是还有一项同样重要却常常被忽视的工作,就是即使在糟糕的设计选择下也能保护好你现有的东西,使之不蒙受损失。
设计选择不尽如人意是常有的事,测试依旧是鉴别新变更是否反而招致不良影响的唯一方法。
当你经过测试发现一些东西失败了,那么你可以转而看看留存下来的是什么。但是如果你连测试都没有做过,你只能对此一无所知。
没有影响
这种情况是用于证明某些东西并不具有什么商业价值或其他可度量的价值,简而言之,它们对你的网站无关紧要,有它没它对于你的盈亏线而言无关痛痒。
如果这些东西针对你相应测试的情景设想反映出无关紧要的结果,你需要反思一下它是否真的具有价值。这种测试尤其适用于验证那些既劳民伤财又耗时的功能是否必要。
通过测试减少徒劳无益的东西,有助于给未来的创意释放空间,将精力放在真正增加价值的地方,这样甚至可能为你节省不少时间与花销。
情景设想欠佳引起的机会浪费
对无法得出清晰的成果,又无法获得对未来测试有价值的经验的内容进行优化测试,这就是在浪费机会。因此一定要集中精力找到为你的业务带来真实价值的有用方案,避免无用的测试。
看电影的代价是多少?
如果我告诉你电影放映的时间恰好是你学生会竞选最终答辩的时间,而且你还在竞选中保有并列第一的佳绩,你会如何回答上面这个问题?
显然,你失去的东西就是成本。
Seth Godin:《Opportunity Costs》(《机会成本》),发布于sethgodin.typepad. com
你的情景设想在描述中最好能从字面上体现出例如“优化与提升”、“保护与留存”或者“没有影响”的字样,这样能够迫使你集中精力,避免徒劳的测试,拒绝个人偏好,而且万一高管人员兴起之下提出意义不明的设想建议,你也可以藉此回绝。
请记住,你能够测试任何创意方案,但并不意味着你需要这样做。总有更好的优化测试值得去做。
1.3.3 测试成果
在筹谋你的测试计划时,一定也要将成果部分计划进去。你心中要一直明确实施优胜结果所需的条件,并且还要知晓如何在一切就绪时实现它。
通过这种方法,可以让你着重致力于自己有能力影响到的优化变更上,而不是辛苦得出测试成果后才突然发现,因为某些原因(法律、公司等等)这些优胜成果无法实现。
▲ 对于任何测试,都需要建立简明清晰的评判标准来界定其是否成功。
▲ 通过测试进行优化与提高、保护与留存或者了解哪些东西无关紧要。
▲ 将精力放在自己有能力掌控后续变更的测试上。