策略的主观评估就是从用户的视角看当前策略产品中有哪些问题，从而指导我们后续的优化

badcase，是互联网产品行业非常流行的一个术语，尤其是搜索、推荐策略产品领域经常会涉及到对badcase处理。一个case是指某个场景下线上的一个具体实例。比如搜索场景下，case就是指用户发起一次搜索产生的搜索结果；推荐场景下则是给到某个用户的推荐结果。与功能类产品不同的是，对于策略产品而言，由于个性化因素的考量，线上数据的变化，导致其最终呈现的效果有很多的不确定性，也因此会产生预期之外的一些结果。所以，策略产品当中的case可以区分为goodcase和badcase。顾名思义，badcase就是“坏例”，主要是指由于机制缺陷导致一些给用户、商家、平台带来较差体验的事件。它和bug的区别就在于badcase影响的是产品体验层面，对用户使用当前产品，享受正常的产品服务没有太大的影响。也正是因为如此，包括我待过的公司，以及据身边很多同行的反馈，都缺少一个主动的、标准化的badcase处理流程。很多团队、PM对于badcase的处理还停留在发现一个问题，处理一个问题阶段，效率低到可怕。

策略不确定性

badcase为什么会主要在策略领域比较多，而在前端、功能类产品中比价少。这个其实本身是由策略产品的不确定性造成的。我们做一个功能，上一个页面，其实整个交付结果是确认无疑的，包括功能背后的交互流程，业务逻辑，到一个页面的布局，用色都不能出现像素级别的差距，有错误，那就是bug！但是策略就不一样了，它对应的结果通常是不确定的。比如搜索结果的排序，其背后是由很多策略模型共同作用决定的，比如价格模型，销量模型，转化预测模型等等。而且随着各种非规则，非约束类策略的应用，看起来就更像一个“黑盒”，源源不断的输出它的计算结果，很难定位到某个结果是由单一的策略导致的。所以，每当有人反馈说“我们上了低价模型策略，为啥有些价格低的物品在搜索结果中还是没有排在前面”，这个其实就是策略的一种不确定性，低价策略并不能保证所有价格低的物品都排序靠前，它更多的是一种保证业务生态健康的考量。

怎么办？

需要主动一点，及早的发现线上存在的不合理case，避免由badcase带来的用户体验伤害和业务指标影响，本身就值得建立一个评估的流程。当前，很多策略产品的团队发现badcase都来源于“第三方”反馈，商家，业务，运营，或者用户，当然最多的就是老板在群里各种反馈，缺少主动发现，发起自测的机制。首先，真正的badcase本身就是策略缺陷导致的，因此这是一个非常好的策略迭代优化的触发点，要比竞品分析、产品规划更具象，迭代速度和效果反馈更快。另外，仅仅接收第三方的反馈肯定是有一些局限性的。每方在反馈badcase的时候，都是基于各自的利益点阐述的，而策略产品则需要考虑的是整个大盘的方案。所以这个时候就需要有一个完整的策略评估机制，这就是我们今天要说的主观策略评估。策略的主观评估就是从用户的视角看当前策略产品中有哪些问题，问题的类型是什么样的，不同问题的占比是什么样的，从而指导我们后续的优化。那么如何完成一个完整的case的评测流程搭建？从字面意思来看，主观评估通常来说是由产品经理发起评估，若干相关的人员参与评测，那么评测结果中必然会带有每个人的主观判断。因此，为了保证结果的准确性，通常来说需要定义一个标准，也就是大家在定义一个case是goodcase还是badcase有一个统一的依据。所以在进行主观评估之前，评估标准的制定相当重要。

评测标准制定

评测标准是case评测的唯一依据，也是保证评测结果质量的关键所在。它就类似一部法规，用来帮助判断各种case是否为badcase，及其严重程度，因此在建立case评测流程之前，首先就需要制定一个评测标准。推荐和搜索都有对应的评估标准。以搜索case评测为例。通常badcase标准包含两个方向的内容：召回和排序。召回主要是规定判断召回结果与query的相关性的规则，一般分为精确相关，高相关，低相关，无关四种。排序主要是规定判断召回结果中排序的合理性的规则。通常排序会与物品的质量度挂钩，因此这块还需要定义物品的质量度。比如质量度高排序靠后，质量度低排序靠前等都可以定义为badcase。除了上述两大方面，还有很多细则需要单独进行定义，比如图片质量，标题质量等等。这里需要注意的是如同法律法规会有刑事，民事，行政，经济等分类，评测标准也需要按照不同的业务领域进行个性化定制。比如商品和药品，判别的标准就会有区别，所以需要单独制定对应的评测标准。

-END-