Q001、逻辑回归与线性回归的区别？

在国内的大多数金融机构内，已经很少看到使用线性回归模型来做评分卡的了。目前用的最多的还是以逻辑回归模型，当然，基于机器学习的评分模型也越来越得到市场的认可。

线性回归的一般表示方法如下：

其中,\(p(x_i)\)表示在第\(i\)个样本违约的概率。

因为概率值介于0-1之间，很明显线性回归不满足这个要求。

关于逻辑回归的叙述，见我的另一篇文章《逻辑回归——牛顿法矩阵实现方式》，文中顺便给出了梯度下降求解的方法。

Q002、逻辑回归的目标函数是什么？

Q003、逻辑回归对不平衡样本是否敏感？

Q004、有哪些最优分箱的方法？

Q005、逻辑回归的结果如何检验？

Q006、为什么需要进行WOE转换？

对于建模样本中某个特征X，假设经过WOE转换后，共计有K个分箱。即

现在对WoE进行改写，

当然，上述变式还有其他方法。根据改变后的WoE，我们可以看到，WoE与逻辑函数之间是线性关系，这就说明，经过WoE转换后的特征，特别适合用于逻辑回归模型。

另外需要说明的是，在建模样本与总体样本分布一致的情况下，根据建模样本或者总体样本计算的WoE几乎没有差别。

假设好样本是原来的10倍，坏样本样本量不变，则

但是，当某个特征在建模样本和全样本上分布差异比较大的时候，根据建模样本计算出来的WoE对于总体样本的代表性较差，此处建议根据全样本计算WoE，然后代入模型计算。

Q007、有哪些通用的数据预处理方案？

Q008、如何进行概率转评分？

逻辑回归的结果是一个类似于概率的位于(0,1)之间的实数，在实践中，我们需要将概率转化为分数。那么，到底有哪些评分转换的方式呢？

考虑下面一个简单的逻辑回归评分卡：

对如下几个样本计算得分：

一、直接进行线性转换

将逻辑回归的结果乘以一个固定的系数，如期望的分数区间落于(300-800)之间，并且分数越高，客户资质越好，则对应的转换公式为：

各样本得分如下表：

二、指定违约概率的转换

在实际业务中，我们希望客户的评分呈现正态分布，而逻辑回归的结果，是个概率值，根据逻辑函数的图像可知，概率值不可能是正态的。

另一方面，我们总是希望评分是可加的，即总分是由各个分项的子分相加得来的，概率值显然不具有这样的特性。

此外，我们还希望评分具有稳定性，即某个分数段对应的违约率应该是固定的，这样有利于风控策略的制定。同时，还要求分数每下降固定数值，违约率呈现指数递增的趋势。

也就是说，最好是评分与\(ln(odds)\)具有线性关系。

即：

现在我们做出如下假设：

(1)500分对应好坏比为10:1

(2)评分每增加50分，好坏比增加一倍，即令PDO=50

分别将500分和550分代入上式

解得：

可得评分计算公式：

由于这里我们约定Pr是坏客户的概率，即：

代入上述评分转换公式：

可以得到如下评分卡：

上述几个样本的得分如下：

表格中，Score_Ori是计算出的原始分数，可以看出分数有正有负。一个比较合理的调整方案是，将常数项的分数，平均分配到每个得分中。这里一共有3个变量，则将408均分到三个变量上，使每个变量都变成正数。

全为正数的得分更加符合人的逻辑，同时也方便部署。

三、指定分数区间的转换

第二种转换方式，得到的评分区间不总是固定的，如果想要评分固定在某个区间内，则可以稍作调整。

已知变量取值经过WoE转换以后，值是有限的，因此，得到的评分，也一定是有限的。我们假设评分介于300-850之间，即

根据上一节可知：

则：

同理，

代入评分转换公式：

解得：

可以得到如下评分卡：

上述几个样本的得分如下：

四、总结

上述三种方法，均是比较常用的评分转换方式。其中，方法二和方法三比较常用于信用分的转换，方法一常用于欺诈分的转换。上述几个方法各有优劣，主要表现为：

(1)方法一直接使用概率的线性转换，简单明了，但是转换后的分数不符合正态分布，会在高分段大规模集中，不符合业务上的直觉。

(2)方法二是目前最常用的转换方式，对于采用同一基准和PDO的分数，可以直接进行对比。但是方法二无法保证评分落在某个固定区间。

(3)方法三保证了评分介于一个固定的区间，但是模型迭代以后，相同评分对应的违约率不同，相应的策略可能需要调整。

值得说明的是，上述三种方法，评分的排序是一致的，即评分在总体中的位置是不变的。

综上，本文建议使用方法二。

Q009、如何评价评分卡好坏？

All models are wrong, but some are useful.
——George E. P. Box

正如英国统计学家George E. P. Box所言，所有的模型都是错误的，但有一些很有用。这句话，用在信用评分领域最好不过了。对于信用评分的开发者来说，我们的目的不是找一个预测率百分比的模型，当然，这样的模型也找不到。而是找一个有用的模型，能够有效的区分出高风险客群和低风险客群。银行等金融机构就是经营风险的，在平衡风险的过程中获利。

那么，什么样的模型才是有用的模型呢？

在实践中，我们经常使用KS统计量来衡量模型的区分度，并且总是以自己的KS高于竞争对手而感到自豪。KS统计量是基于经验累积概率分布函数计算出来的，在同一个图中，绘制出好客户和坏客户的经验累积概率分布函数，两条曲线之间的最大差值，即是KS统计量。

上述为某机构申请评分模型的全样本KS表现，在580-600这个分数区间内，KS达到最大值60%。在实践中，很多同学对于KS抱有疑问，主要表现为以下几点：

(1)cut-off是否应该切在KS所在区间？

(2)KS是否越大越好？

下面，我们一个一个来解答。

对于问题一，KS是用来衡量模型的最大区分能力，而具体cut-off的确定，还需要策略的同学进行分析后确定。在进行cut-off确定的时候，我们要同时考虑核准率和不良率，并且辅之以提升度进行分析确定。

上表为各个分数区间的指标统计。如果在KS最大处拒绝，此时的核准率为77.11%，拒绝样本违约率为10.43%，通过样本的违约率为0.71%。相比于不使用评分卡时的违约率2.93%，使用评分卡后违约率大幅降低。

但是需要注意的是，金融机构的最终目标是收益，如果不良率在可控范围内，可以适当提高风险容忍度。比如此时把540分以下的拒绝，此时的核准率为90.54%，那么拒绝样本的违约率为18.24%，通过样本的违约率为1.33%。相对于不使用评分卡，违约率降低了一半以上，而通过客户数却没有显著的损耗。

我们还可以根据提升度进行cut-off切分，比如Lift大于6的客群，全部拒绝，此时拒绝线在540分；Lift介于2-6之间的转人工或者走其他通道复核，那么540-660分之间的客户可以这样处理；对于Lift小于2的客群，可以直接通过，此时区间内的违约率已经降至1%以内，远低于2.93%的平均违约率。

单从风险的角度进行切分是不全面的，必要的时候，还可以结合收益测算，划分最佳切分点。

针对问题二，在一定范围内，KS越大越好，但是一般KS不宜超过70%。否则一方面模型可能有点问题，另一方面，不利于cut-off的确定。

下面，我们绘制出好客户和坏客户的概率密度函数。

从上图可以看出，此评分不仅具有较高的KS，而且好坏样本十分接近正态分布，从统计的角度而言，该模型表现优异。

图中KS曲线的极值点落在好坏客户的概率密度曲线交叉的地方。在极值点左边，坏客户的概率密度总是高于好客户的，因此KS曲线不断上升。在极值点右边，坏客户的概率密度低于好客户，KS逐渐下降。因此，如果要KS达到较大的值，需要将两个概率密度曲线的交点向下压。这就意味着，好坏客户的分布，偏度会增大，而不是接近于正态分布了。

Q010、IV值可以怎么理解？

Q011、逻辑回归的系数怎么检验？

Q012、评分卡对回归系数有要求吗？

一、回归系数应通过\(Wald\)检验

二、除常数项外，回归系数同号

三、回归系数绝对值不应太小

Q013、什么是逻辑回归的正则化？

Q014、逻辑回归评分卡的稳定性如何评估？

逻辑回归评分卡100问——基于申请评分卡