机器学习与金融风控项目篇-day04-卡方分箱案例与模型的可解释性

2024-10-25 07:08:52

案例-卡方分箱

数据集使用germancredit

  1. Toad 是专为工业界模型开发设计的Python工具包，特别针对评分卡的开发

  2. Toad 的功能覆盖了建模全流程，从EDA、特征工程、特征筛选到模型验证和评分卡转化

  3. Toad 的主要功能极大简化了建模中最重要最费时的流程，即特征筛选和分箱。

第一次使用toad，需要安装：

pip install toad==0.1.0 -i https://pypi.tuna.tsinghua.edu.cn/simple/

案例代码实现：

import pandas as pd
import numpy as np
import toad
​
data = pd.read_csv('../data/germancredit.csv')
data.replace({'good':0,'bad':1},inplace=True)
​
print(data.shape) # 1000 data and 20 features 
data.head()

显示结果

(1000, 21)

status.of.existing.checking.account duration.in.month credit.history purpose credit.amount savings.account.and.bonds present.employment.since installment.rate.in.percentage.of.disposable.income personal.status.and.sex other.debtors.or.guarantors ... property age.in.years other.installment.plans housing number.of.existing.credits.at.this.bank job number.of.people.being.liable.to.provide.maintenance.for telephone foreign.worker creditability
0 ... < 0 DM 6 critical account/ other credits existing (not ... radio/television 1169 unknown/ no savings account ... >= 7 years 4 male : single none ... real estate 67 none own 2 skilled employee / official 1 yes, registered under the customers name yes 0
1 0 <= ... < 200 DM 48 existing credits paid back duly till now radio/television 5951 ... < 100 DM 1 <= ... < 4 years 2 female : divorced/separated/married none ... real estate 22 none own 1 skilled employee / official 1 none yes 1
2 no checking account 12 critical account/ other credits existing (not ... education 2096 ... < 100 DM 4 <= ... < 7 years 2 male : single none ... real estate 49 none own 1 unskilled - resident 2 none yes 0
3 ... < 0 DM 42 existing credits paid back duly till now furniture/equipment 7882 ... < 100 DM 4 <= ... < 7 years 2 male : single guarantor ... building society savings agreement/ life insur... 45 none for free 1 skilled employee / official 2 none yes 0
4 ... < 0 DM 24 delay in paying off in the past car (new) 4870 ... < 100 DM 1 <= ... < 4 years 3 male : single none ... unknown / no property 53 none for free 2 skilled employee / official 2 none yes 1
数据字段说明

  1. Status of existing checking account（现有支票帐户的存款状态）

  2. Duration in month（持续月数）

  3. Credit history（信用历史记录）

  4. Purpose（申请目的）

  5. Credit amount（信用保证金额）

  6. Savings account/bonds（储蓄账户/债券金额）

  7. Present employment since（当前就业年限）

  8. Installment rate in percentage of disposable income（可支配收入占比）

  9. Personal status and gender（个人婚姻状态及性别）

  10. Other debtors / guarantors（其他债务人或担保人）

  11. Present residence since（当前居民年限）

  12. Property（财产）

  13. Age in years（年龄）

  14. Other installment plans （其他分期付款计划）

  15. Housing（房屋状况）

  16. Number of existing credits at this bank（在该银行已有的信用卡数）

  17. Job（工作性质）

  18. Number of people being liable to provide maintenance for（可提供维护人数）

  19. Telephone（是否留存电话）

  20. foreign worker（是否外国工人）

  21. creditability数据标签

数据预处理
import pandas as pd
import numpy as np
import toad
from toad.plot import bin_plot
import os
os.chdir(r'D:\CodeProject\05JRFK_Project\my_project\day04-分箱和编码')
os.getcwd()
​
data = pd.read_csv('../data/germancredit.csv')
​
# 替换标签列, 0 for good, 1 for bad
data.replace({'good':0,'bad':1},inplace=True)
​
print(data.shape) # 1000 data and 20 features 
data.head()
分箱入门
# 初始化一个combiner类
combiner = toad.transform.Combiner()
​
# 训练数据并指定分箱方法，其它参数可选  # min_samples: 每箱至少包含样本量，可以是数字或者占比
combiner.fit(data,y='creditability',method='chi',min_samples = 0.05)
​
# 以字典形式保存分箱结果
bins = combiner.export()
# 分箱调整方式:
# 1. n_bins : 指定箱数
# 2. update/set_rules API
bins        # 字典类型(所有列)
​
#查看分箱结果
print('duration.in.month:', bins['duration.in.month'])
# duration.in.month: [9, 12, 13, 16, 36, 45]
调整分箱绘图

bin_plot, 用来查看分箱结果是否可行, 箱数是否设置合理

评判方式: 看bin_plot图是否单调, 只有单调才具有可解释性

from toad.plot import bin_plot
c2 = toad.transform.Combiner()
c2.fit(data[['duration.in.month', 'creditability']], y='creditability', method='chi', n_bins=5)# 调整指定箱数调整分箱结果
transformed = c2.transform(data[['duration.in.month', 'creditability']], labels=True)
bin_plot(transformed, x='duration.in.month', target='creditability')
# bin_plot, 用来查看分箱结果是否可行, 箱数是否设置合理
# 评判方式: 看bin_plot图是否单调, 只有单调才具有可解释性
其他分箱方式

分箱方式介绍

chi：卡方分箱

dt：决策树分箱

quantile：等频分箱

step：等距分箱

kmeans：KMeans分箱

for method in ['chi', 'dt', 'quantile', 'step', 'kmeans']:
    c2 = toad.transform.Combiner()
    c2.fit(data[['duration.in.month', 'creditability']],
           y='creditability', method=method, n_bins=5)
    bin_plot(c2.transform(data[['duration.in.month', 'creditability']], labels=True),
             x='duration.in.month', target='creditability')

编码

编码方式:one-hot: 热编码, label: 标签编码WOE: Weight of Evidence: 风控下常用, 计算方式引入了正负样本比例

WOE Encoding

WOE（Weight of Evidence) 反映单特征在好坏用户区分度的度量，WOE编码是一种用于二分类问题的编码方法，通过计算每个类别的证据权重来表示其与目标变量之间的关系。

优势：WOE越大，bad rate越高，也就是说，通过WOE变换，特征值不仅仅代表一个分类，还代表了这个分类的权重。WOE可以把相对于bad rate显现非线性的特征转换为线性的，且对波动不敏感。遇到异常数据亦能平稳表现。

应用场景：该方法通常用于分类建模中的特征工程，特别是在信用风险评估、营销模型和欺诈检测等领域。该方法的目标是将分类变量转换为数值变量，以便在统计建模中使用。

计算公式：

好用户比例/坏用户比例

婚姻状态 Good Bad G-B ln(G/B) WOE
未婚 30% 20% 10% 0.405 0.405
已婚 40% 10% 30% 1.386 1.386
离异 10% 40% -30% -1.386 -1.386
丧偶 20% 30% -10% -0.405 -0.405
总计 100% 100%
toad计算woe
数据准备
from sklearn.model_selection import train_test_split
​
x_train, x_test, y_train, y_test= train_test_split(data.drop('creditability', axis=1), data['creditability'], test_size=0.25, random_state=450)
#%%
# 拼接训练集和测试集
data_train = pd.concat([x_train, y_train], axis=1)
data_test = pd.concat([x_test, y_test], axis=1)
data_train['type'] = 'train'
data_test['type'] = 'test'
#%%
data_train
分箱(调整前)
c2 = toad.transform.Combiner()
adj_bins = {'duration.in.month': [9, 12, 18, 33]}
c2.set_rules(adj_bins)
#%%
data_ = pd.concat([data_train, data_test])
temp_data = c2.transform(data_[['duration.in.month', 'creditability', 'type']], labels=True)
#%%
from toad.plot import badrate_plot
from toad.plot import proportion_plot
​
badrate_plot(temp_data, by='duration.in.month', target='creditability', x='type')
proportion_plot(temp_data['duration.in.month'])
分箱(调整后)
# 假定将第一箱、第二箱合并
adj_bin = {'duration.in.month': [9,18,33]}
c2.set_rules(adj_bin)
​
temp_data = c2.transform(data_[['duration.in.month','creditability','type']])
badrate_plot(temp_data, target = 'creditability', x = 'type', by = 'duration.in.month')
proportion_plot(temp_data['duration.in.month'])
计算WOE
binned_data = c2.transform(data_train)
​
transfer = toad.transform.WOETransformer()
data_woe_result = transfer.fit_transform(binned_data, binned_data['creditability'], exclude=['creditability', 'type'])
data_woe_result.head()
显示结果
status.of.existing.checking.account duration.in.month credit.history purpose credit.amount savings.account.and.bonds present.employment.since installment.rate.in.percentage.of.disposable.income personal.status.and.sex other.debtors.or.guarantors ... age.in.years other.installment.plans housing number.of.existing.credits.at.this.bank job number.of.people.being.liable.to.provide.maintenance.for telephone foreign.worker creditability type
569 0.786313 0.786622 0.069322 -0.384125 0.333152 0.244802 0.002898 -0.056341 0.355058 0.0 ... 0.085604 -0.157497 -0.174441 0.039485 0.002648 0.012822 0.001722 0.043742 1 train
574 0.363027 -0.279729 0.069322 -0.384125 -0.159408 0.244802 -0.173326 0.154169 -0.212356 0.0 ... 0.085604 -0.157497 -0.174441 -0.071350 -0.298467 0.012822 -0.001130 0.043742 0 train
993 0.786313 0.786622 0.069322 0.141484 0.333152 0.244802 0.534527 0.154169 -0.212356 0.0 ... 0.085604 -0.157497 -0.174441 0.039485 0.311383 0.012822 0.001722 0.043742 0 train
355 0.363027 0.099812 0.069322 0.272947 -0.159408 0.244802 0.399313 0.154169 -0.212356 0.0 ... 0.546949 0.605057 -0.174441 0.039485 -0.298467 0.012822 -0.001130 0.043742 1 train
508 -1.072960 0.099812 0.069322 -0.384125 -0.159408 0.244802 0.002898 0.154169 -0.302447 0.0 ... 0.085604 -0.157497 -0.174441 0.039485 0.002648 0.012822 -0.001130 0.043742 0 train

  1. WOE理解：当前组中好用户和坏用户的比值与所有样本中这个比值的差异。差异通过对这两个比值取对数来表示

    WOE越大，差异越大，这个分组里的好用户的可能性就越大

    WOE越小，差异越小，这个分组里的好用户的可能性也就越小。

  2. 分箱结果对WOE结果有直接影响，分箱不同，WOE映射值也会有很大的不同

    箱的总数在5～10箱（可以适当调整，通常不超过10箱）

    并且将每一箱之间的负样本占比差值尽可能大作为箱合并的基本原则

    每一箱的样本量不能小于整体样本的5%，原则是每一箱的频数需要具有统计意义

  3. 三种encoding的利弊

优势 劣势
Onehot Encoding 简单易处理、稳定、无需归一化、不依赖历史数据 数据过于稀疏
Label Encoding 区分效果好，维度小 需统计历史数据、不稳定、需要归一化
WOE Encoding 区分效果好，维度小，不需要归一化 需统计历史数据、不稳定

案例总结

  1. 分箱:

    创建对象

    c = toad.transform.Combiner()

    分箱, n_bins指定分箱的数量

    c.transform(n_bins=xxx)

    调整分箱

    c.set_rules()/ c.update()

    ​

  2. 编码

    创建对象

    transfer = toad.transform.WOETransformer()

    WOE编码

    transfer.fit_transform()

可解释性

信贷业务的特征要求

  1. 逻辑简单

  2. 有强业务解释性

  3. 容易构造

  4. 容易排查错误

模型的可解释性没有准确的定义，凡是可以协助人理解模型决策过程和结果的方法，都可称之为模型的可解释性。

我们常说一个模型是“黑盒”模型，就是指该模型可解释性差。模型的构建者和使用者无法准确梳理模型的决策依据。

如果某个模型可解释性好，则是说我们能通过某些方法理解模型结果产生的逻辑。

一般来说，算法越复杂，一般精度越好，可解释性越差。

按照可解释性的强弱关系，将算法分类如下：

  • 第一梯度：线性回归、逻辑回归

  • 第二梯度：集成学习（结果是多个树共同决定的）

  • 第三梯度：支持向量机（把数据往高维空间映射，数据会失真）

  • 第四梯队: 深度学习

结论: 在本项目中, 可以选择的算法有: 逻辑回归(输出违约的概率), 集成学习

上一篇：字符串使用方法：--- 今天生日的学生


下一篇：Python Flask 接收前端上传的图片