《机器学习(周志华)》笔记--模型的评估与选择(5)--衡量分类任务的性能指标:精准度与召回率计算

五、衡量分类任务的性能指标

  3、精准度与召回率

  精准率(Precision)指的是模型预测为 Positive 时的预测准确度,其计算公式如下:

                       《机器学习(周志华)》笔记--模型的评估与选择(5)--衡量分类任务的性能指标:精准度与召回率计算

  召回率(Recall)指的是我们关注的事件发生了,并且模型预测正确了的比值,其计算公式如下:

                        《机器学习(周志华)》笔记--模型的评估与选择(5)--衡量分类任务的性能指标:精准度与召回率计算

混淆矩阵:

真实预测 0 1
0 TN FP
1 FN TP

 

举例:

  假如癌症检测系统的混淆矩阵如下:

真实预测 0 1
0 9978 12
1 2 8

  (1)该系统的精准率 =8/(8+12)=0.4。

    从计算出的精准率可以看出,如果有 100 个人被预测成患有癌症,那么其中有 40 人是真的患有癌症。也就是说,精准率越高,那么癌症检测系统预测某人患有癌症的可信度就越高。

  (2)该系统的召回率 =8/(8+2)=0.8。

    从计算出的召回率可以看出,假设有 100 个患有癌症的病人使用这个系统进行癌症检测,系统能够检测出 80 人是患有癌症的。也就是说,召回率越高,那么我们感兴趣的对象成为漏网之鱼的可能性越低。

   精准率与召回率之间的关系:

    假设有这么一组数据,菱形代表 Positive,圆形代表 Negtive 。

      《机器学习(周志华)》笔记--模型的评估与选择(5)--衡量分类任务的性能指标:精准度与召回率计算

     现在需要训练一个模型对数据进行分类,假如该模型非常简单,就是在数据上画一条线作为分类边界。模型认为边界的左边是 Negtive,右边是 Positive。如果该模型的分类边界向左或者向右移动的话,模型所对应的精准率和召回率如下图所示:

            《机器学习(周志华)》笔记--模型的评估与选择(5)--衡量分类任务的性能指标:精准度与召回率计算

    从上图可知,模型的精准率变高,召回率会变低,精准率变低,召回率会变高。

  到底应该使用精准率还是召回率作为性能指标,其实是根据具体业务来决定的。比如我现在想要训练一个模型来预测我关心的股票是涨( Positive )还是跌( Negtive ),那么我们应该主要使用精准率作为性能指标。因为精准率高的话,则模型预测该股票要涨的可信度就高(很有可能赚钱!)。比如现在需要训练一个模型来预测人是( Positive )否( Negtive )患有艾滋病,那么我们应该主要使用召回率作为性能指标。因为召回率太低的话,很有可能存在漏网之鱼(可能一个人本身患有艾滋病,但预测成了健康),这样就很可能导致病人错过了最佳的治疗时间,这是非常致命的。

代码实现:

import numpy as np

def precision_score(y_true, y_predict):
    '''
    计算精准率并返回
    :param y_true: 真实类别,类型为ndarray
    :param y_predict: 预测类别,类型为ndarray
    :return: 精准率,类型为float
    '''
    def TN(y_true, y_predict):
        return np.sum((y_true == 0) & (y_predict == 0))
    
    def FP(y_true, y_predict):
        return np.sum((y_true == 0) & (y_predict == 1))

    def FN(y_true, y_predict):
        return np.sum((y_true == 1) & (y_predict == 0))

    def TP(y_true, y_predict):
        return np.sum((y_true == 1) & (y_predict == 1))

    return TP(y_true, y_predict)/(TP(y_true, y_predict)+FP(y_true, y_predict))
 


def recall_score(y_true, y_predict):
    '''
    计算召回率并召回
    :param y_true: 真实类别,类型为ndarray
    :param y_predict: 预测类别,类型为ndarray
    :return: 召回率,类型为float
    '''
    def TN(y_true, y_predict):
        return np.sum((y_true == 0) & (y_predict == 0))
    
    def FP(y_true, y_predict):
        return np.sum((y_true == 0) & (y_predict == 1))

    def FN(y_true, y_predict):
        return np.sum((y_true == 1) & (y_predict == 0))

    def TP(y_true, y_predict):
        return np.sum((y_true == 1) & (y_predict == 1))

    return TP(y_true, y_predict)/(TP(y_true, y_predict)+FN(y_true, y_predict))
上一篇:DataWhale集成学习笔记(九)Stacking集成算法


下一篇:day07课件代码(下)