《2020年终大会-风控安全:4-4.pdf》由会员分享,可在线阅读,更多相关《2020年终大会-风控安全:4-4.pdf(18页珍藏版)》请在三个皮匠报告上搜索。
1、模型可解释性 在保险理赔反欺诈中的应用实践 中国人寿研发中心 张洪涛 目录 可解释性背景 0101 模型解释方法 0202 可解释性实践0303可解释性展望0404 可解释性背景 0101 1.可解释性背景 模型的解释性,在模型的整个生命周期中具有重要作用。 优化方法 模型解释,是一种重要的模型badcase 分析手段,优化模型效果。 可信度 模型可解释,提升模型预测结果的可 信度,进而影响推广使用。 指导性 模型可解释,对业务开展和决策具有明 确的指导性作用。 然而,由于算法模型本身的黑盒属性,预测结果难以解释。 模型解释性方法 0202 2.1模型解释性方法 1 62 53 4 特征权重
2、线性模型,系数 信息增益 信息论,树型模型 importance 特征重要性排序 Shap 博弈论,计算单个特征贡献 值 DeepLIFT 相对特征基准值,计算特征贡 献 线性模型局部模拟,计算贡 献 Lime 全 局 解 释 方 法 局 部 解 释 方 法 2.2模型解释性方法-特征重要性 定义:全局可解释性是指能够基于完整数据集上的预测结果和特征之间的条件交互来解释和理解 模型决策。解释整个模型行为。 举例:xgboosting特征重要性。 Weight : the number of times a feature is used to split the data across all
3、 trees. Gain,Cover. 2.3模型解释性方法-lime 定义:专注于该数据点并查看该点周围的特征空间中的局部子区域,并尝试基于该局部区域理解 该点的模型决策。解释单个预测。 举例:Lime方法。 某个样本附近生成采样数据,训练线性模型,辅助解释 Lime :“Why Should I Trust You”Explaining the Predictions of Any Classifier 2.4模型解释性方法-shap 定义:专注于该数据点并查看该点周围的特征空间中的局部子区域,并尝试基于该局部区域理解 该点的模型决策。解释单个预测。 举例:Shap贡献值。 将某一特征与其他所有的特征子集进行博弈比较, 计算其对于其他特征子集对预测结果影响。 预测值= 1/(1+exp(-sum(贡献值)。 Shap : A Unified Approach To Interpreti