SHAP：解释一切黑盒AI模型

原创 已于 2024-06-13 20:14:07 修改 · 1.3k 阅读 · 19 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#人工智能 #机器学习

于 2024-06-13 20:12:24 首次发布

人人看得懂的顶会论文系列之：SHAP

(NeurIPS:Conference and Workshop on Neural Information Processing Systems) 2017，引用量5940

论文标题：A Unified Approach to Interpreting Model Predictions

Author：华盛顿大学计算机科学学院的Scott M. Lundberg和Su-In Lee。

1.博弈论(Game Theory)

博弈论主要研究，参与者在竞争性环境中怎样决策。基本思想是：每个参与者都在寻求最大化自己的利益，他们的选择会受到其他参与者选择的影响。最有名的案例应该就是囚徒困境（Prisoner’s Dilemma）、联盟博弈（Coalitional Game）。

联盟博弈（Coalitional Game）是一种合作博弈，其中多个参与者通过形成联盟来共同追求目标。在这个游戏中，参与者需要决定是否加入联盟，以及如果加入，如何分配获得的收益。

Shapley值

Shapley值（Shapley Value）是一种在合作博弈中分配收益的方法，它由数学家刘易斯·沙普利（Lloyd S. Shapley）提出，用于解决如何公平地分配合作博弈中获得的收益问题。

Shapley值的基本思想是，每个参与者对博弈的贡献应该得到公平的回报。它通过计算每个参与者加入不同联盟的概率，以及他们在该联盟中的贡献，来计算每个参与者的Shapley值。Shapley值确保了每个参与者对博弈的贡献都能得到公平的回报，这是一种公平的合作博弈收益分配方法。

一个计算Shapley值的案例如下： 假设有员工A、B、C，参加一个团队项目，完成后公司将提供一笔奖金。 员工A单独参加可以赢得1万元，员工B单独参加可以赢得1.5万元，员工C单独参加可以赢得2万元。 各

最低0.47元/天 解锁文章

200万优质内容无限畅学
Paper：可解释性之SHAP之《A Unified Approach to Interpreting Model Predictions—解释模型预测的统一方法》论文解读与翻译
头部AI社区如有邀博主AI主题演讲请私信—心比天高，仗剑走天涯，保持热爱，奔赴向梦想！低调，专注，谦虚，自律，反思，成长，还算比较正能量的博主，公益免费传播…内心特别想在AI界做出一些可以推进历史进程影响力的技术(兴趣使然，有点小情怀，也有点使命感呀
05-09 9434
​ Paper：可解释性之SHAP之《A Unified Approach to Interpreting Model Predictions—解释模型预测的统一方法》论文解读与翻译 目录 《A Unified Approach to Interpreting Model Predictions》论文解读与翻译 相关文章 Paper：《A Unified Approach to Interpreting Model Predictions—解释模型预测的统一方
XAI之SHAP：SHAP算法(How—每个特征如何重要/解释单个样本的预测)的简介(背景/思想/作用/原理/核心技术点/优缺点)、常用工具库、应用案例之详细攻略
头部AI社区如有邀博主AI主题演讲请私信—心比天高，仗剑走天涯，保持热爱，奔赴向梦想！低调，专注，谦虚，自律，反思，成长，还算比较正能量的博主，公益免费传播…内心特别想在AI界做出一些可以推进历史进程影响力的技术(兴趣使然，有点小情怀，也有点使命感呀
07-10 4696
​ XAI之SHAP：SHAP算法(How—每个特征如何重要/解释单个样本的预测)的简介(背景/思想/作用/原理/核心技术点/优缺点)、常用工具库、应用案例之详细攻略 目录 SHAP的简介 SHAP的常用工具库 SHAP的应用案例 相关文章 ML之SHAP：机器学习可解释性之SHAP值之理解单样本单特征预测 ML之SHAP：机器学习可解释性之SHAP值的高级使用之聚合 SHAP 值以获得更详细的模型见解 SHAP的简介 论文： Paper：
SHAP值的解释，以一种你期望的方式解释给你听
AI公园
04-27 2万+
点击上方“AI公园”，关注公众号，选择加“星标“或“置顶”作者：Samuele Mazzanti编译：ronghuaiyang正文共：3096 字 13 图预计阅读时间：9 分钟导读上一...
SHAP分析
weixin_60535956的博客
10-05 4287
SHAP分析
【机器学习】如何计算解释模型的SHAP值
拾一滴清水的博客
03-27 2725
总的来说，这个算法就是在模拟一个实验：如果我们改变一个人的年龄（而其他特征保持不变），那么这将如何影响我们的预测结果。通过多次模拟这个实验并取平均，就可以得到一个对“年龄”特征的影响力的估计值，也就是SHAP值。我们想知道“年龄”这个特征对预测结果的影响有多大，也就是我们想要计算“年龄”的SHAP值。简而言之，此算法的目的是估计在随机排列特征的情况下，特征j的存在与否对模型预测结果的影响，从而评估特征。最后，将100次迭代中计算出的所有边际贡献进行平均，得到的就是“年龄”特征的SHAP值。
SHAP分析Mnist数据集的Mask遮掩复现实验
ylwhxht的博客
11-30 1210
2020/11/30 SHAP分析Mnist数据集的Mask遮掩复现实验 实验介绍 论文：A Unified Approach to Interpreting ModelPredictions 论文地址：https://papers.nips.cc/paper/2017/file/8a20a8621978632d76c43dfd28b67767-Paper.pdf 在SHAP论文中的Experiments部分，提出了一个可解释模型的评估指标：比较不同算法找出的最重要的特征的实际影响 如下图所示，对20张图片
【人工智能】深入理解深度学习模型可解释性：使用LIME和SHAP方法解析预测结果
最新发布
一个被知识诅咒的人
03-06 1002
随着深度学习的广泛应用，理解和解释这些复杂模型的预测变得尤为重要。深度学习模型常被视为“黑盒”，其决策过程难以理解，这使得它们在某些领域（如医疗、金融等）的应用受到限制。为了增强模型的透明性和可解释性，研究者们提出了多种方法，其中`LIME`（局部可解释模型-agnostic解释）和`SHAP`（Shapley加权值解释）是两种常用的技术。本篇文章将深入探讨这两种技术，介绍它们的基本原理，并通过大量的代码示例，展示如何使用`LIME`和`SHAP`对深度学习模型的预测结果进行解释。我们将重点关注如何使用这些
机器学习教程：SHAP值和LIME 值解释模型预测结果
Cachel Wood的博客
02-26 524
SHAP值和LIME值都是用于解释机器学习模型预测结果的工具，下面分别介绍它们的原理。
SHAP和LIME：Python机器学习模型解释
skyskytotop的博客
03-22 1611
机器学习模型在各个领域得到广泛应用，但其黑盒性质往往使人难以理解其决策过程，降低了模型的可信度和可靠性。为了解决这一问题，可解释性人工智能（XAI）应运而生，其目标是为模型的行为和决策提供清晰、可理解的解释。
安全顶刊论文阅读总结1——An Explainable AI-Based Intrusion Detection System for DNS Over HTTPS (DoH) Attacks
qq_50604294的博客
08-10 1222
TIFS顶刊论文阅读
使用 SHAP 值解释的成对获取预测-研究论文
06-10
市场上可能会发生意外收购，这会对市场环境产生重大影响。 因此，预测未来的收购方和被收购方公司对收购或投资策略很重要。 由于以下要求，该预测是一个具有挑战性的问题：纳入各种非财务因素并解决缺乏负样本的问题。 对于前者，我们建议包括一个代表收购方和被收购方在投资和类别网络中的重要性的网络特征，以及一个与其相似性和接近度相关的公司关系特征。 考虑到后者的要求，作为反例，我们设置了具有与正例相似特征的获取者和被获取者对。 这允许了解被选中进行收购的公司和候选公司之间的细微差别。 我们使用从 CrunchBase 收集的 2000-2018 年采集日志评估了我们提出的预测模型。 基于对高 SHapley 加性解释 (SHAP) 值特征的分析，我们发现新考虑的网络和公司关系特征具有很高的重要性（22 个关键特征中的 10 个）。 我们还通过解释 SHAP 值阐明了这些新特征如何有助于预测收购发生。
继承与派生声明一个哺乳动物类声明一个shap（形状）基类，
12-02
声明一个哺乳动物类（Mammal），在由此派生出人类（person）、狗类 （Dog）、猫类（Cat）、这些类均有speak（）函数，观察在调用过程中，到底是用了谁的speak（）函数。 （2）、声明一个shap（形状）基类，他有两个派生类：Circle（圆）和square（正方形），要求（1）根据给出的正方形中心坐标计算圆的面积，（2）根据给出的正方形中点坐标和一个顶点坐标计算出该正方形面积。
通过遍历采样估计 Shapley 值：Ferenc Illés 和 Péter Kerényi：通过遍历采样估计 Shapley 值-matlab开发
05-29
Castro 等人提出了通过随机抽样来逼近 n 人游戏的 Shapley 值的想法。 (2009) 并由 Maleki 等人进一步改进。 (2013) 和 Castro 等人。 (2017) 使用分层。 与他们的独立采样方法相反，在本文中，我们开发了一种算法，该算法使用一对负相关样本来减少估计的方差。 我们检查了八种具有不同特征的游戏来测试我们提出的算法的性能。 我们表明，在大多数情况下（八分之七），这种方法的方差至少与独立样本一样低，在某些情况下（八分之五），它显着（平均接近 60%）提高了估计质量。 对结果进行分析后，我们得出结论，在边际贡献可变性较高的游戏中，推荐的方法效果最好。
机器学习模型的解释-SHAP
weixin_41851055的博客
05-18 1万+
数据监控SHAP值 SHAP值 SHAP值基于Shapley值，Shapley值是博弈论中的一个概念。SHAP所做的是量化每个特征对模型所做预测的贡献。 对于所有的特征上图可以自由组合共有2^3=8种可能（数学中称为power set即幂集）。SHAP需要为幂集中的每个不同的组合训练一个不同的预测模型，这意味着有8个模型。当然，这些模型在涉及到它们的超参数和训练数据时是完全等价的。唯一改变的是模型中包含的一组特征。 假设上图是已经用相同训练样本训练了8个线性回归的模型。我们可以用这8个模型分别对一个测试样
深度学习与可解释性：一种新的平衡
AI天才研究院
12-27 536
1.背景介绍 深度学习已经成为人工智能领域的一个重要技术，它在图像识别、自然语言处理、语音识别等方面取得了显著的成果。然而，深度学习模型的黑盒性使得它们的可解释性受到挑战。在许多实际应用中，可解释性是至关重要的，因为它可以帮助人们理解模型的决策过程，从而提高模型的可靠性和可信度。因此，研究深度学习与可解释性的结合是非常重要的。 在这篇文章中，我们将讨论深度学习与可解释性的关系，探讨一些可解释性...
几行代码发一区！SHAP可解释分析，调包即用！
学姐带你玩AI的博客
10-07 960
最近发现，出现了挺多一区的文章，而且都是十几分的。简单看了一下内容，基本都是把SHAP应用在了一个新的领域，再加上个”可解释“的噱头。这种方法几行代码就可以实现，通过计算每个特征对最终预测的贡献（SHAP值），能帮我们理解和解释复杂的机器学习模型，显著提高模型透明度和可信度。这些优势让SHAP可解释分析在多个领域都有广泛应用，特别是医疗、金融等行业，因此关于它的研究我这边为了给大家提供新思路，已经整理好了，可参考的idea也提炼了，基本都有开源代码，大家论文加油～论文原文+开源代码需要的同学看文末。
SHAP 可视化解释机器学习模型简介
热门推荐
chaishen10000的专栏
12-14 8万+
个人理解SHAP模型是对机器学习模型进行解释的一个模型上面这个图就是一个比较直观的解释机器学习模型一般都是一个黑盒。比如某个模型要进行一些预测任务，首先对模型输入一些已知条件（Age=65,Sex=F,BP=180,BMI=40），然后模型根据输入进行训练，最终训练完的模型可以对该条件输出预测结果（Output=0.4）
基于 shapley-value 的可解释方法及 shap 库实现
yichudu
10-13 6599
模型的评测指标只能反映它准不准, 如果没有好的可解释性, 人们就会担心它不够鲁棒, 难以放心去投用. SHAP 是一个库, 依据 组合博弈论领域 中的 shapely value 思想, 对模型的单个预测作解释. shapely value transformer 搭配 ...
软件非功能规模评估模型（SNAP）的评估过程
Hopestarit的博客
11-22 1130
SNAP模型包括4个类和14子类。SNAP中的确定类和子类的过程相当于功能点分析方法中确定系统边界的过程。通过一组基准，根据每个子类的类型和复杂性程度的不同来度量子类的规模大小，整个非功能需求规模就是这些子类规模之和。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值