1 Introduction

为什么可解释的机器学习

不仅需要机器结果的精确度，还需要进行模型诊断，看机器学习得怎么样；有的任务精确度很高，但实际上机器什么都没学到，有模型诊断后，就可以根据模型诊断的结果再来调整我们的模型

有没有model是Interpretable，也是powerful的呢？

决策树可以interpretable，也是比较powerful的

2 Local Explanation

方法一：

对于输入的 x\mathrm{x}x, 我将其分成components {x1,…,xn,…xN}\left\{x_{1}, \ldots, x_{n}, \ldots x_{N}\right\}{x1,…,xn,…xN}, 每个component由一个像素，或者一小块组成
目标是知道每个component对making the decision的重要性有多少，那么可以通过remove或者 modify其中一个component的值，看此时的decision会有什么变化

方法二：

对于输入的 {x1,…,xn,…,xN}\left\{x_{1}, \ldots, x_{n}, \ldots, x_{N}\right\}{x1,…,xn,…,xN}, 对于其中的某个关键的pixel xnx_{n}xn 加上 Δx\Delta xΔx ，这个pixel对我们识别这是不是一只狗具有很重要的作用
那么我们就可以用 ΔyΔx\frac{\Delta y}{\Delta x}ΔxΔy 来表示这个小小的扰动对y的影响，可以通过 ∂yk∂xn\frac{\partial y_{k}}{\partial x_{n}}∂xn∂yk 来进行计算，表示 yky_{k}yk 对 xnx_{n}xn 的偏微分，最后取绝对值，表示某一个pixel对现在y影响的大小

3 Global Explanation

Activation Minimization (review)

目标是找到一个 x∗x^{*}x∗, 使得输出的值 yiy_{i}yi 最大可以加入一些噪声，加上噪声后人并不能识别出来，但机器可以识别出来，看出来下图中的噪声是 012345678

之前的目标是找到一个image，使得输出的y达到最大值; 现在的目标不仅是找到x使输出y达到最大值, 还需要把image变得更像是一个digit，不像左边那个图，几乎全部的像素点都是白色，右边的图只有和输出的 digit相关的pixel才是白色
这里通过加入了一个新的限制 R(x)R(x)R(x) 来实现，可以表示图像和digit的相似度

Constraint from Generator

如下图所示, 输入一个低维的vector z到generator里面，输出Image x;
现在将生成的Image x\mathrm{x}x 再输入Image classifier, 输出分类结果 yiy_{i}yi, 那么我们现在的目标就是找到 z∗z^{*}z∗ ，使得属于那个类别的可能性 yiy_{i}yi 最大

z∗=arg⁡max⁡yiz^{*}=\arg \max y_{i} z∗=argmaxyi

4 Using a model to explain another

现在使用一个interpretable model来模仿另外一个uninterpretable model; 下图中的 Black Box为 uninterpretable model, 比如Neural Network，蓝色方框是一个interpretable model，比如Linear model; 现在的目标是使用相同的输入 x1,x2,…,xNx^{1}, x^{2}, \ldots, x^{N}x1,x2,…,xN ，使linear model和Neural Network有相近的输出

实际上并不能使用linear model来模拟整个neural network，但可以用来模拟其中一个local region

（2020李宏毅）机器学习-Explainable Machine Learning相关推荐

李宏毅机器学习-explainable machine learning（机器学习的可解释性）及代码
目录为什么需要机器学习的可解释性? Interpretable VS Powerful 什么叫做好的 Explanation explainable ML的分类 Local Explanation( ...
AI：Algorithmia《2020 state of enterprise machine learning—2020年企业机器学习状况》翻译与解读
AI:Algorithmia<2020 state of enterprise machine learning-2020年企业机器学习状况>翻译与解读目录 <2020 state ...
可解释的机器学习，用于科学的见解和发现（Explainable Machine Learning for Scientiﬁc Insights and Discoveries）
可解释的机器学习,用于科学的见解和发现(Explainable Machine Learning for Scientiﬁc Insights and Discoveries) 原文作者:Ribana ...
Domain adaptation：连接机器学习（Machine Learning）与迁移学习（Transfer Learning）
domain adaptation(域适配)是一个连接机器学习(machine learning)与迁移学习(transfer learning)的新领域.这一问题的提出在于从原始问题(对应一个 so ...
Coursera公开课笔记: 斯坦福大学机器学习第十一课“机器学习系统设计(Machine learning system design)”
Coursera公开课笔记: 斯坦福大学机器学习第十一课"机器学习系统设计(Machine learning system design)" 斯坦福大学机器学习斯坦福大学机器学习第 ...
机器学习（Machine Learning）大家
原文:http://blog.tianya.cn/blogger/post_read.asp?BlogID=272727&PostID=15814815 机器学习(Machine Learni ...
[转载] 跟着吴恩达学机器学习（Machine Learning） on Coursera 第一天
参考链接: Python线性回归的波士顿房屋Kaggle挑战 | 机器学习 Machine Learning 观看了吴恩达教授讲解的supervised and unsupervised learni ...
2020李宏毅机器学习笔记-Anomaly Detection
目录摘要 1. Problem Formulation 2. What is Anomaly? 3. Applications 4. 如何做Anomaly Detection 4.1 Binary ...
Splunk机器学习应用(Machine Learning Toolkit)
本文主要从 Splunk内置的命令和应用两个部分介绍了一些实用的机器学习的小诀窍,抛砖引玉,希望能和大家一起探讨如何让Splunk变得更加聪明. 1.概览机器学习可以简单地看作一个从数据中自动分析获 ...

（2020李宏毅）机器学习-Explainable Machine Learning

文章目录