机器学习应用方向(三)～可解释机器学习Explainable ML/Explainable AI

2024-05-18 01:03:36

目录

1. 背景

2. 方法

2.1 概念

2.2 方法目的

2.3 方法途径

参考：

1. 背景

Problem：最新的机器学习或深度学习模型的有效性受限于机器向人类和用户解释它想法和行为的能力。

However, the effectiveness of these systems will be limited by the machine’s inability to explain its thoughts and actions to human users.

Aim: 让用户user从why did you do that?到 I understand why you do that.

意义：Explainable AI will be essential, if users are to understand, trust, and effectively manage this emerging generation of artificially intelligent partners.

2. 方法

2.1 概念

可解释机器学习，Explainable Machine Learning

2.2 方法目的

可解释机器学习的目的是让现有的高精度深度学习模型增强可解释性。

2.3 方法途径

(1) Deep Explanation

(2) Interpretable Models

Stochastic AOG有意思

(3) Model Induction

参考：

[1] Gunning, David. "Explainable artificial intelligence (xai)." Defense Advanced Research Projects Agency (DARPA), nd Web 2.2 (2017).
[2] Marcus, Gary. "The next decade in ai: four steps towards robust artificial intelligence." arXiv preprint arXiv:2002.06177 (2020).
[3] Some interesting articles and resources at Google Explainable AI site: https://cloud.google.com/explainable-ai

机器学习应用方向(三)～可解释机器学习Explainable ML/Explainable AI相关推荐

终于有人把可解释机器学习讲明白了
导读:为了解决模型的"黑盒"问题,科学家们提出了可解释机器学习.除了预测的精准性之外,可解释性也是机器学习模型是否值得信赖的重要衡量标准. 可解释机器学习(IML)的核心思想在于选 ...
python 博弈论库_6个Python库解释机器学习模型并建立信任
在机器学习模型中建立信任的案例全球道路上大约有12亿辆汽车.这是一个令人毛骨悚然的问题-您认为实际上有多少驾驶员了解车辆的内部运行情况? 正如您可能已经猜到的,答案只有少数几个人.我们不需要了解驾驶 ...
可解释的机器学习，用于科学的见解和发现（Explainable Machine Learning for Scientiﬁc Insights and Discoveries）
可解释的机器学习,用于科学的见解和发现(Explainable Machine Learning for Scientiﬁc Insights and Discoveries) 原文作者:Ribana ...
可解释机器学习（Explainable/ Interpretable Machine Learning）的原理和应用（李宏毅视频课笔记）
文章目录 0 前言 1 Introduction of Explainable/ Interpretable ML 1.1 Why we need Explainable ML? 1.2 Interp ...
【机器学习笔记】可解释机器学习-学习笔记 Interpretable Machine Learning (Deep Learning)
[机器学习笔记]可解释机器学习-学习笔记 Interpretable Machine Learning (Deep Learning) 目录 [机器学习笔记]可解释机器学习-学习笔记 Interpre ...
《可解释机器学习》中文资源重磅来袭！复旦研究生翻译，原作者转发点赞！...
关注上方"深度学习技术前沿",选择"星标公众号", 资源干货,第一时间送达! 转载自:量子位前言我曾经介绍过一本不错的书籍:<A Gudie for ...
微软开源可解释机器学习框架InterpretML
点击我爱计算机视觉标星,更快获取CVML新技术本文经机器之心(微信公众号:almosthuman2014)授权转载,禁止二次转载. 选自arXiv 作者:Harsha Nori等机器之心编译参与 ...
【学习打卡02】可解释机器学习笔记之ZFNet
可解释机器学习笔记之ZFNet 文章目录可解释机器学习笔记之ZFNet ZFNet介绍 ZFNet结构特征可视化可视化结构特征不变性特征演化遮挡性分析其他内容总结和思考首先非常感谢同 ...
关于如何解释机器学习的一些方法
关于如何解释机器学习的一些方法到现在你可能听说过种种奇闻轶事,比如机器学习算法通过利用大数据能够预测某位慈善家是否会捐款给基金会啦,预测一个在新生儿重症病房的婴儿是否会罹患败血症啦,或者预测一位消费 ...

最新文章

热门文章