机器学习的巨大成功导致了大量的人工智能（AI）应用程序。持续的进步有望产生能够自我感知，学习，决定和行动的自主系统。然而，这些系统的有效性受到机器当前无法向人类用户解释其决策和行动的限制（上图）。国防部（DoD）面临着需要更智能，自主和共生系统的挑战。如果未来的战士能够理解，适当地信任并有效地管理新一代的人工智能机器合作伙伴，那么可解释的人工智能 - 特别是可解释的机器学习 - 将是必不可少的。

可解释AI（XAI）计划旨在创建一套机器学习技术：

产生更多可解释的模型，同时保持高水平的学习成绩（预测准确性）; 和
使人类用户能够理解，适当地信任并有效地管理新一代人工智能合作伙伴。

新的机器学习系统将能够解释它们的基本原理，表征它们的优点和缺点，并传达对它们将来如何表现的理解。实现该目标的策略是开发新的或改进的机器学习技术，以产生更多可解释的模型。这些模型将结合最先进的人机界面技术，能够将模型转化为最终用户可理解和有用的解释对话（下图）。我们的策略是采用各种技术，以生成一系列方法，为未来的开发人员提供一系列涵盖性能与可解释性交易空间的设计方案。

XAI是当前DARPA少数计划之一，旨在实现“第三代AI系统”，其中机器了解其运行的环境和环境，并随着时间的推移构建底层解释模型，使其能够表征现实世界现象。

XAI计划通过解决两个领域的挑战问题，专注于多系统的开发：（1）机器学习问题，用于对异构多媒体数据中感兴趣的事件进行分类; （2）机器学习问题，为自治系统构建决策策略，以执行各种模拟任务。

此外，研究人员正在研究解释的心理学。

XAI研究原型在整个项目过程中经过测试和持续评估。在2018年5月，XAI研究人员展示了他们可解释学习系统的初步实施，并展示了他们的第一阶段评估的初步试点研究结果。预计2018年11月将进行全阶段1系统评估。

参考

https://www.darpa.mil/program/explainable-artificial-intelligence

XAI-可解释的人工智能相关推荐

发展认知神经科学 | 基于可解释的人工智能模型分析婴儿的fNIRS数据
文章来源于微信公众号(茗创科技),欢迎有兴趣的朋友搜索关注. 近几十年来,功能性近红外光谱(fNIRS)等非侵入性.便携式神经成像技术的出现,使研究人员得以深入研究人脑功能性认知发展的机制,从而进一步 ...
基于磁共振成像的脑龄研究：可解释的人工智能的当前状态和未来挑战
在人的一生中,大脑会发生与年龄相关的显著变化,个体的衰老速度会显示出明显的个体间差异,从而产生作为大脑特征在特定认知领域上的大脑标记.这些是由各种各样的因素形成的,既有内部的,也有外部的.最近,研究人 ...
科学解释超级计算机,人工智能、现代科学证明：宇宙是虚拟的，真实世界是超级计算机...
该楼层疑似违规已被系统折叠隐藏此楼查看此楼人工智能现在的计算机芯片是纳米级的,可简称纳米计算机,未来可能出现量子计算机.玄(量子由玄组成)计算机.现在看生物实质上也是纳米计算机,具有计算机的全部 ...
ai星际探索爪子_通过特征空间探索实现可解释的人工智能
ai星际探索爪子 Neural networks trained on large amounts of data have led to incredible technological leap ...
人工智能的圣杯：关于可解释AI(XAI)的一切
人工智能的圣杯:关于可解释AI(XAI)的一切在过去十年间,无数个人工智能解决方案在各大企业得到部署. 智能受众评测系统.智能财务合规系统.智能人员招聘系统,不一而足. 这期间,在企业客户却也始终存 ...
Nat. Mach. Intell. | 可解释性人工智能(xAI)遇上药物发现
今天给大家介绍瑞士苏黎世联邦理工学院化学与应用生物科学系 Gisbert Schneider等人在Nature Machine Intelligence上发表的文章"Drug discove ...
DARPA可解释AI研究（XAI计划）的4年回顾与经验总结
导语:DARPA(美国防部高级研究计划局)于 2015 年制定了可解释人工智能 (XAI) 计划,目标是使最终用户能够更好地理解.信任和有效管理人工智能系统.2017年,为期4年的XAI研究计划启动. ...
肖仰华 | 基于知识图谱的可解释人工智能：机遇与挑战
本文转载自公众号知识工场,整理自 2017 年 10 月 13 日肖仰华教授在 CIIS2017 中国智能产业高峰论坛上所做的报告. 肖仰华:很高兴有机会跟大家一起分享<基于知识图谱的可解释人工 ...
Paper：人工智能可解释性的背景/方法/伦理/教育/可解释性的基本原理/Interpretability和Explainability区别之《可解释人工智能的教育视角：基于伦理和素养的思考》解读笔记
Paper:人工智能可解释性的背景/方法/伦理/教育/可解释性的基本原理/Interpretability和Explainability区别之<可解释人工智能的教育视角:基于伦理和素养的思考&g ...

XAI-可解释的人工智能

参考

XAI-可解释的人工智能相关推荐

最新文章

热门文章