欧盟发布《人工智能道德准则》：「可信赖 AI」才是 AI 的指路明灯
https://www.toutiao.com/i6639175203039478286/
2018-12-26 13:50:35
近日，欧盟委员会发布了由人工智能高级专家组（AI HLEG）编制的《人工智能道德准则》（AI Ethics Guidelines）草案，指出 AI 的发展方向应该是「可信赖 AI」，即确保这一技术的目的合乎道德，技术足够稳健可靠，从而发挥其最大的优势并将风险降到最低。该准则旨在为 AI 系统的具体实施和操作提供指导。《准则》最终版将于 2019 年 3 月发布。
执行摘要
人工智能是这个时代最具变革性的力量之一，它可以为个人和社会带来巨大利益，但同时也会带来某些风险。而这些风险应该得到妥善管理。总的来说，AI 带来的收益大于风险。我们必须遵循「最大化 AI 的收益并将其带来的风险降到最低」的原则。为了确保不偏离这一方向，我们需要制定一个以人为中心的 AI 发展方向，时刻铭记 AI 的发展并不是为了发展其本身，最终目标应该是为人类谋福祉。因此，「可信赖 AI」（Trustworthy AI）将成为我们的指路明灯。只有信赖这项技术，人类才能够安心地从 AI 中全面获益。
「可信赖 AI」由两部分组成：1）它应该尊重基本权利、相关法规、核心原则及价值观，确保其目的合乎伦理道德；2）它使用的技术应该非常稳健、可靠，因为即使是出于好意，如果没有成熟技术的加持，技术也会带来意想不到的伤害。这些指导原则构成了「可信赖 AI」的基本框架：
「可信赖 AI」框架
- Chapter I ：确保人工智能的目的合乎道德，规定了人工智能发展应该遵守的基本权利、原则和价值观。
- Chapter II：关于实现「可信赖 AI」的指导原则，同时强调 AI 发展目的的道德性和技术稳健性。这部分列出了「可信赖 AI」的要求，以及实现这些要求所需的技术和非技术方法。
- Chapter III：提供「可信赖 AI」的具体但非详尽的评估列表实施要求。该列表将根据具体的用例进行调整。
与其他有关 AI 伦理道德的文件相比，这份准则的目的不是为 AI 增加一份核心价值观和原则清单，而是为 AI 系统的具体实施和操作提供指导。
该准则面向开发、部署或使用 AI 的所有利益攸关方，包括公司、组织、研究人员、公共服务单位、机构、个人或其他实体。该准则的最终版将提出一种机制，是否认可这些这些准则将由利益攸关方自行决定。
需要指出的是，制定这些准则并不是为了替代任何形式的决策或监管，也不是为了阻止其出台。这份准则应该不断更新，以适应技术和知识发展的要求。
「可信赖 AI」的实现
这一部分为「可信赖 AI」的实施和实现提供了指导，指出实现「可信赖 AI」有哪些要求，在发展、部署、使用 AI 的过程中有哪些方法可以满足这些要求，从而充分利用由 AI 创造的机遇。
1.「可信赖 AI」的要求
实现「可信赖 AI」意味着需要在 AI 系统和应用的具体要求中加入一般、抽象的原则。以下是从 Chapter I 的权利、原则和价值观中衍生出的十条要求。这十条要求同样重要，但实施过程中需要考虑不同应用领域和行业的具体背景。
- 问责机制
- 数据治理
- 为所有人设计
- 人工智能自治的治理（人的监督）
- 非歧视
- 尊重（增强）人类自主性
- 尊重隐私
- 稳健性
- 安全
- 透明
《准则》还对每一项要求进行了进一步解释。例如，在「问责机制」这项要求中，《准则》指出，问责机制的选择可能非常多样，从金钱补偿到过失调查，再到没有金钱补偿的和解。如一个系统误读了药品报销申请，错误地决定不予报销，系统所有者可能会被要求做出金钱补偿。其他要求的详细内容请参考原文。
这一清单按字母顺序对要求进行排序，以表明所有要求同等重要。Chapter III 还提供了一份评估清单，以支持这些要求的实施。
2. 实现「可信赖 AI」的技术和非技术方法
为了满足上一节中提到的要求，开发过程的所有层面（包括分析、设计、开发和使用）都可以采用技术和非技术方法（参见图 3）。对实施这些要求和方法的评估，以及对流程变化的报告和论证应该持续进行。事实上，考虑到 AI 系统不断发展，以及在动态环境中运行，实现「可信赖 AI」可以看作一个持续的过程。
虽然这份准则中的方法列表并不详尽，但它旨在列出实施「可信赖 AI」的主要方法。为了提高 AI 系统的可信度，这些方法应该基于第一章中定义的权利和原则。
图 3 显示了权利、原则和价值观对系统开发过程的影响。这些抽象的原则和权利被具体化为对 AI 系统的要求，该系统的实施和实现要由不同的技术和非技术方法支持。此外，考虑到 AI 技术的适应性和动态性，继续坚持原则和价值观要求将评估（evaluation）和论证（justification）流程作为开发流程的核心。
图 3：通过系统的整个生命周期实现「可信赖 AI」
报告地址：https://ec.europa.eu/digital-single-market/en/news/draft-ethics-guidelines-trustworthy-ai
欧盟发布《人工智能道德准则》：「可信赖 AI」才是 AI 的指路明灯相关推荐
- 欧盟抢先发布人工智能道德准则：AI要以人为本，负责任且无偏见
目前,虽然人工智能(AI)的研究还处在起步阶段,但欧盟已经为其制定了道德准则. 据美国科技网站The Verge的报道,经过52名专家的商讨,欧盟委员会于4月8日发布了人工智能道德准则.该准则的出台, ...
- 现实版“机器人三定律”来了？ ——浅析欧盟抢先发布人工智能道德准则
在人类科幻史上,阿西莫夫创立的"机器人三定律"十分的有名,而在现实中,类似的条文似乎已经出现了. 据美国科技网站The Verge的报道,经过52名专家的商讨,欧盟委员会于4月8日 ...
- 「国家战略科学家」身份！AI学者朱松纯加盟清华筹建通用AI研究院
近日,UCLA教授朱松纯回国,加入清华自动化系.与此同时,还将与清华.北大共同筹建「北京通用人工智能研究院」,并出任院长.朱松纯是计算机视觉领域的顶级学者,他的回国,将为国内人工智能的发展带来强劲动力 ...
- 人工智能是否存在「大统一理论」？
智源导读:在物理学当中,物理学家们经过近百年的努力,找到了一种理论模型,能够合理解释电磁相互作用.强相互作用和弱相互作用所导致的所有物理现象,这被称为"大统一理论"(Grand U ...
- python硬件_「大神器！」硬件的AI性能测试Python库发布
目前人工智能技术发展速度很快,也很吸引眼球.但是对于各种多如牛毛的方法,目前并米有一个可靠的精准的基准来衡量各项硬件在不同算法训练和推理的性能. 现在,不用愁了.国外的一个哥们, Andrey Ign ...
- 腾讯AI Lab发布智能创作助手「文涌 (Effidit)」，用技术助力「文思泉涌」
感谢阅读腾讯AI Lab微信号第142篇文章.本文将介绍腾讯AI Lab研发的智能写作助手「文涌(Effidit)」. 今天,腾讯 AI Lab 研发的智能写作助手「文涌(Effidit)」开放试用, ...
- AI人工智能洗稿「OpenAI GPT-3模型」
GPT-3模型达到千亿级参数:语言模型仍然可以是算术和编程,君子喻于义,小人喻于利.人类和ai相比有什么优势,与专用AI相比会高枕无忧,GPT-3更"通用":在这个过程中也许情同手 ...
- 欢颜机器人编程软件_研发视觉和人工智能应用，「敏越科技」为焊接机器人装上“眼睛和大脑”...
机器人正在各行各业替代人力,焊接领域也不例外. 焊接作为工业界的"裁缝",重要程度不言而喻.但是焊接现场往往环境恶劣,烟尘.弧光.金属飞溅严重伤害工人身体健康,同时工人也需要长时间 ...
- 有人要在「动物森友会」上开AI学术会议，我看你们就是在家想玩游戏吧
晓查 发自 凹非寺 量子位 报道 | 公众号 QbitAI <动物森友会>这个游戏,任天堂400块钱卖给你们真是亏大了. 本来是一款社交养成类游戏,被大家玩成了cosplay现实世界.有 ...
最新文章
- 北京公交线路查询（离线）
- 基于IFC的大型三维城市群体——智慧城市模拟
- 第二章 数据结构 【完结】
- TRDD got lost again
- Tomcat和搜索引擎网络爬虫的攻防
- 燕山大学计算机学院官网,燕山大学信息科学与工程学院(专业学位)计算机技术保研夏令营...
- 监听器第一篇【基本概念、Servlet各个监听器】
- 推荐5款好用的安卓版RSS应用
- CF GYM 100703G Game of numbers
- java并发:初探sleep方法
- 一说起丁克，我们普遍的认知就是，不生孩子
- openstack创建的实例不能使用ssh登录
- TCP新手误区–数据校验的意义
- Oracle 11g R1/R2 真正应用集群（RAC）基础
- 学习c语言的编程游戏,扫雷游戏-C语言编程学习
- WEB打印插件Lodop
- 将pandas中object类型转换为int类型
- 官方正式（简/繁/英/日/韩文) Windows XP sp3 下载
- 服务器装系统报0x0000005d,安装Win8系统提示Error Code：0x0000005D错误怎么办
- win10时间线时间轴(Timeline)如何关闭隐藏？