目前，虽然人工智能（AI）的研究还处在起步阶段，但欧盟已经为其制定了道德准则。

据美国科技网站The Verge的报道，经过52名专家的商讨，欧盟委员会于4月8日发布了人工智能道德准则。该准则的出台，标志着欧盟在寻求推广人工智能产业发展的同时，将立足于强化产业的道德水准。

欧盟公布的人工智能道德准则封面

欧盟希望在人工智能融入社会以前，未雨绸缪，制定相关准则，规范其未来发展。

参与起草制定这些准则的IBM欧洲法律部门副部长利亚姆·本纳姆表示：“（制定这些准则）就像在造房子之前，需要先打地基。而现在就是做这些事情的时候。”

该道德准则要求“值得信赖”的人工智能应当满足如下7个条件：

1.人类的力量和监督：人工智能不能侵犯人类的自主性。人们不应该被AI系统操纵或胁迫，而应该能够干预或监督软件做出的每一个决定。

2.技术的健全性和安全性：人工智能应该安全且准确。它不应该易于受到外部攻击的影响，且应该相当可靠。

3.隐私和数据管理：人工智能系统收集的个人数据应该是安全的、私有的。它不应该让任何人接触，也不应该轻易被盗。

4.透明性：用于创建人工智能系统的数据和算法应该是可访问的，软件所做的决定应能被人类理解和跟踪。换句话说，操作员应能够解释AI系统所做的决定。

5.多样性、非歧视和公平性：人工智能提供的服务应面向所有人，无论年龄、性别、种族或其他特征。同样，系统不应该在这些方面存在偏见。

6.环境和社会福祉：人工智能系统应该是可持续的（即它们应该对生态负责）并“促进积极的社会变革”。

7.问责制：人工智能系统应该是可审计的，并被纳入企业可举报范畴，以便受到现有规则的保护。应事先告知和报告系统可能产生的负面影响。

人工智能，以人为本

欧盟负责数字经济的官员玛利亚·加布里埃尔解读了这7项要求。她认为，在人工智能使用上，“透明性”是一切的关键，同时也要“以人为本”。

加布里埃尔表示：“任何公司在使用人工智能技术时，其受众都应当具有知情权。人们应该知道和他们进行沟通的是算法还是真人。同时，任何由算法做出的决定，都必须由公司出面解释。”

玛利亚·加布里埃尔解读人工智能道德准则 图自视觉中国

举例来说，如果一家保险公司依赖人工智能算法拒绝了某项赔偿申请，那么他们应该让消费者知道做出这项决定的依据。同时，还应由人类出面，进行这项决定的最终判断。

此外，加布里埃尔认为，隐私和数据管理同样非常重要。任何使用人工智能的机构，都应当保护好系统收集的数据，这些数据只能被人工智能和本人访问。

除了技术方面的准则以外，欧盟制定的准则里还包含了一些相对抽象的概念，例如其要求人工智能必须具有多样性、非歧视和公平性，同时也能够“促进积极的社会变革”。

由于现阶段人工智能的训练仍旧依赖于巨量数据的输入，因此这些数据将极大程度左右人工智能的公平性。

加布里埃尔举例说：“如果一家公司使用人工智能系统进行招聘，而他们所使用的数据来源于另一家大量招聘男性雇员的公司，那么这一系统将很可能拒绝女性雇员的加入。”

“如果人们使用不公平的数据来训练人工智能，那么这将毫无疑问成为一个大问题。”

另辟蹊径，欧盟想成为技术道德领域的领军者

欧盟已经不是第一次为数字技术制定规则和法律了。

2018年5月，欧洲联盟出台《通用数据保护条例》（GDPR），规范数据收集者的操作，禁止网络公司以默认隐藏的模式收集用户数据，同时保障用户对自己数据完全自主的权利。对于违规者，欧盟将会处以巨额罚款。

此次，欧盟表示，希望自己成为AI道德领域的领导者，如同制定《通用数据保护条例》（GDPR）一样，率先规范科技领域的法律和道德，保护公众的数字权利。

据The Verge分析，由于欧盟在投资和前沿研究方面，已经无法与美国和中国一争高下，因此，它才迫不得已选择了伦理作为塑造技术未来的最佳选择。

相对于欧洲，中国在人工智能领域的发展迅速 图自视觉中国

正如欧委会负责数字单一市场的副主席安斯普（Andrus Ansip）所说，“有道德的人工智能是一个能够达到双赢的主张，是欧洲在该领域的竞争优势——成为人们可以信赖的，以人为本的人工智能领导者。”

不过，欧盟在技术道德领域制定的一系列规则，也有可能成为这些技术发展的阻碍。

在当今前沿计算机科技中，大数据、云计算和人工智能的发展，都离不开巨量数据的支撑。而欧盟的《通用数据保护条例》为网络公司和研究机构的数据搜集设置了极大障碍。

同样，也有部分研究者怀疑，欧盟制定的人工智能道德准则，将会影响到这一产业的未来发展。

智库机构数据创新中心（Center for Data Innovation）的高级政策分析师艾琳·奇沃特（Eline Chivot）在接受The Verge采访时说：“欧盟希望通过制定道德标准，来确定自身在全球人工智能发展中的地位，我们对这种方法持怀疑态度。要成为人工智能伦理的领导者，首先你必须在人工智能领域遥遥领先。”

欧盟指出，提出人工智能道德准则只是第一步，未来他们还将邀请其他国家的企业和国际组织共同参与测试，制定以人为本的人工智能共识，并在G20峰会上与其他国家共同讨论。

————

编辑 ∑Pluto

来源：观察者

更多精彩：

☞泰勒定理的奇闻轶事

☞丘成桐：漫谈微分几何

☞Leibniz 如何想出微积分？（一）

☞线性相关和秩的物理意义

☞数学史上你认为最丑陋的公式是什么？

☞陶哲轩谈什么是好的数学

☞田渊栋：数学的用处（下篇）

☞你绝对没想过原来数学家这么流氓，一言不合就进行暴力证明

☞世界上最牛的五篇博士论文

☞数学中有哪些巧合让人眼前一亮？

☞算法立功！清华毕业教授美国被抢车，警察无能为力自己用“贪心算法”找回

☞学术史上的奇文：怎样用数学抓狮子

☞台大教授的反思：最难的一课 我们却没教给学生

☞麻省理工学院(MIT)研究生学习指导—— 怎样做研究生

☞分享 数学，常识和运气 ——投资大师詹姆斯·西蒙斯2010年在MIT的讲座

算法数学之美微信公众号欢迎赐稿

稿件涉及数学、物理、算法、计算机、编程等相关领域，经采用我们将奉上稿酬。

投稿邮箱：math_alg@163.com