关于欧盟人工智能法案我们需要了解什么？

在数据隐私和GDPR之后，欧盟希望通过欧盟人工智能法案在人工智能上留下自己的印记。以下是它是什么，它何时生效，以及它对整个世界的意义和Mozilla基金会的专家对此的评论。

自欧盟委员会公布可能是世界上最具影响力的法律框架之一——欧盟人工智能法案的草案以来，已经过去了将近一年的时间。根据Mozilla基金会的说法，该框架仍在进行中，现在是时候积极参与塑造其方向的努力了。

Mozilla 基金会的既定使命是努力确保互联网仍然是一个对每个人都开放和可访问的公共资源。自2019年以来，Mozilla一直密切关注欧盟AI法案。

Mozilla 基金会的执行董事 Mark Surman 和高级政策研究员 Maximilian Gahntz，讨论了 Mozilla 对 AI 的关注和立场、欧盟 AI 法案的关键事实及其在实践中如何运作，Mozilla 改进它的建议，以及每个人参与这一过程的方式。

欧盟人工智能法案正在制定中，即使您不在欧盟，这也是一件大事

2019年，Mozilla将AI确定为互联网健康的新挑战。其基本原理是，人工智能为我们做出关于我们的决定，但并不总是与我们一起。

人工智能做出的决定有可能帮助人类，但也可能伤害我们。人工智能可以放大历史偏见和歧视，将参与度置于用户福祉之上，并进一步巩固大型科技公司的力量并使个人边缘化。

Surman 指出：“在过去几年中，值得信赖的人工智能对我们来说一直是一件重要的事情，因为数据和机器学习以及我们今天所说的人工智能是互联网的核心技术和社会商业结构，涉及互联网如何与社会和我们所有人的生活相交。”

随着人工智能越来越多地渗透到我们的生活，Mozilla同意欧盟的观点，即管理人工智能的规范和规则的改变是必要的。

关于欧盟人工智能法案，首先要注意的是，它并不完全适用于欧盟的组织或公民。这种涟漪可能会以类似于GDPR的影响在世界各地感受到。

《欧盟人工智能法案》适用于位于欧盟境内的人工智能系统的用户和提供者，在欧盟以外建立的供应商，他们是在欧盟内将人工智能系统投放市场或调试的来源，以及当系统产生的结果在欧盟使用时，在欧盟以外建立的人工智能系统的提供者和用户也会受此影响。

这意味着开发和部署人工智能系统的组织将不得不遵守欧盟人工智能法案或完全退出欧盟。

关于欧盟人工智能法案的另一个关键点是，它仍然是一项正在进行的工作，需要一段时间才能生效。

自2021年4月欧盟人工智能法案的第一稿发布以来，参与这一过程的每个人都一直处于准备当中。欧盟议会必须决定哪些委员会以及这些委员会中的哪些人将就此开展工作，民间社会组织有机会阅读案文并发表其立场观点。

正如Gahntz所说，我们现在所处的点是令人兴奋的部分开始的地方。这是欧盟议会考虑从指定委员会和第三方收到的意见的时候。一旦欧洲议会巩固了他们对“可信赖的人工智能”一词的理解，他们将提交他们关于如何改变初始草案的想法。

欧盟成员国也将做同样的事情，然后议会，委员会和成员国之间将进行最后一轮谈判，届时欧盟人工智能法案将通过成为法律。这是一条漫长而曲折的道路，根据Gahntz的说法，我们至少要考虑一年的时间范围，加上通过成为法律到实际生效之间的过渡期。

鉴于GDPR，过渡期为两年。因此，关于欧盟人工智能法案生效，它可能在2025年之后。

定义和分类 AI 系统

在进入欧盟人工智能法案的细节之前，我们应该停下来问问它究竟适用于什么。没有广泛同意的人工智能定义，因此欧盟人工智能法案提供了一个附件，定义了属于其范围内的技术和方法。

欧盟委员会选择了一个广泛而中立的人工智能系统定义，将它们指定为软件，“该软件是用附件一中列出的一种或多种技术和方法开发的，并且对于一组给定的人类定义的目标，可以生成诸如内容，预测，建议或影响他们与之互动的环境的决定”。

欧盟人工智能法案附件中提到的技术包括机器学习方法以及基于逻辑和知识的方法。它们的范围很广，以至于对“提议规范贝叶斯定律的使用”提出了批评。虽然这是在商业和研究需求以及公民关注之间游走的一条细线，但这些说法似乎并没有抓住拟议立法理念的要点：所谓的基于风险的方法。

在欧盟人工智能法案中，人工智能系统根据其构成的感知风险分为4类：完全禁止不可接受的风险系统（尽管存在一些例外情况），高风险系统受可追溯性，透明度和稳健性规则的约束，低风险系统要求供应商透明，以及未设置要求的最低风险系统。

因此，这不是监管某些技术的问题，而是根据应用程序带来的风险来规范这些技术在某些应用程序中的应用。就技术而言，拟议的框架指出，为了跟上该领域的发展，可能需要加班加点进行调整。

被排除在欧盟人工智能法案范围之外的是专门为军事目的开发或使用的人工智能系统。在与欧盟或其一个或多个成员的国际执法和司法合作协议框架内使用人工智能系统的第三国和国际组织的公共当局也不受欧盟人工智能法案的约束。

操纵人类行为以剥夺用户自由意志的人工智能应用程序和允许欧盟成员国进行社会评分的系统被归类为构成不可接受的风险，并被彻底禁止。

高风险人工智能系统包括生物特征识别、关键基础设施（水、能源等）管理、用于教育机构分配或人力资源管理的人工智能系统，以及用于获取基本服务（银行信贷、公共服务、社会福利、司法等）、用于警察任务以及移民管理和边境管制的人工智能应用。

然而，生物鉴别身份的应用包括若干例外情况，例如在恐怖主义、贩运人口或儿童色情制品案件中寻找失踪儿童或嫌疑人的下落。欧盟人工智能法案规定，高风险人工智能系统应记录在欧盟委员会维护的数据库中。

有限风险系统主要包括各种机器人。对于这些，关键要求是透明度。例如，如果用户正在与聊天机器人交互，则必须告知他们这一事实，以便他们可以就是否继续做出明智的决定。

最后，根据委员会的说法，不会对公民权利构成风险的人工智能系统，如垃圾邮件过滤器或游戏，不受监管义务的约束。

欧盟人工智能法案是实现可信赖人工智能的一种方式

基于风险的方法试图将监管对开发和部署人工智能系统的人的影响降到最低。因此，查看特定于每个用例的风险也很重要。

我们的想法是将注意力集中在棘手的地方，那里会给人们的安全、权利和隐私带来风险等问题。这也是我们想要关注的部分，监管本身并不是目的。

我们希望通过我们的建议和围绕这一点的宣传工作来完成。法规中侧重于减轻或防止风险实现的部分在最终的欧盟人工智能法案中得到加强。

希望没有人受到伤害，AI能够成为所有人的净利益。

（本文出自SCA安全通信联盟，转载请注明出处。）

关于欧盟人工智能法案我们需要了解什么？相关推荐

一部保护基本权利的欧盟人工智能法：一份民间机构的声明
(全文中文约6000字,阅读约需20分钟) [编者按]最近接了几个元宇宙相关的项目,有的α版已经上线目前在调整完善,有的还在努力中.虽然很尊重大家对于创造和永恒的追求,但私以为灵魂需有所归依.肉身也需 ...
欧盟人工智能立法提案的核心思想及未来影响分析
摘要: 欧盟人工智能立法提案提出了对人工智能系统实行分级监管的思想和合规评估要求,旨在于欧盟范围内规范人工智能的可信应用,进一步鼓励人工智能领域的投资和创新.立法提案重点对高风险人工智能系统的全生 ...
没中、美这么大的统一市场，欧盟人工智能发展面临双重挑战
来源:澎湃新闻作者:胡逸涵为在人工智能领域追赶中美两国,近日,欧盟将2020年前对人工智能(AI)的投资额增加约70%,至15亿欧元. 欧盟希望到2020年底,整个欧盟在AI技术领域(包括私人 ...
欧盟芯片法案正式通过，不希望再受制于美国芯片，两兄弟闹掰了
欧盟27个成员国经过多番商讨之后终于敲定了欧洲的"芯片法案",确定提供高达450亿欧元的资金扶持欧洲本土的芯片企业,由此建立它们芯片产业,目前无疑是为了摆脱对美国芯片的依赖. 欧洲 ...
人工智能向“上”生长，可信AI渐行渐近
一位刚刚上路的新手驾驶员,如何成长为「老司机」?显然,Ta必须经过足够时间和里程的驾驶练习,才能够熟练.从容地应对各种可能出现的路况和紧急事件.所以尽管自动驾驶系统也会在投入使用之前历经大量的真实道路 ...
摩根大通打造ChatGPT式人工智能服务；度小满开源金融大模型“轩辕”；2022年中国数字孪生市场规模超100亿元丨每日大事件...
‍ ‍数据智能产业创新服务媒体 --聚焦数智 · 改变商业企业动态阿里巴巴:网传裁员为谣言,今年预估新招15000人 5月25日,阿里巴巴集团官微宣布,2023年六大业务集团总计需新招15000人 ...
互联网晚报 | 马斯克脑机接口公司获准启动人体临床试验；特斯拉车顶维权女车主被判败诉；近七百名应届生签协议后临毕业遭解约...
马斯克的脑机接口公司Neuralink获准启动人体临床试验马斯克的脑机接口公司Neuralink周四表示,已获得美国食品和药品管理局(FDA)批准,将启动首次脑植入物人体临床研究.Neuralink ...
互联网摸鱼日报(2023-06-16)
互联网摸鱼日报(2023-06-16) InfoQ 热门话题云器科技 CTO 关涛确认出席QCon北京站,探讨从 BI 到 BI+AI,新计算范式下的大数据平台走向 QCon 全球软件开发大会广州站 ...
关于AGI与ChatGPT，Stuart Russell与朱松纯这么看
机器之心机器之心专栏机器之心编辑部 2023 年 2 月 13 日 AAAI SafeAI 研讨会上,加州大学伯克利分校教授 Stuart Russell 和北京通用人工智能研究院(BIGAI)朱 ...

关于欧盟人工智能法案我们需要了解什么？

关于欧盟人工智能法案我们需要了解什么？相关推荐

最新文章

热门文章