人工智能安全标准规范制定情况
人工智能安全、伦理、隐私保护等的安全相关 标准，大多仍处于研究阶段。
国外
IEEE正在开发人工智能伦理道德标准，规范人工智能安全设计 。2017 年 3 月， IEEE 在《IEEE 机器人与自动化》杂志发表了名为“旨在推进人工智能和自治系统的伦理设计的 IEEE 全球倡议书”，倡议通过基于伦理的设计原则和标准帮助人们避免对人工智能技术的恐惧和盲目崇拜，从而推动人工智能技术的创新。 目前，IEEE工作组正在开发IEEE P7000系列中涉及道德规范的7项伦理标准，分别对系统设计中伦理问题、自治系统透明度、系统/软件收集个人信息的伦理问题、消除算法负偏差、儿童和学生数据安全、人工智能代理等方面进行规范，包括：IEEE P7000《在系统设计中处理伦理问题的模型过程》、IEEE P7001《自治系统的透明度》、IEEE P7002《数据隐私处理》、IEEE P7003《算法偏差注意事项》、IEEE P7004《儿童和学生数据治理标准》、IEEE P7005《透明雇主数据治理标准》、IEEE P7006《个人数据人工智能代理标准》、IEEE P7007《道德驱动的机器人和自动化系统的本体标准》、IEEE P7008《机器人、智能和自治系统的伦理驱动推进标准》、IEEE P7009《自治和半自治系统的故障安全设计标准》和IEEE P7010《道德人工智能与自主系统的健康度量标准》。
ISO/IEC成立人工智能可信研究组，开展人工智能安全标准研究。
2017 年，人类未来研究所发布的《阿西洛马人工智能原则》,旨在确保AI为人类利益服务。有 1273 名人工智能 /机器人研究人员和其他 2541 人签署并支持了这些原则。呼吁全世界的人工智能领域在发展AI的同时严格遵守这些原则，共同保障人类未来的利益和安全[7]。
2019年3月，欧盟网络信息安全局（ENISA）发布了题为《建立网络安全政策发展框架——自主代理的安全和隐私考虑》的报告，旨在为欧盟成员国提供一个安全和隐私政策发展提供框架，以应对日益普及的AI应用。2019年4月，欧盟委员会发布正式版的《可信赖AI的伦理准则（Ethics Guidelines for Trustworthy AI）》，提出了实现可信赖人工智能全生命周期的框架。根据官方解释，“可信赖的人工智能”有两个必要的组成部分：一是应尊重基本人权、规章制度、核心原则及价值观；二是应在技术上安全可靠，避免因技术不足而造成无意的伤害。
国际和国外标准化组织在生物特征识别、自动驾驶等领域也开展了许多安全标准工作。以自动驾驶领域为例，2012年欧洲电信标准化协会（ETSI）发布ETSI TS 102941《智能交通系统可信和隐私管理》；2014年美国国家标准技术研究院（NIST）发布《车联网网络攻击防护安全框架》；2016年美国汽车工程师学会（SAE）发布SAE J3061《信息物理汽车系统网络安全指南》；ISO/TC22（道路车辆技术委员会）正在研制ISO/TR 15497《道路车辆——车用软件开发指南》等标准。
国内
我国成立国家人工智能标准化总体组与专家咨询组，加强人工智 能安全标准研制工作。目前，全国信息安全标准化技术委员会（TC260）已在生物特征识别、汽车电子、智能制造等部分人工智能技术、产品或应用安全方面开展了一些标准化工作。在生物特征识别安全方面，TC260已发布GB/T 20979-2007《信息安全技术 虹膜识别系统技术要求》标准，正在研制《基于可信环境的生物特征识别身份鉴别协议》《指纹识别系统技术要求》《网络人脸识别认证系统安全技术要求》等标准；在自动驾驶安全方面，2017年TC260立项《信息安全技术 汽车电子系统网络安全指南》标准项目，这是我国在汽车电子领域第一个网络安全国家标准；在智能制造安全方面，TC260正在研制《工业控制网络监测安全技术要求及测试评价方法》《工业控制网络安全隔离与信息交换系统安全技术要求》《工业控制系统产品信息安全通用评估准则》《工业控制系统风险评估实施指南》等工控安全标准。
参考
信通院人工智能安全白皮书
人工智能安全标准规范制定情况相关推荐
- 《新一代人工智能伦理规范》发布
来源:科技部战略规划司 9月25日,国家新一代人工智能治理专业委员会发布了<新一代人工智能伦理规范>(以下简称<伦理规范>),旨在将伦理道德融入人工智能全生命周期,为从事人工智 ...
- 重磅！《新一代人工智能伦理规范》发布丨附全文
9月25日,国家新一代人工智能治理专业委员会发布了<新一代人工智能伦理规范>(以下简称<伦理规范>),旨在将伦理道德融入人工智能全生命周期,为从事人工智能相关活动的自然人.法人 ...
- 10位女性大咖谈AI安全：人工智能需要尽快制定规则
10位女性大咖谈AI安全:人工智能需要尽快制定规则 2014年,特斯拉创始人Elon-Musk发布了一个Twitter--"人工智能可能比核武器更危险",顿时引发行业热议,扎克伯格 ...
- 莱茵特机器人奖金制度_TUV莱茵携手国机智能合作中国机器人规范制定
中国广州2016年11月18日电 /美通社/ -- 2016 机器人及关键零部件检测和认证技术论坛(广州)于2016年11月16日在广州中国进出口商品交易会顺利召开.该论坛由国机智能科技有限公司(以下 ...
- 全球首个AI协同及大数据安全标准正在制定，创新工场参与推进
雷刚 发自 凹非寺 量子位 报道 | 公众号 QbitAI 全球首个AI协同及大数据安全领域国际标准,有望明年出台. 2019年3月,创新工场南京国际人工智能研究院执行院长冯霁代表创新工场当选为IE ...
- 回顾过去一年，AI人工智能领域的发展情况
对于人工智能(AI)领域来说,过去的一年堪称是个异常忙碌的年份.AI进步和登上新闻头条的速度让我们的日常生活中充满了令人敬畏和自豪的时刻.当然,有时候也充斥着恼人的想法,即我们的社会对AI时代的到来准 ...
- 欧盟或将成为全球人工智能道德规范引领者
文章经授权转载自赛迪智库(ID:ccidthinktank) 人工智能是这个时代最具变革性的力量之一,帮助我们解决社会难题的同时,也引发了一系列的伦理担忧.关注人工智能带来的安全.隐私.尊严等方面的风 ...
- python --人工智能专家系统---学生学习情况
一.前言 此实验还不太完整,就是简单地用于交作业. 后期有时间会修改具体逻辑. 如果有什么错误,请评论指出. 原理:创建知识库模块用于知识获取,建立知识库把各条知识用链表链接起来形成"知识规 ...
- （二）人工智能安全问题：《人工智能安全白皮书(2018)》摘要
以下内容摘自<人工智能安全白皮书(2018)> http://www.caict.ac.cn/kxyj/qwfb/bps/index_ ...
最新文章
- 去除ios input部分默认样式
- php去小城市找还是大城市,想去大城市工作？这是冲动还是理性的选择呢？
- mysql锁的一些理解简书_MySQL锁系列之锁的种类和概念
- boost::container实现devector选项程序
- mac系统 PDO连接数据库报错处理
- java scanner接收数组_java – 使用scanner将文件中的整数读入数组
- 六、表达式：前缀后缀
- Objective-C复制解析
- 解决VS2013或2017中类似于：error C4996: 'scanf': This function or variable may be unsafe的问题
- python-字符串的格式化输出format
- Java知识积累——参数个数可变的函数（Varargs）
- C++小游戏——迷宫
- 微信开放平台修改微信分享的小图标后,移动端显示的分享的小图标未改变的问题解决
- mysql opened tables_open_table与opened_table --2
- 什么是北向接口和南向接口？
- 生产质量分析方案，人机料法环全面解析，必看好文
- 使用Google身份验证进行ssh二次验证
- （附源码）app校园购物网站 毕业设计 041037
- 上溯造型和下溯造性（解耦合）
- 计算2的幂（C语言）