0x00背景

近期全国信息安全标准化技术委员会大数据安全标准特别工作组发布了人工智能安全标准化白皮书（2019版），针对人工智能安全的问题进行一个全面的探讨，经细读该白皮书后，留一下此笔记。

原文版权，来源：全国信息安全标准化技术委员会大数据安全标准特别工作组

0x01 概述

人工智能（Artificial Intelligence，简称AI），阿尔法狗对战中国的围棋高手，结果阿尔法狗的AI进入人民的视野，哇哇，人工智能来临了。我们看到了很多人工智能的应用（智能电话营销：打电话给你的是机器人，回复你的也是机器人，陪你聊天的也是机器人；各种在线客服机器人：你问啥，她回答啥，还挺真实的，不过还是偶尔傻逼一下等到）。

0x02 技术架构

0x03 人工智能安全风险分析与内涵

1、新的攻击威胁：

攻击方法：对抗样本的攻击、数据投毒、模型窃取、人工智能系统攻击

攻击影响：模型的训练、测试和推断过程中均可能遭受攻击；危害数据和模型的机密性、完整性和可用性。

2、人工智能安全隐患

①算法模型安全隐患：算法是人写的，模型也是人写的，都可能有缺陷，有歧视，有黑箱操作的可能。

②数据安全与隐私保护隐患：采集数据、使用数据、存储数据都不同程度的滥用泄露。

③基础设施安全隐患：简单理解，人工智能也得依赖数据库、操作系统、代码。这些就是基础设施，一旦这些基础被黑客控制了，数据就被泄露了。

④应用安全隐患：自动驾驶（黑客远程入侵控制导致撞车）、生物特征识别（小学生用照片成功忽悠人脸识别）、智能音箱等等。

⑤人工智能滥用：利用语音合成技术假扮受害人亲属实施诈骗、人工智能技术破解登录验证码的效果越来越好、且难以防范、利用人工智能技术模仿人类，如换脸、手写伪造、人声伪造、聊天机器人。

3、安全影响：

国家安全影响：人工智能可用于构建新型军事打击力量，对国防安全造成威胁。

社会伦理挑战：智能人工机器人替代人，造成大量失业；人们不去恋爱了，就和机器人恋爱。

人身安全风险：抽象

0x04 人工智能安全标准体系

0x05 人工智能相关安全标准

0x06 人工智能实践

B.1 百度人工智能安全实践：整体解决方案——AdvBox，对抗样本的增强。

B.2 猎户星空人工智能安全实践：豹小秘、豹花瓶等产品，严格按照各种技术要求进行平台建设。

B.3 清华大学人工智能安全实践：人工智能对抗性攻防，RealSafe是开源标准程序库，业界可以免费对其进行非商业用途使用
B.4 依图人工智能安全应用实践：典型人工智能安全问题，依图提出了人工智能系统安全技术的相关要求与解决方案。依图将人工智能系统分为了设备要素和网络要素两大要素的安全

B.5 IBM人工智能安全实践：人工智能三原则，人工智能公平360工具箱”（AIF360）；AIF360可帮助检测、缓解或消除机器学习模型中的偏见
B.6 深信服人工智能安全实践：深信服安全云脑具备威胁情报和未知威胁检测能力

B.7 360 人工智能安全实践：360通过基于人工智能分析的360“安全大脑”，打造智能交通安全动态防御体系，全面保障智能交通安全
B.8 阿里巴巴人工智能安全实践：实人认证、问答型对抗验证码
B.9 华为人工智能安全实践：华为结合人工智能技术提出了防偷窥和用户隐私保护的解决方案。手机利用人工智能技术可以检测到是否存在机主/非机主、多人注视屏幕的情况，当手机识别出有陌生人或多人注视屏幕时，会将手机屏幕显示的私密信息自动
隐藏，以便保护用户的隐私信息

此笔记是原创，但相关图表、分析、结论的版权来源：全国信息安全标准化技术委员会大数据安全标准特别工作组

人工智能安全标准化白皮书（2019版）笔记相关推荐

基于python的modbus协议编程_IM5D.6B利用（2.4G）无线模块实现远程控制（基于智能编程任务赛，2019版）...
点击「蓝色微信名」关注更多比赛信息引言在<中国儿童青少年威盛中国芯计算机表演赛>从第十七届活动开始,搭建了一个全新的互联网技术支持平台,实现了网络在线比赛,在全国建立了三十个省级赛 ...
《人工智能标准化白皮书（2018版）》发布|附下载
来源:光明网概要:1月18日下午,2018人工智能标准化论坛在京召开,本次论坛发布了<人工智能标准化白皮书(2018版)>. 1月18日下午,2018人工智能标准化论坛在京召开,本次论坛 ...
《工业大数据白皮书》2019版正式发布
来源:悟空智能科技近日,由中国电子技术标准化研究院.全国信息技术标准化技术委员会大数据标准工作组主编,工业大数据产业应用联盟联合主编,联想集团等多家联盟成员企业参编的<工业大数据白皮书(201 ...
核心解读 - 2022版智慧城市数字孪生标准化白皮书
核心解读 - 2022版智慧城市数字孪生标准化白皮书前言:城市数字孪生基本概念一.城市数字孪生概述 1.城市数字孪生内涵及概念模型 2.城市数字孪生典型特征 3.城市数字孪生相关方 4.城市数字孪 ...
大数据标准化白皮书（2020版）附下载地址
大数据是新时代最重要的"数字金矿",是全球数字经济发展的核心动能.数据资源如同农业时代的土地.劳动力,工业时代的技术.资本,已经成为信息时代重要的基础性战略资源和关键生产要素,是 ...
【白皮书分享】2022数据中台交付标准化白皮书-阿里云+埃森哲.pdf（附下载链接）...
省时查报告-专业.及时.全面的行研报告库省时查方案-专业.及时.全面的营销策划方案库 [免费下载]2022年2月份热门报告盘点 2022年中国人工智能人才培养报告.pdf 2021中国AI商业落地市 ...
推荐：周志华《机器学习》西瓜书精炼版笔记来了！
西瓜书<机器学习>无疑是机器学习的必读书籍.本书作为该领域的入门教材,在内容上尽可能涵盖机器学习基础知识的各方面. 为了使尽可能多的读者通过本书对机器学习有所了解, 作者试图尽可能少地使用 ...
中文课程！台大李宏毅机器学习公开课2019版上线
授权转载自机器之心, 未经许可禁止二次转载台大教授李宏毅的机器学习课程经常被认为是中文开放课程中的首选.李教授的授课风格风趣幽默,通俗易懂,其课程内容中不仅有机器学习.深度学习的基础知识,也会介绍 ...
最新发布！《阿里云实时计算 Flink 版解决方案白皮书-2021版》开放下载
简介:阿里云实时计算 Flink 版解决方案白皮书-2021版正式发布- Apache Flink:全球领先的开源大数据计算引擎 Apache Flink 是一个开源的分布式大数据处理引擎,可对有限数 ...

人工智能安全标准化白皮书（2019版）笔记