可信人工智能白皮书（概要）
来源：中国信息通信研究院和京东探索研究院
发展背景
- 人工智能带来巨大机遇的同时，也蕴含着风险和挑战
- 2020年，IDC测算，全球人工智能产业规模为1565亿美元；信通院测算，我国人工智能产业规模为434亿美元
- xxx强调：要加强人工智能发展的潜在风险研判和防范，维护人民利益和国家安全，确保人工智能安全、可靠、可控
- G20集团提出“G20人工智能原则”，强调要以人为本、发展可信人工智能
人工智能风险
- 算法安全导致的应用风险：以深度学习为核心的技术存在脆弱性、易受攻击的缺陷，如Uber自动驾驶汽车未及时识别路上行人而致其死亡、不法人工智能公司利用3D面具合成照片破解多国人脸识别系统
- 黑箱模型导致算法不透明：高度复杂性和不确定性、难以直观理解决策原理
- 数据歧视导致智能决策偏见：算法结果受训练数据影响，数据可能存在偏见歧视，如美国芝加哥法院的反追风险评估系统被证明对黑人有歧视
- 系统决策复杂导致责任事故主体难以界定：多因素决策下，自动驾驶和机器人的事故频发，但对于所有者还是软件开发者的责任难以用现行法律界定
- 数据滥用导致隐私泄露风险：生物识别信息包含大量个人隐私
可信人工智能发展
- 2019年6月，G20提出“G20人工智能原则”，明确提出可信赖的人工智能（Trustworthy Artificial Intelligence）的发展迫切性
- 2017年11月，何积丰院士在国内首次提出可信人工智能概念，范畴包含安全性、可解释、公平性、隐私保护等内容
- AAAI、ACM等会议持续开展相关专题研讨，近年来论文量剧增
- 欧盟、美国纷纷发布相关白皮书和行政命令，从今可信人工智能发展
- 国际标准组织ISO/IEC、国内的信标委、信安委持续推进相关工作
- 企业积极探索：腾讯“科技向善”、微软“AI六大原则”、Google“AI原则”、IBM“人工智能的日常伦理”、旷视“人工智能治理研究院”、京东“可信赖AI六大维度”
可信人工智能框架
- 可信特征：可靠可控、透明可释、数据保护、明确责任、多元包容
- 可信支撑技术：稳定性技术、可解释性技术、隐私保护技术、公平性技术、可视化技术
- 企业可信实践：系统安全涉及、可解释性评估、数据风险评估、责任机制设设计、公平性设计
- 行业可信实践：标准体系、评估体系、保障体系
可信人工智能支撑技术
- 系统稳定性技术：防范中毒攻击（数据）、对抗攻击（机制）、后门攻击（供应链）
- 可解释性增强技术：深度学习包括随机梯度下降等常见算法的有效性尚未由科学理论支撑，复杂黑盒模型难以解释，模型复现困难
- 隐私保护技术：基于差分隐私（加入扰动）和基于联邦学习（分布式模型训练）隐私保护方法相结合
- 公平性技术：个体公平性和群体公平性
可信人工智能白皮书（概要）相关推荐
- 新一代人工智能白皮书（2020年） ——产业智能化升级
全文共计1278字64图,预计阅读时间10分钟 来源 | CIE智库(转载请注明来源) 编辑 | 蒲蒲 当前,我国经济发展进入新阶段,既面临产业转型升级与重塑国际经济格局的机遇,也面对传统要素红利衰减 ...
- 腾讯发布2020人工智能白皮书：泛在智能
来源:腾讯研究院 7月10日,在世界人工智能大会腾讯论坛上,腾讯集团副总裁.腾讯研究院院长司晓正式发布了<腾讯人工智能白皮书:泛在智能>(以下简称白皮书). 作为腾讯第一份全面介绍AI.阐 ...
- IDC发布对话式人工智能白皮书|附下载
来源:专知丨公众号 近日,全球著名的信息技术.电信行业和消费科技咨询公司IDC(国际数据公司, International Data Corporation)发布了<对话式人工智能白皮书> ...
- 全奖博士 | 英国利物浦大学可信人工智能组招收博士
转自:AI求职 The University of Liverpool 英国利物浦大学(University of Liverpool),始建于 1881 年,是一所位于英国利物浦市的公立研究性大学, ...
- WAIC 2022 | 洞见科技在可信AI论坛联合发布《可信人工智能产业生态发展报告》
2022年9月1日,「2022世界人工智能大会·可信AI论坛」在上海成功举办,洞见科技合伙人.副总裁李博受邀出席论坛.会上,洞见科技与中国信通院.京东探索研究院.清华大学.中国科学技术大学.交通银行. ...
- 人工智能将再创新高,清华发布人工智能白皮书
2019独角兽企业重金招聘Python工程师标准>>> 在本次论坛上,由工业和信息化部中国信息通信研究院支持,清华大学互联网产业研究院联合中国云体系产业创新战略联盟发布了<20 ...
- 【人工智能】“可信”人工智能决策框架及实践
目录 01 一种可信智能决策框架 02 可信智能决策中的反事实推理
- 华东师范大学 软件工程 2020年可信人工智能优秀大学生夏令营机试
ECNU Online Judge - acm.ecnu.edu.cn A题用C++ STL的list,有30%的测试点会超时. C. 倒水 (找了一下,是这道原题,样例都一样) F. 给出二叉树的先 ...
- 2021华东师范大学软院保研夏令营（可信人工智能大学生夏令营）经验总结
首先 首先,我想简单介绍下华东师大软院:其实ECNU真的很强的,滑动吃饭大学(老梗了)本身软件工程的专业.学科排名都非常的高. 自身情况 本人来自于一个四非大学,物联网工程专业,GPA:4.1 ...
- 2020华东师范大学可信人工智能优秀大学生夏令营（机试+面试）
首先,吹一波ECNU的软工,真的挺强的.由于疫情,夏令营改为线上举行.据老师说,因为线上,还扩大了人数,也许因此本双非才有资格入营,所以也算自己有运气吧.最终参加的有59个人,24个优营. 一.具体安 ...
最新文章
- 隆重介绍！一款新型基于姿势的人像实例分割框架
- Linux笔记16.磁盘管理
- DataList 外部事件获取DataList内部值
- 百度AI快车道南京站来了！接力魔都，继续听前沿技术、学最IN的解决方案
- 开源会议系统openmeetings安装
- presentViewController和pushViewController
- mac os qt项目编译_【Qt开发】第一个Qt程序Hello World！
- ctrl+shift+f被搜狗输入法占用的解决方法
- mpmath.psi python_【Python Package】mpmath学习笔记（2）
- pc控制iphone的软件_哪个备忘录便签app可以和PC电脑一块儿用
- 一台计算机数据丢失与恢复,数据丢失后的六种计算机恢复方法
- ADC最佳SNR性能取决于输入低噪声信号和基准电压
- 【208.11.21 直播QA】TI C2000 Piccolo单芯片——实现双轴伺服电机和马达控制
- 山西大同大学教务处教师端——可在PC端，手机端操作
- mybatis的xmly文件与必依赖
- 三种App软件开发模式：自建、外包、免编程自制，哪一种适合你？
- excel跑数计算机卡,电脑使用excel很卡甚至死机怎么样解决
- 嘉为蓝鲸CMP云管平台入选Gartner《中国云管理工具市场指南》
- coco数据集大小分类_VOC、COCO数据集类别
- Mamba Forever Out, Mamba Never Out