构建人工智能评测平台（体系）
2022年6月1日，上海交通大学教授 李仁涵，在清华一场论坛上的分享。
主要有四点体会：
一是国际人工智能治理正在加速可操作化（为什么）
国际技术标准组织（IEEE，ISO/JTC1）2016年开始，2021年进入井喷期，比如，2021年6月出台的IEEEP7000-P7013，系统设计期间解决伦理问题的模型过程的标准。
具体方面：
数据治理领域，数据信托、公共数据开放、公民数字身份
算法治理领域，政府投资可信AI、公共部门采用可信AI
网络治理领域，间接管制
监管政策领域，监管机构、监管框架、监管基础能力
产业政策领域，中小企业、技术与场景人才培养
社会政策领域，数字技能培训、人工智能知识普及
二是AI发展带来的社会属性问题（是什么）
人工智能是一种通过机器模拟人类认知能力的技术。对它的要求也需要像人的要求那样，才能和谐相处。
随着人工智能技术的发展，社会属性问题随之而来。主要有：一是安全问题。已经发生，只要涉及到国家安全、社会安全、经济安全、个人安全等。二是伦理问题。也已经发生，主要涉及到人们的隐私、公平、透明、歧视、就业等。三是不可控或变异安全问题，尚未发生，属于非常规问题，未来如果出现，有可能会不可控，对人与社会造成伤害。
因此，需要从技术与治理两个层面应对AI带来的问题。一是发挥技术支撑作用，建立可信可控的AI。二是加强国内治理，对标国际规则。通过制定标准、规则、法律、监管和执法规范AI治理。
三是建立人工智能平台（体系）（怎么办）
建立AI评测平台（体系）有助于AI治理落地。可以先从常规安全问题和伦理问题着手，非常规安全问题（不可控或变异）可以开展前瞻性研究。具体有以下几点建议：
在研究量化的AI技术衡量指标基础上，健全AI数据标准、测评、知识产权等服务体系，打造标准化格式的数据集。
围绕产业术语、参考框架、算法模型、基础理论、关键技术以及产品和服务、行业应用、安全（可控与非可控）和伦理等等，为各领域AI技术应用提供标准、指南和实践案例等。
建立针对AI技术标准化评测方法体系（国际化），形成有效的AI监管和审核工具。
四、人工智能伦理问题能否通过特定的治理工具得到解决？在AI评测平台中如何考虑伦理问题？
短时间只能解决小部分，整个过程还是要从无序到有序。伦理是柔性的，如果有刚性的比如法律法规，技术标准等，则比较好实现。比如，招聘中，就存在歧视的问题，很难有统一的评判标准，都是公司从自身需求出发。
将来，AI评测平台或者说治理工具都是多样化的，扁平化的，不像过去由上到下贯通的。
AI评测平台对于伦理需要进一步开发研发，然后标准、法律法规同步进行。这个过程需要实践、案例、国际合作等多元主体共建。
构建人工智能评测平台（体系）相关推荐
- 汇医慧影智慧影像整体解决方案：云计算、大数据、人工智能三大平台体系筑起抗击疫情新防线 | 百万人学AI评选
2020 无疑是特殊的一年,而 AI 在开年的这场"战疫"中表现出了惊人的力量.站在"新十年"的起点上,CSDN[百万人学AI]评选活动正式启动.本届评选活动在 ...
- 构建人工智能产学研生态体系，中国软件行业协会智能应用服务分会在京正式成立
2018年4月3日,中国软件行业协会智能应用服务分会成立仪式在北京隆重举行,众多来自人工智能产学研各界的专家.代表共同见证了这一历史时刻. 中国软件行业协会常务副秘书长陈宝国.副秘书长李璐.CSDN创 ...
- 构建智慧城市管理体系，京东方智慧物联平台赋能细分场景
随着万物互联成为人们的生活常态,人与物与信息流动性的增长消解了城市区域的封闭属性,带来了一系列新的发展与挑战.为实现长远的可持续发展,构建智慧城市管理体系,成为更多城市管理者的首要选择.而要进行智慧城 ...
- 如何构建人工智能平台
概述 我们将总结我们从行业中的 AI 平台中学到的元素.包括什么是人工智能平台,平台有哪些组件,平台可以做什么,它将如何帮助我们通过人工智能实现目标.然后尝试确定 AI Platform 的关键问题和 ...
- 01.基于元数据的管理体系构建---统一流程平台
统一流程平台在元数据系统中以控制中枢的形式存在,让业务描述与业务流程串联,最终完成数据的加工/验证/汇集/最终输出等一系列工作. 1.统一流程平台的发展过程 在推进统一流程平台过程中,收到过" ...
- 国家公布人工智能四大平台 AI的春天到了？
11月17日消息,日前,科技部召开新一代人工智能发展规划暨重大科技项目启动会,并公布首批国家新一代人工智能开放创新平台名单,标志着新一代人工智能发展规划和重大科技项目进入全面启动实施阶段. 11月17 ...
- 国家计划统筹布局哪些人工智能创新平台？
来源:智造智库 建设布局人工智能创新平台,是强化对人工智能研发应用的基础支撑.未来,国家层面计划大力促进各类通用软件和技术平台的开源开放,且按照军民深度融合的要求和相关规定,推进军民共享共用.人工智能 ...
- 中科院发布《2019人工智能发展白皮书》，强调人工智能开放平台重要性(结尾附下载)...
资料来源:中国科学院大数据挖掘与知识管理重点实验室.产业智能官 近日,中国科学院大数据挖掘与知识管理重点实验室发布了<2019年人工智能发展白皮书>, 对人工智能关键技术(计算机视觉技术. ...
- 中国电子与IBM携手构建健康云平台；微软推3款机器学习工具；【软件网每日新闻播报│第9-26期】
小编点评 2015年,中国电子和微软成立合资公司, 中国电子占股51%, 国产操作系统错失先机, 内牛满面. 昨天, 中国电子又和IBM凑一起搭了个健康云平台, IBM抢占健康云的坑, 国产云该如 ...
最新文章
- python django项目断点调试
- Flask and Ajax Post HTTP/1.1 400
- 【深度学习】图像数据集处理常用方法合集（部分基于pytorch）
- MathType 换行后无法对齐，怎么都对不齐！！！强迫症晚期（见图）
- 汇编指令-adr与ldr伪汇编区别(8)
- rn php,RN和React路由详解及对比
- ES分布式架构及底层原理
- 声控小夜灯方案开发 声控小夜灯IC芯片方案开发MCU
- 视频如何转换html链接地址,视频肿么生成html代码放到自己的网页去求解答法案...
- some phrase for oral english
- 配置管理口管理曙光服务器
- 计算机文字输入程序,电脑上怎么输入汉字
- 小米路由器编程器强刷breed,可用于救砖,恢复官方系统,恢复SN
- 趣图：我说自己菜 vs 大佬说自己菜
- AI溃败，被Dota2职业战队打蠢！独家专访OpenAI：我们发现一个Bug
- 红叶李之虚拟机以及Centos安装
- Windows如何修改桌面右键的菜单栏
- 【重磅新课上线】一建通信与广电实务（老杨）
- List-反向迭代器
- 什么是GMT,什么是UTC - GMT,UTC是什么意思啊？