AI开发者大会:2020年7月3日09:50--10:10唐杰《人工智能的下一个十年》

导读:人工智能的第三次浪潮中,超越深度学习—ML和DL需要结合符号AI;自监督学习将会大放异彩。

  • Next10——认知与推理:大数据+知识+智能,从感知到认知;认知图谱,算法与认知科学的结合。知识图谱,认知推理,逻辑表达。
  • Next30——意识(让计算机具有自我意识):认知与推理+记忆+自我意识。有监督、无监督、强化、注意力,结合fine-tune可以实现全局工作理论。

博主评论:说实话,正好与博主前段时间被采访时所说的看法不谋而合,博主当时在展望AI未来的时候,就特别强调了无监督学习的重要性,以及在走向强AI的路上,非常有必要对AI+意识进行深度探讨与分析。

目录

2020年7月3日09:50--10:10唐杰《人工智能的下一个十年》

人工智能的第三次浪潮

AI趋势:从感知到认知

回顾机器学习

2018年的预训练模型BERT

自监督学习——MoCo

第三代人工智能

超越深度学习—ML和DL需要结合符号AI

算法是核心,计算机、数据是基础

认知图谱(Cognitive Graph) 一知识图谱,认知推理,逻辑表达

认知图谱:算法与认知的结合

和认知科学的结合

认知图谱的推理模型

认知图谱的推理模型:System1 VS System2

认知图谱的推理效果

挑战与未来

Next10——认知与推理:大数据+知识(Knowledge)+智能(Intelligence)

Next30——意识(让计算机具有自我意识):认知与推理(Reasoning)+记忆(Memory)+自我意识(Consciousness)

意识:全局工作理论——GWT


2020年7月3日09:50--10:10唐杰《人工智能的下一个十年》

人工智能的第三次浪潮

AI趋势:从感知到认知

回顾机器学习

2018年的预训练模型BERT

自监督学习——MoCo

  • 无需标记样本,即可学习图形表示
  • Momentum contrastive learning
  • 效果甚至超过有监督学习结果

第三代人工智能

  • 第一代——符号Al:符号模型 /规则模 型/感知机。
  • 第二代——感知智能:大数据驱动的统计学习方法初步实现 了针对文本、图像 、语音等的感知与识别。
  • 第三代——认知智能:张拔院士2016年提出第三代 人工智能雏形,DARPA 2018 年发布Al Next计划。核心思路是推进统计与知识推理融合的计算;与脑认知的融合。
  • 目前急需的是高质量超大规模知识图谱(Al的基础设施)以及对知识的理解能力(面向认知的深度学习算法)。

超越深度学习—ML和DL需要结合符号AI

算法是核心,计算机、数据是基础

认知图谱(Cognitive Graph) 一知识图谱,认知推理,逻辑表达

认知图谱:算法与认知的结合

Question:  Who is the director of the 2003 film which has scenes in it filmed at the Quality Cafe in Los Angeles? 
提问:谁是这部2003年的电影的导演,这部电影的场景是在洛杉矶的Quality咖啡馆拍摄的?

和认知科学的结合

认知图谱的推理模型

  • System 1: 一Knowledge expansion by association in text when reading
  • System 2: 一Decision making w/ all the information

认知图谱的推理模型:System1 VS System2

认知图谱的推理效果

挑战与未来

Next10——认知与推理:大数据+知识(Knowledge)+智能(Intelligence)

Next30——意识(让计算机具有自我意识):认知与推理(Reasoning)+记忆(Memory)+自我意识(Consciousness)

意识:全局工作理论——GWT

以下观点来自Carnegie Mellon University的图灵奖得主Manuel Blum的分析

  • 有意识学习:所谓的有意识学习,就是有目标的机器学习,给定数据,训练一个模型 ,通过模型进行分类(决策),所以有意识学习输出是一个短期记忆模型,但这个短期记忆模型比较简单:数据有限、无背景知识。
  • 无意识学习:所以无意识就对应着长期记忆模型,长期记忆模型有点类似半监督或者无监督学 习模型,或者当下比较流行的预训练和自监督学习;无意识处理对应多种长期记忆,所以无意识可以考虑多个不同的处理器,这些处理器之间 可以有链接,也可以没有,很多时候是并行处理
  • 但针对特定任务,比如有意识思考某个问题的时候,形成特定连接,包括无意识处理器(无监督模型)和有意识处理器(有监督模型)之间的连接,这里可以考虑 成fine-tune。当然连接权重可以通过外界反馈强化学习来实现。无意识处理器之间的连接以及和有意识处理器之间的连接可以类比为注意力机制。
  • 最后值得注意的是长期记忆的构造和实现,人脑记忆保存的是模型图,而不是概念图。每个长期记忆都可能是一个模型,可以生成样本, 具体学习方法,可以想象一下是一个层次聚类。通过这样就可以用有监督、无监督、强化、注意力、fine-tune来实现GWT模型。

AI开发者大会:2020年7月3日09:50--10:10唐杰《人工智能的下一个十年》相关推荐

  1. AI开发者大会:2020年7月3日09:10--09:30张钹《人工智能的发展现状与人才培养》

    AI开发者大会:2020年7月3日09:10--09:30张钹<人工智能的发展现状与人才培养> 目录 2020年7月3日09:10--09:30张钹<人工智能的发展现状与人才培养&g ...

  2. AI开发者大会:2020年7月3日09:30--09:50司罗《为商业搭建语言桥梁》

    AI开发者大会:2020年7月3日09:30--09:50司罗<为商业搭建语言桥梁> 目录 2020年7月3日09:30--09:50司罗<为商业搭建语言桥梁> 自然语言智能- ...

  3. AI:2020年WAIC世界人工智能大会2020年7月9日~7月11日大会日程

    AI:2020年WAIC世界人工智能大会2020年7月9日~7月11日大会日程 导读:7月9日,2020世界人工智能大会云端峰会正式拉开序幕.2020世界人工智能大会云端峰会以"智联世界 共 ...

  4. AI:2020年WAIC世界人工智能大会2020年7月9日9:30-12:00开幕式《李彦宏、Elon Musk、马云等大佬演讲》

    AI:2020年WAIC世界人工智能大会2020年7月9日9:30-12:00开幕式<李彦宏.Elon Musk.马云等大佬演讲> 导读:大会开幕式由政府领导.顶尖科学家和知名企业家等演讲 ...

  5. AI:2020北京智源大会与五位图灵奖得主和100多位专家《共同探讨人工智能的下一个十年》——6月21日~6月24日的日程安排(实时更新,建议收藏)

    AI:2020北京智源大会与五位图灵奖得主和100多位专家<共同探讨人工智能的下一个十年>--6月21日~6月24日的日程安排(实时更新,建议收藏) 导读:2020年,是一个十年的结束,也 ...

  6. 苹果全球开发者大会将于6 月5日开幕

    苹果每年一度的开发者大会,2017 年的时程现在已经正式确定下来了.就在刚才,官方宣布 WWDC17 将会在美国当地时间 6 月 5 日至 9 日间举行,而本届举办地也从旧金山换到了久违的圣何塞(上次 ...

  7. 人工智能选go还是python_Python不是为AI而生的,Golang会支配人工智能的下一个十年吗?...

    近年来,Python成为人工智能和数据科学领域最受欢迎的编程语言. 但是,随着5G时代的到来,生产环境对AI应用的性能要求越来越高,Python说有点"力所不及". 天生支持同时性 ...

  8. Python并非为AI而生,Golang将统治人工智能的下一个十年?

    过去几年,Python成为人工智能和数据科学领域最受欢迎的编程语言.但是随着5G时代的来临,生产环境对AI应用的性能要求越来越高,Python有点「力不从心」.天生支持并发的Golang应运而生,专家 ...

  9. AIProCon在线大会笔记之清华大学唐杰教授:人工智能的下一个十年

    AIProCon在线大会笔记 人工智能的下一个十年 AI趋势:从感知到认知 第三代人工智能 认知图谱(Cognitive Graph) 挑战性:可解释性 人工智能的下一个十年 清华大学 计算机科学与技 ...

最新文章

  1. 洛谷P4016 负载平衡问题
  2. 771. Jewels and Stones 宝石与石头
  3. 机器学习——支持向量机SVM实例(兵王问题,SVM求解步骤以及思路,不求解不编程)
  4. mongodb可视化工具 linux,Linux中安装启动MongoDB与可视化工具
  5. 多云平台_多云系统的授权
  6. WSGI Application/Framework
  7. springmvc ajax返回数据中文乱码
  8. 基于开源方案构建统一的文件在线预览与office协同编辑平台的架构与实现历程
  9. 聊聊这个倾注10年的开源CRM项目,如何一步步火爆GitHub!
  10. 微信小程序一键连接已知wifi
  11. 计算机内存条属于什么电路,电脑主板内存供电电路介绍
  12. 面向民航的航空数据链协议解析应用研究
  13. 《关于我同学拿我照片网恋这件事所引发的学习之旅》(1)
  14. java 在线 excel文件_Java实现最简单的在线打开保存Excel文件 - PageOffice
  15. Java Frame
  16. c语言mon什么意思,c'mon是什么意思啊 – 手机爱问
  17. Hive_HQL_复杂SQL_连续发单天数
  18. 1023: 大小写转换
  19. Openwrt-Chaos_Calmer搭建编译环境问题处理
  20. 也说程序员的中年危机

热门文章

  1. 论文笔记:Geo-CNN
  2. 机器学习入门学习笔记:(4.2)SVM的核函数和软间隔
  3. eclipsse 关闭 方法提示_MacOS10.15.7关闭AppStore右上角小红标提示及系统更新右上角小红标提示的方法...
  4. 意想不到!WordPress安全漏洞98%来自插件
  5. Windows 10 的新 bug 可导致任意文件被覆写
  6. Kotlin 普及度增加,代码质量比 Java 更高?
  7. lodash _.size
  8. 使用pyspider爬取巨量淘宝MM图片
  9. 虚拟化技术的概述及使用
  10. 灰鸽子木马的原理和清除方法