对话加拿大工程院于非院士：寻找 AI 领域的「香农定理」
来源：AI科技评论本文为约7450字，建议阅读14分钟
本文介绍了加拿大工程院院士于非在人工智能定义等方面的学术观点。
我相信智能是一种自然现象，就像岩石滚动和冰雪融化般自然的现象。——摘自于非著作《智能简史——从大爆炸到元宇宙》。
当科学家把一些菟丝子移植到几株营养状态不同的山楂树上时，那些营养状况更好的山楂树会更容易获得菟丝子的「青睐」。这在以往被看作是植物内「被动」存在的东西，但据研究人员发现，植物也具备从过去的经验中学习区分正负面的经验及教训、进行交流、计算自身处境等等人类所具备的能力。
在其最近新出的《智能简史——从大爆炸到元宇宙》（以下简称「智能简史」）一书中，加拿大工程院院士于非将上述示例视为植物的「智能」。
我们曾有幸与于非院士进行了一场深入讨论，不一味强调从「感知」到「认知」的阶段进化，而聚焦当下人工智能的局限性以及智能的科学定义，彼时的于非，仍在为人工智能重新定义寻求可计量的「香农定理」。
定义「智能」科学范式，对人工智能的发展具有重要意义。当时，于非就表示：「科学里面最重要的就是定义。这个东西到底是什么？如果只是文字上的描述，在数学上不是可定义、可量化的话，这个问题就解决不了。」
而在《智能简史》中，于非对理性的数学公式下「智能」定义进行了探索，并指出一条量化智能清晰的新路线。
在很长时间里，「智能」都被视作人类独有的产权，但在于非看来，智能实则是存在宇宙中的一种自然现象，与其他自然现象类似。由于宇宙大爆炸下分布不均的成分带来了各种各样的差异，智能旨在通过调节梯度实现宇宙稳定，从物理、化学、生物到人类、机器甚至元宇宙，智能普遍存在，链接形成了一部发展史。
01. 《智能简史》：定义「智能」
当智能应用的空间扩大，如智慧城市与智能网络形成，单体智能的局限性渐显，科学家们开始求变，从更大的视角思考：什么才是真正的智能？
于非也是这求索队伍中的一员。
于非（F. Richard Yu），加拿大工程院院士、IEEE Fellow、是国际信息和人工智能领域专家，科睿唯安计算机科学领域 “全球高倍引科学家”, 谷歌学术引用量超过 3.3 万。
长期以来，关于「智能的定义」问题一直困扰着于非。
智能的定义未明晰，因此人工智能也还没有成为一门科学，处于工程学阶段，无论是预训练模型、知识图谱还是CNN等概念，都是基于认知科学的启发而提出的。「可以说，人工智能还处于仿生学的阶段。就像在空气动力学发明之前，人们只能仿照蜻蜓和鸟来研发飞行器。」
对此，于非着手进行了大量的研究，意图通过其他学科了解以往对智能的描述，直至「越查越久远，一直查到宇宙从哪里来的大爆炸时期。从大爆炸开始产生了物理世界，就有很多的智能现象。」
1969年，比利时物理化学家和理论物理学家伊利亚·普里高津（Ilya. Prigogine）提出「耗散结构」理论。该理论表明：当包含非线性的多基元多组分多层次的开放系统处于一个远离平衡态的情况下时，系统不断同外界交换物质和能量，系统内某个参量变化达到一定阈值后，就会触发从无序突变为有序状态而形成的一种时间，空间或功能的特殊结构。
经由大规模物质和能量的交换冲击形成新结构，这也印证了化学世界中「智能」「秩序始于混乱」的法则。
当范式踏进生物系统，麻省理工学院的杰里米·英格兰（Jeremy England）教授和团队在「耗散适应」理论中展示了系统通过耗散能量以缓解能量不平衡，在一定条件下，无分子系统自然而然充足，通过化学反应代谢消耗更多的能量，从而促进能量的持续耗散以及「熵」（即宇宙无序状态）的增加。
能量堆积下，结构以最快、最省力的过程迅速缓解不平衡，继而稳定形成了生命，这是过往人们对物理世界、化学世界和生物世界中智能起源的认知学说之一。在其发展历史进程中，「智能」也诞生过无数令人为之感叹的「神秘」现象。
而随着人类科技发展迈进新的社会阶段，需要人们在更大的时间和空间范畴里来思考「智能」的更高级别的表现，但能被称之为科学的「智能」，仍然缺少一个理性的数学公式的定义。
为了寻找一种量化信息的方法，1948年，香农在论文“A Mathematical Theory of Communication”中借鉴热力学概念提出「信息熵」，第一次用数学公式，阐明概率与信息冗余度的关系，使用「熵」来量化信息，对信息时代的成功起了至关重要的作用。
迈进智能时代，以符号主义、联结主义、行为主义为代表的三大学派对「智能」的描述争论不休，即使对质量、能源、信息等重要因素的获取难度降低，但「智能」是对信息的更高层次的抽象，其定义尚未明晰。
于非在《智能简史》一书中指出：智能并非人类的专属，而是同岩石滚落、冰雪融化般普遍存在于物理、化学、生物以及人类、机器（人工智能）乃至元宇宙中的自然现象。智能并不神秘，它是缓解不平衡过程中形成的一种自然现象，使人得以用同样一个逻辑来理解世界如何运转。
与此同时，如何量化智能，对于科学的「智能」至关重要。
1950年，图灵首次提出一个判断机器是否能思考，测试机器是否能表现出与人类相同、或无法区分的智能行为能力的测试，给「可计算性」下了一个严格的数学定义。然而，图灵测试中没有量化的智能度量。
对于如何来衡量智能度量，不少研究人员曾进行过粗略的讨论。但是这些工作都是从心理学、哲学或者工程技术角度出发的，对智能的定义仅限于文字性的描述和探讨，并没有从科学的角度深入探讨智能的本质，更没有从数学上量化智能。
针对这个问题，于非在《智能简史》中探索智能的本质，借鉴了能量和信息的量化思想，开创性给出智能的定义，并首创性地提出了一个可衡量相对智能程度的公式：dL = ∂S/∂R；其中， dL 指智能的变化，S是当前的秩序（order）和预期的秩序的相似，R是一般意义的参数（例如，时间、数据量等），因为智能的变化与多个参数有关，所以在数学上表示是一个多元函数。考虑到多元函数关于其中一个自变量的变化率时 ，一般用偏导
对话加拿大工程院于非院士：寻找 AI 领域的「香农定理」相关推荐
- AI突破的「阴暗面」：怎样防止GPT-3跟人类学坏？
原文:IEEE Spectrum 编译:梦佳 近期,大规模语言模型频频出现在公众视野中. 前有Google发布首个万亿级模型 Switch Transformer,参数量达到1.6万亿,速度是Goog ...
- AI也能「抽象派」作画，圆形+方块组合，可微2D渲染下生成抽象人脸
来源:机器之心 本文约2500字,建议阅读5分钟 本文介绍了AI条件下,抽象派作画. 有人将一张方块图.圆形图的组合生成了抽象的人脸!还有人将帆布油画<阿尼埃尔的浴场>还原为直线. 绘画, ...
- 解密「天池」：如何做好一场万人AI竞赛的「大后方」？
来源:机器之心本文约9800字,建议阅读10+分钟面对数据集保护.算力公平性.结果可复现性等诸多挑战,天池是如何克服的呢? 一场一万五千人的竞赛,如何确保比赛顺利进行?如何保证公平公正?在这场活动中, ...
- AI 界著名「嘴炮」发声：鬼扯，LaMDA 不可能觉醒！
来源:AI科技大本营 作者:郑丽媛 来源:CSDN 因谷歌工程师 Blake Lemoine 坚称谷歌语言模型 LaMDA 已觉醒,这几天 LaMDA 已频繁登上国内外科技网站首页,其相关热门话题无一 ...
- 文字工作者大敌？从征人文案到一首好诗，Notion AI都能「写」出来
只要告诉Notion AI想要什么样的的文案,AI就生成出一篇草稿,让使用者直接进入编修润色阶段,减少写作者「冷启动」问题. 继充满版权争议的AI图像生成之后,现在AI也可以帮我们编写文章了.知名笔记 ...
- AI+影像赛道开启，美图在人工智能领域如何「名利双收」？
美图影像实验室MT Lab +33 AI影响因子 比赛 比赛名称:ISIC 年份:2018 企业:美图 操作:竞赛 名次:1 比赛 比赛名称: ECCV 年份:2018 企业:美图 操作:竞赛 名次: ...
- AI应用说 | 「虫口夺粮」的害虫识别还是牛场24小时无人监控，AI+农业话题咱们唠一唠...
关注公众号,发现CV技术之美 写在篇头:是时候,关注智慧农业这条"难且正确"的道路了. 在不断变化.机遇与危机并存的商业社会中,农业一直算不上"热点".但伴随国 ...
- 企业挖角 AI 教授是不是「原罪」？
雷锋网 AI 科技评论按:AI 学者该不该在企业挂职?挂职的话,精力又该如何分配?这些问题随着 AI 的全面火热在学界频频被提起.最具代表性的一次交锋,要属去年 8 月份 Yann LeCun 与 U ...
- AI+影像赛道开启，美图在人工智能领域如何「名利双收」？【楚才国科】
美图近年来在 AI+影像领域频频发力,不但学术实力获得世界各大顶级人工智能会议的肯定,还将学术成果变为旗下产品的助燃剂,助力产品在海内外登顶各大应用榜单,并推动探索多元的商业化路径,更向外输出技术赋能 ...
最新文章
- python对文件的读操作方法有哪些-Python文件操作实例大全
- C#.net读写XML文件
- 安装python3.8.0步骤_python3.8.0安装教程_后端开发
- 高中计算机老师要教什么条件,应聘高中教师，到底需要什么学历？很多人都不知道！...
- “LM/w3svc/1/root /***” 别名已存在
- php 替换某一行,PHP中如何替换换行符?
- 数据结构之优先队列--二叉堆(Java实现)
- 引入Spacy模块出错—OSError: [E941] Can‘t find model ‘en‘.
- Qt文档阅读笔记-windowOpacity官方解析及实例（两种方法使得程序渐变出现）
- java hmget 最大值,【Redis】基本数据类型及命令操作(超详细)
- 网易编程题目——相反数：
- PMP培训内容有哪些？
- 8uftp怎么使用，小编教你8uftp怎么使用
- 新旧身份证合法性验证及相互转换算法(一)：关于中国居民身份证的常识
- Html源码在线翻译,HTML – 谷歌翻译网站
- HTML网页头部小图标
- 风儿轻轻地吹，沙儿轻轻地飘
- 收发器（Transceiver）架构1——接收机1
- Android composse 声明式UI，更简单的自定义
- QPBOC——数据认证