来源:科学网

压缩感知和人工智能都是当下很热很热的研究课题。不过许多论文数学论述高深莫测,加之一大堆各种千奇百怪的数学符号,不仅让人望而生畏,望而却步。笔者对希望用形象的比喻把问题大致轮廓讲清楚就好。

所谓压缩感知是什么呢,根据笔者个人的理解,就是信号变换,这个变换不是随便找的,而是要满足一定条件。什么条件呢?讲个故事吧。

比如牛郎和织女由于几千年来每年两人只能在鹊桥上会一面,也一直没能留下一儿半女,牛郎和对门的潘银莲暗生情愫,准备纳为二房。按照天法规定,纳二房必须要通知大房老婆,否则二房只能算小三,没有法律保护。本来牛郎想等到七月初七再跟织女说,但小潘怎么也等不及了,催着牛郎赶紧把这事给办了,否则就跟净坛使者走了。没办法,牛郎抓耳挠腮之下,想到一个办法,委托律师写律师函给织女,用DHL快递过去,把问题讲清楚,也算是给小潘一个交代吧。

织女这边,虽然收到了信,奈何织女文化程度不高,大部分字都不认识,无法完整地理解信上说的内容。好在隔壁住的是雅典娜,娜可是出了名的智慧女神,在网上花了半年就会认识中国字了,再翻译给织女听。%@#$%&()@#%……,此处织女说了10581个不雅字,不赘述。

这里那封律师函就相当于信号,不管你懂与不懂,信(号)就在这里,不会改变。

雅典娜算是变换1,这半年还是费时间啊。让我们假设一下,织女收到信后,并没有找雅典娜,而是遇到了扎克伯格,没错就是google的大Boss,小扎说这有什么难的,来我帮你翻译,随即掏出手机,点开有道词典app(对,你没看错,就是网易的有道词典),啪,对着信拍了一张照片,通过拍照翻译把内容翻译成英文,再用中文讲给织女听了。你知道的,小扎娶了华裔姑娘做老婆,会讲中文,不过中文字还是理解困难。

那这里小扎这个变换Z加上有道词典的变换Y,变换2=Z*Y,显然变换2要比变换1省时间的多。

压缩感知就是这么一个东东,对于信号(信号所包含信息是不变的),如果遇到一个不那么在点的测量矩阵(比如雅典娜),要花很长时间(或者占用很多的频谱资源,道理是一样的哈~)才能把信息恢复出来。但是如果找到好的测量矩阵(比如扎克伯格+网易有道词典),那点事都不叫事,也就几秒的时间。所以说压缩感知的变换是要满足一定条件的,这个条件就是找到一个合适的测量矩阵,把信号给简单的表示出来。

回到数学表述上,对于信号所携带信息的恢复,是要用测量矩阵进行测量,然后根据测量值对信息进行恢复的。比如在傅里叶变换中,测量矩阵就是一系列的正交三角函数。如果一个信号用某个测量矩阵表示比较复杂的话,其实一定是有另外一种形式的测量矩阵可以把这个信号用更简洁的形式的表示出来的(可能会产生一些微不足道的信息损失)。那么在传输过程中用这个信号的简洁形式就可以了。在接收端,再把信号所携带的信息还原出来。值得说明的是,虽然信号在传输过程得到了压缩,但是还原过程可能会复杂一些。

所以,压缩感知的研究重点在于对于不同的应用场景如何找到发现合适的压缩感知测量矩阵。这里就可以发挥贝叶斯大脑的作用了。

其实贝叶斯公式也没有什么,只不过是一种概率分布罢了,只不过这种概率分布具有阴阳变换特点(可以参考我们的太极图加以理解)。说到这里,笔者对于科学的话语权掌握在西方的手中表示不安。现代科学体系是建立在西方哲学和文化基础之上的,我们东方民族在人家的盖好框架的大厦里有一种天然的劣势。笔者感觉要实现东方崛起,有必要打破这种框架,跳出定式思维。这是我为什么在之前的博文提倡科学成果以中文发表的原因。

扯远了,再回到贝叶斯,为什么在人工智能,机器学习中频频提到贝叶斯呢?贝爷的公式是在17**年代就发展出了的啊,难道贝爷可以预测未来?其实笔者认为这有点类似傍大款。在人工智能初期研究中,AI还是一个一文不名的穷小子,所以一定要拉上一个豪门来说明自己的高大上。简而言之,所谓贝叶斯大脑,其想表达的意思只不过是人类的大脑具有知识归纳,记忆的功能罢了。

贝叶斯大脑认为人类的学习能力是基于不断试错而得到的。但笔者认为这只代表了人脑的功能之一,并不能说人脑的智慧仅仅是通过不断试错而产生的。笔者认为人类智慧(乃至动物智慧)是分层次叠加成系统的,并不是说某一项功能(试错、归纳)就可以解释大脑智慧形成的原因,其成因至少目前还没有定论。而压缩感知中提到贝叶斯,只不过想表明其试图用归纳和试错的方法来找到一个合适的测量矩阵(变换)罢了。

未来智能实验室是人工智能学家与科学院相关机构联合成立的人工智能,互联网和脑科学交叉研究机构。

未来智能实验室的主要工作包括:建立AI智能系统智商评测体系,开展世界人工智能智商评测;开展互联网(城市)云脑研究计划,构建互联网(城市)云脑技术和企业图谱,为提升企业,行业与城市的智能水平服务。

  如果您对实验室的研究感兴趣,欢迎加入未来智能实验室线上平台。扫描以下二维码或点击本文左下角“阅读原文”

也谈压缩感知和贝叶斯大脑相关推荐

  1. 贝叶斯大脑假说:用大脑观察并改变世界

    全文共5960字,预计学习时长12分钟 要是你们能够洞察时间所播的种子,知道哪一种会成长,哪一颗不会成长-- <麦克白>,威廉·莎士比亚 生活充满不确定性,以致于无人可以预测未来.布莱士· ...

  2. 被嫌弃的贝叶斯派的逆袭

    多数人第一次听说贝叶斯定理应该是在中学课堂上.那个公式看起来并不复杂,在一众花里胡哨的考点中显得平平无奇. 但是很快,我们就知道了什么叫深藏不露.从高校教材到研究实战,贝叶斯这三个字频繁地出现在信息科 ...

  3. 机器学习 —— 浅谈贝叶斯和MCMC

    ‍‍Abstract:最近课业内的任务不是很多,又临近暑假了,就在网上搜了一些有关于机器学习和深度学习的课程进行学习.网上的资料非常繁多,很难甄别,我也是货比三家进行学习.这是这个系列的第一个笔记,是 ...

  4. 再谈变分自编码器VAE:从贝叶斯观点出发

    作者丨苏剑林 单位丨广州火焰信息科技有限公司 研究方向丨NLP,神经网络 个人主页丨kexue.fm 前几天写了文章变分自编码器VAE:原来是这么一回事,从一种比较通俗的观点来理解变分自编码器(VAE ...

  5. 浅谈对机器学习方法(决策树,SVM,knn最近邻,随机森林,朴素贝叶斯、逻辑回归)的理解以及用sklearn工具实现文本分类和回归方法...

    一.决策树 定下一个最初的质点,从该点出发.分叉.(由于最初质点有可能落在边界值上,此时有可能会出现过拟合的问题. 二.SVM  svm是除深度学习在深度学习出现之前最好的分类算法了.它的特征如下: ...

  6. 德国坦克问题-再谈贝叶斯

    <概率统计系列-结束篇> 本文借一个二战中的概率统计问题"德国坦克问题",再次将频率学派与贝叶斯学派做一比较,也算是作为间断了一段时间的"概率统计系列&quo ...

  7. [work]从贝叶斯方法谈到贝叶斯网络

    0 引言 事实上,介绍贝叶斯定理.贝叶斯方法.贝叶斯推断的资料.书籍不少,比如<数理统计学简史>,以及<统计决策论及贝叶斯分析 James O.Berger著>等等,然介绍贝叶 ...

  8. 浅谈贝叶斯判别(Bayes)

    在现实世界中,由许多客观现象的发生,就每一次观察和测量来说,即使在基本条件保持不变的情况下也具有不确定性.只有在大量重复的观察下,其结果才能呈现出某种规律性,即对它们观察到的特征具有统计特性.特征值不 ...

  9. 浅谈频率学派和贝叶斯学派

    [写在前面的话] 终于可以写贝叶斯相关的文章啦,心情有点小激动,最近一段时间反复看Bishop老师编写的<<Pattern Recognition and Machine Learning ...

最新文章

  1. Cachegrind--缓存命中检查工具及其可视化
  2. springMVC出现HTTP Status 405 - Request method 'GET' not supported错误的解决方法
  3. 将字符串所有长度为5的字串输出在屏幕上
  4. 实用!五款新型 Linux 命令行工具
  5. 国外java开源网站聚合
  6. ThinkPHP分页实例
  7. cf1556D. Take a Guess
  8. 两年Java工作经验应该会些什么技术
  9. NTUSER.DAT
  10. 富士施乐p355d_富士施乐p355d驱动下载
  11. win7开启ftp被动模式_什么是FTP功能?Win7旗舰版下如何开启FTP功能?
  12. 涨姿势 之 Sourcetree 显示头像
  13. 我和 flow.ci 的第一次亲密接触
  14. Django--手机号注册生成验证码
  15. 禁用Ctrl+Alt+Del最有效的方法
  16. Google是如何提供“无缝”的街景全景图的?
  17. (转)洗剑炉——一个刚离职运营商员工的心声——别了,你的电信!
  18. 数字孪生隧道为智慧交通运营保驾护航
  19. 如何监控手机网络请求
  20. echarts绘制多条折线图

热门文章

  1. 首批新冠肺炎人体疫苗来了!全球第一mRNA药物研发公司研制,已开启安全性临床试验...
  2. GPT-3等三篇论文获NeurIPS 2020 最佳论文奖!华人一作获时间检验奖
  3. 【重磅干货】Python、机器学习、深度学习算法实战和应用必备书籍
  4. 【卷积神经网络结构专题】一文详解LeNet(附代码实现)
  5. 不愧是北大疯人院!阿里数学竞赛决赛,入围人数超过清华和南大之和!
  6. 多模态大模型——通用人工智能路径的探索
  7. 律师也要被AI抢“饭碗”了?网友:我还能做什么
  8. 不再受限于数据集和硬件,下一代 ML 软件如何构建?
  9. 如何利用 AI 对抗疫情?
  10. 如何高效的做机器学习项目