在看数据挖掘论文的时候发现了一个词——(entropy)不认识,搜了一下是中文是熵,但是熵是啥意思还是不知道,后来又度娘熵,发现一篇阮一峰的博客解释的挺有意思,虽然和数据挖掘中的信息熵不一样,但是挺有哲理的。分享如下:

1、

有人曾经问我:"成年后,有没有书籍改变过你的世界观?"

我想了想,还真有这样的书。那时,我已经工作好几年了,偶然在图书馆翻到一本旧书《熵:一种新的世界观》(上海译文出版社,1987)。

那本书是科普著作,介绍物理学概念"熵"。中学毕业后,我再没有碰过物理学,但是没想到读完以后,我看待世界的眼光都变了。

"熵"这个概念非常简单,很容易理解,但又异常强大,可以解释很多事情。这篇文章,我就来谈谈,为什么你应该懂得熵是什么,它可能也会改变你的世界观。

2、

为了理解熵,必须讲一点物理学。

19世纪,物理学家开始认识到,世界的动力是能量,并且提出"能量守恒定律",即能量的总和是不变的。但是,有一个现象让他们很困惑。

(上图中,单摆在两侧的最高点,势能最大,动能为零;在中间的低点,动能最大,势能为零,能量始终守恒。)

物理学家发现,能量无法百分百地转换。比如,蒸汽机使用的是热能,将其转换为推动机器的机械能。这个过程中,总是有一些热能损耗掉,无法完全转变为机械能。

(上图中,能量 E 的转换,总是会导致能量损耗 ∆E。)

一开始,物理学家以为是技术水平不高导致的,但后来发现,技术再进步,也无法将能量损耗降到零。他们就将那些在能量转换过程中浪费掉的、无法再利用的能量称为熵。

后来,这个概念被总结成了"热力学第二定律":能量转换总是会产生熵,如果是封闭系统,所有能量最终都会变成熵。

3、

熵既然是能量,为什么无法利用?它又是怎么产生的?为什么所有能量最后都会变成熵?这些问题我想了很久。

物理学家有很多种解释,有一种我觉得最容易懂:能量转换的时候,大部分能量会转换成预先设定的状态,比如热能变成机械能、电能变成光能。但是,就像细胞突变那样,还有一部分能量会生成新的状态。这部分能量就是熵,由于状态不同,所以很难利用,除非外部注入新的能量,专门处理熵。

(上图,能量转换过程中,创造出许多新状态。)

总之,能量转换会创造出新的状态,熵就是进入这些状态的能量。

4、

现在请大家思考:状态多意味着什么?

状态多,就是可能性多,表示比较混乱;状态少,就是可能性少,相对来说就比较有秩序。因此,上面结论的另一种表达是:能量转换会让系统的混乱度增加,熵就是系统的混乱度。

(上图中,熵低则混乱度低,熵高则混乱度高。)

转换的能量越大,创造出来的新状态就会越多,因此高能量系统不如低能量系统稳定,因为前者的熵较大。而且,凡是运动的系统都会有能量转换,热力学第二定律就是在说,所有封闭系统最终都会趋向混乱度最大的状态,除非外部注入能量。

(上图中,冰块是分子的有序排列,吸收能量后,变成液体水,分子排列变得无序。)

5、

熵让我理解了一件事,如果不施加外力影响,事物永远向着更混乱的状态发展。比如,房间如果没人打扫,只会越来越乱,不可能越来越干净。

(上图中,如果不花费能量打扫,房间总是越来越乱。)

为什么"世间好物不坚牢,彩云易散琉璃脆"?就是因为事物维持美好的状态是需要能量的,如果没有能量输入,美好的状态就会结束。

这就是我世界观的变化。我从此认识到,人类社会并非一定会变得更进步、更文明。相反地,人类如同宇宙的其他事物一样,常态和最终命运一定是变得更混乱和无序。过去五千年,人类文明的进步只是因为人类学会利用外部能量(牲畜、火种、水力等等)。越来越多的能量注入,使得人类社会向着文明有序的方向发展。

(上图中,经过130多亿年的膨胀,宇宙变得越来越无序了。)

6、

工业革命以后,人类社会的进步速度加快了,变得更加先进有序,消耗的能量也指数级地增长:水力不够了用煤炭,煤炭不够了用石油,石油不够了用核能。

能量消耗越大,就会产生越多的熵。因此,人类社会始终处于一种矛盾状态:整个社会变得更加有序和严密的同时,无序和混乱也在暗处不断滋长。

我们只是依靠更大的能量输入,在压制熵的累积。不断增加的熵,正在各种方面爆发出来:垃圾污染、地球变暖、土地沙化、PM2.5、物种灭绝......甚至心理疾病、孤独感和疏离感的暴增,我认为都是熵的增加对人类精神造成的结果。

我们需要能量,让世界变得有秩序,但这样是有代价的。物理学告诉我们,没有办法消除熵和混乱,我们只是让某些局部变得更有秩序,把混乱转移到另一些领域。

7、

人类社会正在加速发展。表面上,我们正在经历一个减熵过程,一切变得越来越有秩序,自动化带来了便捷。但是,能量消耗也在同步放大,为了解决越来越多的熵,我们不得不寻找更多的能量,这又导致熵的进一步增加,从而陷入恶性循环。

迄今为止,人类一直能够找到足够的能量,解决熵带来的混乱。但是,这种解决方式正变得捉襟见肘。如果我们继续像现在这样加速发展,那么终有一天会出现能量缺口,地球上的能量不足以解决熵,那时一切就会发生逆转,仿佛细小的裂缝演变成巨大的雪崩,秩序开始崩塌,世界走向混乱。

转自: http://www.ruanyifeng.com/blog/2017/04/entropy.html

看到下边有个评论也挺有意思的,分享一下:

Karl 说:

高中语文有节选,初中时看过,不大懂,只对“熵”这个字有一点印象,。
等学了高中物理化学就明白了,而且自己很自然的就会往生物和社会上套。
为什么有水土流失,大海为什么是咸的,因为熵增是趋势;
什么是生命,生命就是一套伟大的“空调系统”,利用太阳能抵抗熵增;
农业为什么伟大,因为人类能大规模利用太阳能抵抗熵增;
工业革命的本质是什么,是化学能源的利用,和能源利用率的提高;
氮肥的发明为什么伟大,因为人类终于能把石油的能量转化为粮食了;
生物燃料为什么是“邪恶”的,因为人要吃的玉米拿去给汽车烧,和“氮肥”恰恰相反。
……
整个世界就清晰了。
后来知道了还有“信息熵”。
“熵”,确实就是目前最适用的世界观。

熵(entropy):宇宙的终极规则相关推荐

  1. 自然语言中的重要概念——熵(Entropy)

    一.背景 熵是热力学中的一个重要的概念,最早是由香农(Claude Shannon)将熵应用于信息的度量. 熵(Entropy)是描述事物无序性的一个重要的参数,熵越大则无序性越强,同时,熵表示一个随 ...

  2. 熵(Entropy),交叉熵(Cross-Entropy),KL-松散度(KL Divergence),似然(Likelihood)

    1.介绍: 我们如何去衡量y,y`的接近程度? 在这里我们介绍一下一种衡量方式交叉熵(Cross-Entropy),然后说明一下为什么这种方式适用于分类问题. 2.熵(Entropy): 熵的概念来自 ...

  3. 使用Python计算离散随机变量的熵(Entropy)

    一.离散随机变量 设为离散型随机变量的所有可能值:而是取的概率,即 则称为(离散)随机变量的概率分布,而且它满足下面的条件: 在现实中,通常这个随机变量的取值个数是可数的.这里假设随机变量的取值个数为 ...

  4. 熵 Entropy -- 香农熵、相对熵、交叉熵、条件熵

    快速概览: 香农熵 -- 熵的定义 交叉熵 -- 一般可做为分类模型的损失函数 (交叉熵是由相对熵转化过来的,交叉熵 = 相对熵 - 熵 ),对于采样的数据(训练集,熵H 是定值,故交叉熵 和 相对熵 ...

  5. 从宇宙、互联网和脑的关系看元宇宙的终极形态

    作者 刘锋  曾经在2012年写过一篇论文<THE EVOLUTION ROAD MAP FROM THE ORIGIN OF LIFE TO THE INTELLIGENT UNIVERSE& ...

  6. 一文懂熵Entropy

    本文翻译自https://naokishibuya.medium.com/demystifying-entropy-f2c3221e2550 我们常常听到[熵增],[熵减]等概念.那么熵是什么? 熵这 ...

  7. 熵(entropy)到底是什么?科普

    上一篇博客熵(entropy):宇宙的终极规则 比较有哲理性,但对于熵具体的解释没有太多,有的地方可能不太明白,比如冰变水应该是一个吸收热量的过程,文中举得例子冰变成水,从有序变成无序,是一个能量释放 ...

  8. 【Relax人生法则之躺平方法论】如何优雅地躺平?那些看似无足轻重,实则细思极恐的毒鸡汤。

    每个人都有每个人自己的剧本,我们没有必要去羡慕别人,说实话你也羡慕不上.所以很多时候人们去暗自比较的都是一些基础的人,身边的人.当你深夜拿起手机,进入微信朋友圈,试图偷窥那些在你看来不应该比你更强的人 ...

  9. 能复活超级英雄的除了时间宝石,还有量子计算机?

    四月最值得期待的新片,绝对非<复仇者联盟4>莫属了. 打个响指就消灭了全宇宙一半人的灭霸,上一部虐的善男信女们死去活来.在最新的海报中,32位复联英雄只能以"黑"和&q ...

  10. 熵(entropy)、交叉熵(cross-entropy)

    原文:一文搞懂熵(Entropy),交叉熵(Cross-Entropy) 一.熵 1.混乱程度,不确定性,信息量? 不同的人对熵有不同的解释:混乱程度,不确定性,惊奇程度,不可预测性,信息量等等,面对 ...

最新文章

  1. CSDN”原力计划“在召唤:技术人请集结,用原创技术影响万千开发者
  2. 使用Numpy实现PCA
  3. Nancy总结(三)Nancy资料介绍
  4. iptables简单应用
  5. Flume实战监听网络端口
  6. LINUX的简单命令
  7. MySQL启动关闭服务巨慢,这样解决!
  8. “有 些 事 当 了 程 序 员 才 懂”
  9. php7 xmlreader,PHP扩展之XML操作(四)——XMLReader
  10. 复合视频信号CVBS解析
  11. 密码学小知识(1):布隆过滤器(Bloom Filter)、混淆布隆过滤器(Garbled BF)和布谷鸟过滤器(Cuckoo Filter)
  12. java去掉标点符号_java去除空格、标点符号的方法实例
  13. android 修改软件图标大小,android – 是否可以在EditText中更改图标的大小
  14. 明明在内网,做种的人很多,为什么在transmission里bt下载速度仅10kb/s
  15. 云虚拟主机数据库连接和url重写
  16. arp攻击实验(一)用一条指令让对方瞬间无法上网
  17. 修改机顶盒设置移动焦点颜色
  18. 计算机网络 5电路交换
  19. CSS的all(属性) 笔记
  20. 什么叫做石英表_机械表与石英表的区别是什么?

热门文章

  1. Java开发的医院门诊挂号系统
  2. android 辅助服务默认开启,Android 检测辅助功能是否开启,并调整设置页面
  3. android 辅助功能(无障碍)
  4. 公共关系礼仪实务章节测试题——公共关系的类型(六)
  5. 非主流图片制作,手机图片制作
  6. dx12 龙书第十六章学习笔记 -- 实例化与视锥体剔除
  7. [HLSL]HLSL 入门参考 (dx11龙书附录B译文)
  8. 数学Ⅰ基础复习(六)
  9. deepin 20 推荐邮件客户端 Bluemail 邮箱
  10. ios开发-- URL Schemes 使用详解