编码，隐匿在计算机软硬件背后的语言读书笔记（9）

二进制数

这一章对通信原理中信息量、冗余、信息的本质等概念有直观的讲解，二进制数是如何表示信息量？

信息的度量（信息量）与消息重要程度、种类无关，而与其不确定性有关（通信原理对信息的描述）。这句话将信息量与概率模型对应起来（我们知道概率模型由样本空间、样本点以及每个样本点的概率建立起来，要不说机器学习中概率很重要），那如何理解信息量？这个抽象概念如何类比来理解呢？
从书中一步一步剖析：

作者首先举例说了几件事情说明很多事情只需要用“是““不是”来表达（换个说法就是0和1）。问一个人你爱不爱我？爱或者不爱（当然现实情况很复杂）。这条信息只需要1bit信息量就能表示清楚（前题假设等概率）。
再比如ASCII码中，样本点共127个，那么每个信息量是这么多可能中的一种，就需要7bit来表示。
所有可能转化成多种可能性的信息，都可以用bit来表示。最后，用比特表示信息时，我们就是要计算信息有多少可能性？决定了我们需要多少位二进制来表示信息，并为每个可能性分配二进制位。

冗余的概念？
从商品条形码中的有些位并不是为了编码，而是为了检查错误，而设置的比特位数。

编码，隐匿在计算机软硬件背后的语言读书笔记（9）相关推荐

编码，隐匿在计算机软硬件背后的语言读书笔记（6/7/8）
电报机和继电器莫尔斯发明电报机意味着远距离现代通信的开始. 但是通信距离受到限制,因为受到信号传输过程中衰落的影响.这时莫尔斯又想出继电器,其实就是将信号放大后,再进行传输. 继电器本质上就是一个开 ...
编码——隐匿在计算机软硬件背后的语言上
编码:隐匿在计算机软硬件背后的语言是讲述计算机工作原理的.不过,你千万不要因为"工作原理"之类的字眼就武断地认为,它是晦涩而难懂的.作者用丰富的想象和清晰的笔墨将看似繁杂的理论阐述 ...
如何用继电器实现逻辑门（与或非门）- 编码隐匿在计算机软硬件背后的语言读后感
首先了解一下继电器,说起继电器就不得聊一下电报机.(想直接了解如何实现逻辑门的直接往下翻,不过还是推荐看一下为什么会产生逻辑门,加深印象) 摩尔斯(发明摩尔斯密码的人)在1836年通知专利局,他发明了 ...
顶级程序员书单系列二：《编码-隐匿在计算机软硬件背后的语言》
浅谈这本书如果让我做一个排名,我想这本书,可以在我的顶级程序员书单系列排名第8-10位.这本书讲述了从最简单的加法器到触发器到存储器到一台计算机demo的搭建,整本书的语言都十分通俗易懂,作者简直就 ...
读书：编码——隐匿在计算机软硬件背后的语言上
摩斯密码摩斯密码是由"."(短音)与"-"(长音)所组成的,短促的点信号" ．",读" 的 "(Di):保持一定时间的 ...
【读书笔记】《编码隐匿在计算机软硬件背后的语言》02 编码与组合
个人希望通过笔记的方式记录研读IT著作的收获,也算是对自己的一个督促,笔记内容不会照搬原文,尽量以最简洁的形式阐述原文,对原文内容会有所取舍并且加上自己的感想等,供自己之后查阅,毕竟好记性不如烂笔头( ...
计算机神书『编码：隐匿在计算机软硬件背后的语言』
在知乎回答了一个关于书籍推荐的问题:有哪些短小精悍的好书推荐? 如果只推荐一本计算机类的神书,那必然是<编码:隐匿在计算机软硬件背后的语言>. 渴望交流是大多数人的天性.在本书中,&quo ...
编码：隐匿在计算机软硬件背后的语言(7)--存储器组织
在上一篇文章编码:隐匿在计算机软硬件背后的语言(6)--反馈与触发器中,我们知道一个反向器.两个与门和两个或非门可以构成一个D型电平触发器.它可以存储一位信息,为了表达地更清晰,我们把输入端和输出端重 ...
编码：隐匿在计算机软硬件背后的语言(2)--二进制
1比特是可能存在的最小的信息量,任何小于1比特的内容根本算不上是信息. 信息是指多个可能性中的一种. 最常见的二进制数的表现形式也许就是无处不在的通用产品代码(UPC,Universal Produc ...
《编码：隐匿在计算机软硬件背后的语言(Code:The Hidden Language of Computer Hardware and Software)》读书笔记
声明该文章是阅读<编码:隐匿在计算机软硬件背后的语言>一书之后整理出的读书笔记.若有错误,还需继续修正与增删. Preface 作者Charles Petzold是Windows编程界的 ...

编码，隐匿在计算机软硬件背后的语言读书笔记（9）

二进制数

编码，隐匿在计算机软硬件背后的语言读书笔记（9）相关推荐

最新文章

热门文章