第10周---信息熵与压缩编码基础

第10周—信息熵与压缩编码基础

什么是信息熵？
一串消息包含A，B，C，D，E共5类符号，其内容是AABBBBAAAACCCCCCCCCEEEEEEDDDDEEEEEEEEEEEEE, 请问其信息熵是多少？如果分别采用香农-凡诺编码，霍夫曼编码，压缩率分别是多少？
一幅1024*768的24位RGB彩色图像一共在内存中占有多少字节？如果将其保存为非压缩格式的BMP文件，文件有多少字节？请用实例验证。

答：

1.表征信息不确性的指标。

信息论中，熵是接受的每条消息中包含的信息的平均值。又被称为信息熵、信源熵、平均自信息量。可以被理解为不确定性的度量，熵越大，信源的分布越随机

与信息的不确定性相关，信息熵越大，信息的不确定性越大

定义公式：

2.采用香农-凡诺编码，压缩比为126:87
采用霍夫曼编码，压缩比为126:87

3.一张图共 1024 × 768 × 3 = 2 , 359 , 296 个字节

BMP 文件由文件头、位图信息头、颜色信息和图形数据四部分组成。

对于 24 位真彩色图像就不使用彩色板，因为位图中的 RGB 值就代表了每个像素的颜
色。

故此图片的文件头+位图信息头+颜色信息为 54 字节，再加上图形数据，就是 2 , 359 ，350字节

计算方法：24 位 RGB 彩图——>一个像素 24 位——>一个像素 3 byte
一张图共 1024 × 768 × 3 = 2 , 359 , 296 1024×768×3=2,359,2961024×768×3=2,359,296 个字节
BMP 文件由文件头、位图信息头、颜色信息和图形数据四部分组成。
对于 24 位真彩色图像就不使用彩色板，因为位图中的 RGB 值就代表了每个像素的颜色。
故此图片的文件头+位图信息头+颜色信息为 54 字节，再加上图形数据，就是 2,359,350 字节

第10周---信息熵与压缩编码基础相关推荐

信息熵与压缩编码基础
一.信息熵信息是个很抽象的概念.人们常常说信息很多,或者信息较少,但却很难说清楚信息到底有多少.信息熵是通过一组具有任意概率的事件集合来定义的. 1.理论提出信息论之父 C. E. Shannon ...
sqlserver如何从周一计算周_纯零基础，花10周时间，完全搞定Python，有没有可能？...
最简单适合小白练手的 10 个Python小项目,十天就能搞定Python. 今天我推荐大家一本书:<面向零基础的Python小项目>,如果你集中精力,花10周,也就是两个半月时间,搞定P ...
20155222 2016-2017-2 《Java程序设计》第10周学习总结
20155222 2016-2017-2 <Java程序设计>第10周学习总结教材学习内容总结简单JAVA socket * 1 搭建服务器端* 1 创建ServerSocket对象绑 ...
2017-2018-1 20155202 《信息安全系统设计基础》第10周学习总结
2017-2018-1 20155202 <信息安全系统设计基础>第10周学习总结本周考试错题总结有关高速缓存的说法正确的是() A . 高速缓存的容量可以用C=SEB 来计算 B . ...
第一周：信息系统项目管理基础与立项管理作业视频讲解
摘要:本作业为2020年下半年<每天一小时,两月拿证>第一周作业.十题单选+一题案例分析: 1.( )不是项目目标特性. A.多目标性 B.优先性 C.独特性 D.层次性 2.某公司的组织 ...
20145204 张亚军《信息安全系统设计基础》第10周学习总结
<信息安全系统设计基础>第10周学习总结本周学习内容 1.注意每个系统调用的参数.返回值,会查帮助文档 2.阅读教材,完成课后练习(书中有参考答案),考核:练习题把数据变换一下 3.学习 ...
20145209 《信息安全系统设计基础》第10周学习总结
20145209 <信息安全系统设计基础>第10周学习总结教材学习内容总结存储程序计算机工作模型冯诺依曼体系结构:即具有存储程序的计算机体系结构,目前大多数拥有计算和存储功能的设备( ...
20145227《Java程序设计》第10周学习总结
20145227<Java程序设计>第10周学习总结教材学习内容总结网络编程就是在两个或两个以上的设备(例如计算机)之间传输数据.程序员所作的事情就是把数据发送到指定的位置,或者接收 ...
20144303《Java程序设计》第10周学习总结
20144303<Java程序设计>第10周学习总结教材学习内容总结网络编程网络编程对于很多的初学者来说,都是很向往的一种编程技能,但是很多的初学者却因为很长一段时间无法进入网络编程 ...

第10周---信息熵与压缩编码基础

第10周---信息熵与压缩编码基础相关推荐

最新文章

热门文章