费诺编码的分析与实现

吉林建筑大学

电气与电子信息工程学院

设计题目： 费诺编码的分析与实现

专业班级： 电子信息工程 111

学生姓名： 马 超

学 号：

指导教师： 吕卅 王超

设计时间： 2014.11.24－2014.12.5

第1章 概述

1.1设计的作用、目的

《信息论与编码》是一门理论与实践密切结合的课程,通过理论课程学习如何计算信道容量，包括对信道的认识，以及传输速率的计算，计算最佳编码，编码效率等等。再通过课程设计加深对知识的认识，课程设计是其实践性教学环节之一，同时也是对课堂所学理论知识的巩固和补充。其主要目的是加深对理论知识的理解，掌握查阅有关资料的技能，提高实践技能，培养独立分析问题、解决问题及实际应用的能力。

通过完成具体编码算法的程序设计和调试工作提高MATLAB等类似软件的认识程度，掌握MATLAB等类似软件的各种操作，提高编程能力深刻理解培养和提高自学能力以及综合运用所学理论知识去分析解决实际问题的能力逐步熟悉开展科学实践的程序和方法1. 理解无失真信源编码的理论基础，掌握无失真信源编码的基本方法；

2. 掌握费诺编码方法的基本步骤及优缺点；

3. 深刻理解信道编码的基本思想与目的，理解线性分组码的基本原理与编码

过程；

4. 能够使用MATLAB或其他语言进行编程，编写的函数要有通用性。

1.3设计内容

一个有8个符号的信源X，各个符号出现的概率分别为：

运用MATLAB软件，编写适当的程序，对以上8个信源符号进行费诺编码，

得出二进制码字，计算平均码长、编码效率、冗余度，并总结费诺编码方法

的特点和应用。

第2章 费诺编码的分析与实现

2.1设计原理

1.编码原理

早期的数据压缩来自于人们对概率的了解。当对文字信息进行编码时，如果出现概率较高的字幕赋予较短的编码，为出现概率较低的字母赋予较长的编码，平均编码长度就能缩短不少。著名的Morse电码就是一个范例。信息论之父C.E.Shannon曾指出，任何信息都存在冗余，冗余大小与信息中每个符号出现概率(不确定性)有关。他所提出的无失真信源编码定理奠定了数据压缩的理论基础。数据压缩的目的就是要消除冗余，信息论是运用概率论与数理统计的方法研究信息、信源熵、通信系统、数据传输、密码学、数据压缩等问题的应用数学学科。

从DVD到个人电脑，从卫星通信到文件，在我们今天的生活中，信息几乎在每个领域都扮演者重要角色。工程师克劳德·香农于1948年奠定了信息论的基础，他指出了通信的极限。基于这一理论产生了数据压缩技术、纠错技术等各个应用技术，这些技术提高了数据传输和存储的效率。信息论将信息的传递作为一种统计现象来考虑，给出了估算通信信道容量的方法。信息传输和信息压缩是信息论研究中的两大领域。这两个方面又由信息传输定理、信源—信道隔离定理相互联系。当然，信息论的重大应用远不止于此。DNA是一种信息存储物质，正事信息论帮助人们解开了生物基因组密码之谜。简单地说信息论包含了生命、宇宙乃至一切。

信息论对现代社会的影响是多方面的。首先，在理论研究方面，信息论所处的地位已远远超出了香农当年所界定的“通信的数学理论”的范畴，得到了不断的扩充和发展，出现了语义信息、语法信息与语用信息等研究与信息的意义有关的学科，以及面向智能研究的全信息理论。如今，信息已成为与物质、能量并列的宇宙中的三个基本要素，世间万物的发展变化可归结为物质、能量和信息的传递和转化过程。另一方面，在科学和技术高度发展的今天，信息的概念也被渗透到许多不同的学科和领域，深入到了社会生活的各个方面，成为可与相对论和量子力学并驾齐驱的新一代边缘交叉学科的重要组成部分。特别是以信息论、控制论、和系统论为代表的“老三论”以及以普利高津的耗散结构理论，哈肯的协同学和托姆的突变论或艾根的超循环理论为代表的“新三论”的出现，标志着一代新的边缘交叉学科的兴起。它们的形成和发展对现代科学的研究具有重要的方法论上的指导意义。

编码是信息从一种形式或格式转换为另一种形式的过程也称为计算机编程语言的代码简称编码。用预先规定的方法将文字、数字或其它对象编成数码，或将信息、数据转换成规定的电脉冲信号。编码在电子计算机、电视、遥控和通讯等方面广泛使用。在计算机硬件中，编码(coding)是指用代码来表示各组数据资料，使其成为可利用计算机进行处理和分析的信息。代码是用来表示事物的记号，它可以用数字、字母、特殊的符号或它们之间的组合来表示，将数据转换为代码或编码字符，并能译为原数据形式。是计算机书写指令的过程，程序设计中的一部分。在地图自动制图中，按一定规则