(含Matlab源码)算术编码(arithmetic coding)的underflow问题
0、文章结构
文章的行文逻辑如下,看官可以根据需要跳读,节省时间。
1、介绍underflow和overflow.
2、underflow问题起源
3、underflow问起探索
4、underflow和overflow的常见情形
5、处理一些溢出问题的小技巧
6、对其中的两种小技巧的优缺点比较
1、什么是underflow和overflow
在计算机中浮点数都是离散的,有限的。因此计算机无法用有限的浮点数来表示无限的实数。在用浮点数表示实数时,很多数都会存在近似误差。其中一种是下溢(underflow)。比如,一个非常接近于零的数值A(实际上A>0),计算机会直接把该数值判为零,虽然实际上它并不为零。另一种数值误差是上溢(overflow),通俗而言,当一个数值a非常接近某一计算机表示的数值b时(实际a<b),计算机用b表示a。
2、起源-算术编码(arithmetic coding)作业初识underflow
音频老师布置一个作业,要求写一段程序实现算术编码,被编码的字符串为:ALIALIBABA。
关于算术编码的原理详见:https://blog.csdn.net/qingkongyeyue/article/details/75216790?utm_source=blogxgwz8
这个很简单,很快就用matlab写出来了,最终和老师给的答案一样。
接着老师就布置了第二个算术编码的作业,实现对下方字符串的编码,包含空格。
DIGITAL AUDIO TECHNOLOGY AND APPLICATION
代码中输入该字符串,可是range输出值为0。
理论上来讲,range是一个非常非常小的值,但不等于零。
这时,突然意识到,老师上课时讲到的,程序在数值运算中出现underflow。
此时的溢出问题的代码:https://download.csdn.net/download/h763247747/10777261
3、关于underflow问题的探索
变量Range被计算机判为零,但是它实际上并不等于零。
那么在matlab中,数值小于多少会被计算机判为零呢?
EPS函数
EPS是MATLAB中的函数,表示浮点相对精度。 对双精度数值来说eps表示从 1.0 到下一个最大双精度数的距离。对单精度数值来说eps表示从 1.0 到下一个最大单精度数的距离。
在command window中输入:help eps
Matlab中变量默认为double类型,所以其判别值为2^(-52),相当于
所以当变量值小于2.22e(-16)时,计算机会直接判为零,这时就需要考虑underflow了。
4、常见数值误差的情形
由此引出另外一个问题:哪些情况会出现数值误差(underflow 或者overflow)?
下方部分内容来自于此论坛:http://www.ilovematlab.cn/thread-242321-1-1.html。
论坛里有非常多大佬的精彩留言,让人豁然开朗。
情形1-underflow
计算所得0.4的实际值小于0.4。
情形2-由underflow出现的错误
计算机中的计算值为3,并不等于4。
情形2-误差精度
控制台输出,可以发现误差越来越大。
对于情景2问题的分析
双精度浮点数在计算机中使用科学计数法存储,下图所示浮点数格式。
关于浮点数的更加详细信息:https://www.cnblogs.com/icmzn/p/5060195.html
两个浮点数相减时,会存在有效位数字的误差。
假如1.4-1在计算机中的表示为0.3999….9*e(0)(13个9)。
100000000.4-100000000=(1.000000004-1.00000000)*e(8)=0. 0000000039..9(5个9)*e(8)。
运算精度就变差了,误差也会增大。
情形3-overflow
情形4-由于overflow出现的错误
演示underflow和overflow使用的代码:https://download.csdn.net/download/h763247747/10777601
4、处理一些溢出问题的小技巧
4.1、判断两个数是否相等
可以使用如下公式:
abs(a-b) < eps(a) or eps(b)
如果不等式成立,则a,b相等。
4.2、解决underflow问题
比如floor((1.4-1)*10),matlab运行的结果为3,并不等于4。为了得到正确的代码,可以如下改写代码。overflow的问题也可以使用类似思路。
4.3、提高精度
a-b的结果小于eps(0)时,为了避免结果被计算机判为零,可以使用其它工具,比如advanpix提高精度,比如精确到小数点后200位。
4.4、移位
比如计算0.0000000000111-0.0000000000101时,可以先都乘以10^10,再相减,然后差值再除以10^10,这样可以提高计算精度。
5、提高精度和移位的比较
方法2可以更快的解决matlab中出现的溢出问题,但是方法3更加实用。因为在工程领域,很难找到类似advanpix的工具。比如老板要求在arm芯片上实现对音频的算术编码,这样只能用方法3了。
最后用方法4解决音频算术编码underflow问题的代码:https://download.csdn.net/download/h763247747/10777264
(含Matlab源码)算术编码(arithmetic coding)的underflow问题相关推荐
- 【编码译码】基于matlab LDPC编码和解码【含Matlab源码 2560期】
⛄一.获取代码方式 获取代码方式1: 完整代码已上传我的资源: [编码译码]基于matlab LDPC编码和解码[含Matlab源码 2560期] 点击上面蓝色字体,直接付费下载,即可. 获取代码方式 ...
- 【编码译码】基于matlab HDB3编译码仿真【含Matlab源码 1961期】
⛄一.获取代码方式 获取代码方式1: 完整代码已上传我的资源:[编码译码]基于matlab HDB3编译码仿真[含Matlab源码 1961期] 点击上面蓝色字体,直接付费下载,即可. 获取代码方式2 ...
- 【故障检测问题】基于matlab免疫算法求解故障检测问题【含Matlab源码 196期】
一.获取代码方式 获取代码方式1: 完整代码已上传我的资源:[故障检测问题]基于matlab免疫算法求解故障检测问题[含Matlab源码 196期] 获取代码方式2: 通过订阅紫极神光博客付费专栏,凭 ...
- 【优化布局】基于matlab免疫算法求解充电站最优布局【含Matlab源码 2539期】
⛄一.获取代码方式 获取代码方式1: 完整代码已上传我的资源:[生产调度]基于matlab免疫算法求解生产调度零等待问题[含Matlab源码 1178期] 点击上面蓝色字体,直接付费下载,即可. 获取 ...
- 【优化算法】灰狼优化算法(GWO)【含Matlab源码 1305期】
一.获取代码方式 获取代码方式1: 完整代码已上传我的资源:[优化算法]灰狼优化算法(GWO)[含Matlab源码 1305期] 点击上面蓝色字体,直接付费下载,即可. 获取代码方式2: 付费专栏优化 ...
- 【优化算法】改进的灰狼优化算法(IGWO)【含Matlab源码 1349期】
一.获取代码方式 获取代码方式1: 完整代码已上传我的资源:[优化算法]改进的灰狼优化算法(IGWO)[含Matlab源码 1349期] 点击上面蓝色字体,直接付费下载,即可. 获取代码方式2: 付费 ...
- 【优化算法】多目标灰狼优化算法(MOGWO)【含Matlab源码 099期】
一.获取代码方式 获取代码方式1: 完整代码已上传我的资源:[优化算法]多目标灰狼优化算法(MOGWO)[含Matlab源码 099期] 点击上面蓝色字体,直接付费下载,即可. 获取代码方式2: 付费 ...
- 【优化算法】粒子群优化灰狼算法【含Matlab源码 006期】
一.获取代码方式 获取代码方式1: 完整代码已上传我的资源:[优化算法]粒子群优化灰狼算法[含Matlab源码 006期] 点击上面蓝色字体,直接付费下载,即可. 获取代码方式2: 付费专栏优化求解( ...
- 【MVO TSP】基于matlab灰狼算法求解旅行商问题【含Matlab源码 1327期】
一.获取代码方式 获取代码方式1: 完整代码已上传我的资源:[TSP]基于matlab灰狼算法求解旅行商问题[含Matlab源码 1327期] 点击上面蓝色字体,直接付费下载,即可. 获取代码方式2: ...
- 【音乐检索】基于matlab音乐检索系统【含Matlab源码 435期】
一.获取代码方式 获取代码方式1: 完整代码已上传我的资源:[音乐检索]基于matlab音乐检索系统[含Matlab源码 435期] 点击上面蓝色字体,直接付费下载,即可. 获取代码方式2: 付费专栏 ...
最新文章
- Elicpse创建Maven项目
- 我用hbuilder怎么用不了jquery_【权益资讯】机房电脑用不了怎么办
- 589-N叉树的前序遍历
- QPW 操作日志表(tl_operate_log)
- IntelliJ IDEA for Mac 彻底卸载/彻底删除
- PHP的ISAPI和FastCGI比较
- 概率图模型(PGM) —— 贝叶斯网络(Bayesian Network)
- C++使函数返回多个数组
- 操作系统实验报告 实验2 进程管理(答案全)
- 解决三星PM981硬盘无法正常安装黑苹果的问题(第一版)
- OneNote解决字体不同的问题【完美解决】
- php网易云信im即时通讯和聊天室
- R.Koo 改良后的分页类(主要是显示属性)
- 视觉推理(Visual Reasoning)
- 计算广告4——用户增长
- 1435 牛刀小试结构体
- Axios的二次封装(简单易懂)
- 【HTML】-案例-利用表格制作网页
- 专访超脑链团队:公链比联盟链更适合赋能传统企业
- pandas: groupby()分组求平均值
热门文章
- fluent p1模型_FLUENT中的辐射模型
- html点击鼠标页面出现爱心,js实现鼠标点击飘爱心效果
- el-element使用本地自定义图标
- 星光不负赶路人 农行客户点赞GBASE
- linux中无法联网小电脑图标不见,电脑桌面上的网络连接图标突然不见怎么解决?...
- python怎么退出全屏模式_notepad
- 【1.01】VBA基础
- IP地址、子网掩码、网络号、主机号、网络地址、主机地址
- [Excel]rank函数实现自动排序
- excel排序求和:如何统计前几名数据合计 下篇