0、文章结构

文章的行文逻辑如下,看官可以根据需要跳读,节省时间。

1、介绍underflow和overflow.

2、underflow问题起源

3、underflow问起探索

4、underflow和overflow的常见情形

5、处理一些溢出问题的小技巧

6、对其中的两种小技巧的优缺点比较

1、什么是underflow和overflow

在计算机中浮点数都是离散的,有限的。因此计算机无法用有限的浮点数来表示无限的实数。在用浮点数表示实数时,很多数都会存在近似误差。其中一种是下溢(underflow)。比如,一个非常接近于零的数值A(实际上A>0),计算机会直接把该数值判为零,虽然实际上它并不为零。另一种数值误差是上溢(overflow),通俗而言,当一个数值a非常接近某一计算机表示的数值b时(实际a<b),计算机用b表示a。

2、起源-算术编码(arithmetic coding)作业初识underflow

音频老师布置一个作业,要求写一段程序实现算术编码,被编码的字符串为:ALIALIBABA

关于算术编码的原理详见:https://blog.csdn.net/qingkongyeyue/article/details/75216790?utm_source=blogxgwz8

这个很简单,很快就用matlab写出来了,最终和老师给的答案一样。

接着老师就布置了第二个算术编码的作业,实现对下方字符串的编码,包含空格。

DIGITAL AUDIO TECHNOLOGY AND APPLICATION

代码中输入该字符串,可是range输出值为0。

理论上来讲,range是一个非常非常小的值,但不等于零。

这时,突然意识到,老师上课时讲到的,程序在数值运算中出现underflow。

此时的溢出问题的代码:https://download.csdn.net/download/h763247747/10777261

3、关于underflow问题的探索

变量Range被计算机判为零,但是它实际上并不等于零。

那么在matlab中,数值小于多少会被计算机判为零呢?

EPS函数

EPS是MATLAB中的函数,表示浮点相对精度。 对双精度数值来说eps表示从 1.0 到下一个最大双精度数的距离。对单精度数值来说eps表示从 1.0 到下一个最大单精度数的距离。

在command window中输入:help eps

Matlab中变量默认为double类型,所以其判别值为2^(-52),相当于

所以当变量值小于2.22e(-16)时,计算机会直接判为零,这时就需要考虑underflow了。

4、常见数值误差的情形

由此引出另外一个问题:哪些情况会出现数值误差(underflow 或者overflow)?

下方部分内容来自于此论坛:http://www.ilovematlab.cn/thread-242321-1-1.html。

论坛里有非常多大佬的精彩留言,让人豁然开朗。

情形1-underflow

计算所得0.4的实际值小于0.4。

情形2-由underflow出现的错误

计算机中的计算值为3,并不等于4。

情形2-误差精度

控制台输出,可以发现误差越来越大。

对于情景2问题的分析

双精度浮点数在计算机中使用科学计数法存储,下图所示浮点数格式。

关于浮点数的更加详细信息:https://www.cnblogs.com/icmzn/p/5060195.html

两个浮点数相减时,会存在有效位数字的误差。

假如1.4-1在计算机中的表示为0.3999….9*e(0)(13个9)。

100000000.4-100000000=(1.000000004-1.00000000)*e(8)=0. 0000000039..9(5个9)*e(8)。

运算精度就变差了,误差也会增大。

情形3-overflow

情形4-由于overflow出现的错误

演示underflow和overflow使用的代码:https://download.csdn.net/download/h763247747/10777601

4、处理一些溢出问题的小技巧

4.1、判断两个数是否相等

可以使用如下公式:

abs(a-b) < eps(a) or eps(b)

如果不等式成立,则a,b相等。

4.2、解决underflow问题

比如floor((1.4-1)*10),matlab运行的结果为3,并不等于4。为了得到正确的代码,可以如下改写代码。overflow的问题也可以使用类似思路。

4.3、提高精度

a-b的结果小于eps(0)时,为了避免结果被计算机判为零,可以使用其它工具,比如advanpix提高精度,比如精确到小数点后200位。

4.4、移位

比如计算0.0000000000111-0.0000000000101时,可以先都乘以10^10,再相减,然后差值再除以10^10,这样可以提高计算精度。

5、提高精度和移位的比较

方法2可以更快的解决matlab中出现的溢出问题,但是方法3更加实用。因为在工程领域,很难找到类似advanpix的工具。比如老板要求在arm芯片上实现对音频的算术编码,这样只能用方法3了。

最后用方法4解决音频算术编码underflow问题的代码:https://download.csdn.net/download/h763247747/10777264

(含Matlab源码)算术编码(arithmetic coding)的underflow问题相关推荐

  1. 【编码译码】基于matlab LDPC编码和解码【含Matlab源码 2560期】

    ⛄一.获取代码方式 获取代码方式1: 完整代码已上传我的资源: [编码译码]基于matlab LDPC编码和解码[含Matlab源码 2560期] 点击上面蓝色字体,直接付费下载,即可. 获取代码方式 ...

  2. 【编码译码】基于matlab HDB3编译码仿真【含Matlab源码 1961期】

    ⛄一.获取代码方式 获取代码方式1: 完整代码已上传我的资源:[编码译码]基于matlab HDB3编译码仿真[含Matlab源码 1961期] 点击上面蓝色字体,直接付费下载,即可. 获取代码方式2 ...

  3. 【故障检测问题】基于matlab免疫算法求解故障检测问题【含Matlab源码 196期】

    一.获取代码方式 获取代码方式1: 完整代码已上传我的资源:[故障检测问题]基于matlab免疫算法求解故障检测问题[含Matlab源码 196期] 获取代码方式2: 通过订阅紫极神光博客付费专栏,凭 ...

  4. 【优化布局】基于matlab免疫算法求解充电站最优布局【含Matlab源码 2539期】

    ⛄一.获取代码方式 获取代码方式1: 完整代码已上传我的资源:[生产调度]基于matlab免疫算法求解生产调度零等待问题[含Matlab源码 1178期] 点击上面蓝色字体,直接付费下载,即可. 获取 ...

  5. 【优化算法】灰狼优化算法(GWO)【含Matlab源码 1305期】

    一.获取代码方式 获取代码方式1: 完整代码已上传我的资源:[优化算法]灰狼优化算法(GWO)[含Matlab源码 1305期] 点击上面蓝色字体,直接付费下载,即可. 获取代码方式2: 付费专栏优化 ...

  6. 【优化算法】改进的灰狼优化算法(IGWO)【含Matlab源码 1349期】

    一.获取代码方式 获取代码方式1: 完整代码已上传我的资源:[优化算法]改进的灰狼优化算法(IGWO)[含Matlab源码 1349期] 点击上面蓝色字体,直接付费下载,即可. 获取代码方式2: 付费 ...

  7. 【优化算法】多目标灰狼优化算法(MOGWO)【含Matlab源码 099期】

    一.获取代码方式 获取代码方式1: 完整代码已上传我的资源:[优化算法]多目标灰狼优化算法(MOGWO)[含Matlab源码 099期] 点击上面蓝色字体,直接付费下载,即可. 获取代码方式2: 付费 ...

  8. 【优化算法】粒子群优化灰狼算法【含Matlab源码 006期】

    一.获取代码方式 获取代码方式1: 完整代码已上传我的资源:[优化算法]粒子群优化灰狼算法[含Matlab源码 006期] 点击上面蓝色字体,直接付费下载,即可. 获取代码方式2: 付费专栏优化求解( ...

  9. 【MVO TSP】基于matlab灰狼算法求解旅行商问题【含Matlab源码 1327期】

    一.获取代码方式 获取代码方式1: 完整代码已上传我的资源:[TSP]基于matlab灰狼算法求解旅行商问题[含Matlab源码 1327期] 点击上面蓝色字体,直接付费下载,即可. 获取代码方式2: ...

  10. 【音乐检索】基于matlab音乐检索系统【含Matlab源码 435期】

    一.获取代码方式 获取代码方式1: 完整代码已上传我的资源:[音乐检索]基于matlab音乐检索系统[含Matlab源码 435期] 点击上面蓝色字体,直接付费下载,即可. 获取代码方式2: 付费专栏 ...

最新文章

  1. Elicpse创建Maven项目
  2. 我用hbuilder怎么用不了jquery_【权益资讯】机房电脑用不了怎么办
  3. 589-N叉树的前序遍历
  4. QPW 操作日志表(tl_operate_log)
  5. IntelliJ IDEA for Mac 彻底卸载/彻底删除
  6. PHP的ISAPI和FastCGI比较
  7. 概率图模型(PGM) —— 贝叶斯网络(Bayesian Network)
  8. C++使函数返回多个数组
  9. 操作系统实验报告 实验2 进程管理(答案全)
  10. 解决三星PM981硬盘无法正常安装黑苹果的问题(第一版)
  11. OneNote解决字体不同的问题【完美解决】
  12. php网易云信im即时通讯和聊天室
  13. R.Koo 改良后的分页类(主要是显示属性)
  14. 视觉推理(Visual Reasoning)
  15. 计算广告4——用户增长
  16. 1435 牛刀小试结构体
  17. Axios的二次封装(简单易懂)
  18. 【HTML】-案例-利用表格制作网页
  19. 专访超脑链团队:公链比联盟链更适合赋能传统企业
  20. pandas: groupby()分组求平均值

热门文章

  1. fluent p1模型_FLUENT中的辐射模型
  2. html点击鼠标页面出现爱心,js实现鼠标点击飘爱心效果
  3. el-element使用本地自定义图标
  4. 星光不负赶路人 农行客户点赞GBASE
  5. linux中无法联网小电脑图标不见,电脑桌面上的网络连接图标突然不见怎么解决?...
  6. python怎么退出全屏模式_notepad
  7. 【1.01】VBA基础
  8. IP地址、子网掩码、网络号、主机号、网络地址、主机地址
  9. [Excel]rank函数实现自动排序
  10. excel排序求和:如何统计前几名数据合计 下篇