MATLAB的eps函数,官方帮助文档是这么描述的:Floating-point relateive accuracy,也就是浮点数的相对精度。

大家都知道,在数学中,实数有无穷多个,数值可以无限大,精度也可以无限小。而在计算机中,因为表示数值的字长有限,不可能无限地表示一个数的有效数字。所以在计算机中,是没有绝对概念上的无穷大和无穷小的。两个相邻数字(中间不能再有其他数值)的“间隔”,就是一般意义上的相对精度。(相对精度的具体含义可以自行Baidu,也可以参见这个帖子:关于Matlab的eps函数)。

好,下面进入正题:

我在查看eps的帮助文档时,发现文档中提到,eps的输出应该是:

2^(-52)

当时我就不理解了,因为大家直接在MATLAB下面输出,结果肯定是:

2.2204e-16

这不对啊。百思不得其解!有聪明的看官肯定知道我到底犯了什么错误。不过,当时我就是不明白,看了stackoverflow的这个帖子(What‘s the actual value of eps in Matlab?),才知道自己的问题,真是蠢到家了。因为大家只要这么写:

>> 2^(-52)

ans=

2.2204e-16

明白了吧!注意的一点是,如果这么写:

>> 2^(-52) == 2.2204e-16

ans =

0

结果是不对的。因为计算机存储数值的问题,2.2204e-16在存储时,与2^(-52)是不同的,有误差。所以,结果显示二者不同。有经验的同学,应该在判断一个浮点变量是否为零的时候,碰到过类似的事情。注意在判断浮点数是否相等时,不能使用 “==” 符号。

总之,碰到问题还是应该多想想,多试试。

原文:http://www.cnblogs.com/athR/p/3891254.html

matlab浮点运算的误差,MATLAB的eps,浮点数相对精度相关推荐

  1. 用matlab求残余误差,matlab在测量误差分析中的应用

    matlab在测量误差分析中的应用 MATLAB在测量误差分析中的应用 在技术测量中,按照误差的特点与性质,误差可分为:系统误差,粗大误差和随机误差.在假定不含有系统误差的情况下,可借助MATLAB对 ...

  2. matlab fsolve函数 误差,matlab关于fsolve函数的运用出现的问题

    在网上查找了很多相同问题的答案,但是都没有合适的方法解决我的问题,求大神们指点 K1=442.3926125;K2=45483.17187;K3=0.000253321;K4=22987873.07; ...

  3. matlab lscov c语言,Matlab 函数大全 - 文章教程

    一.一般函数命令(General) 1.常用信息(General information) help 联机帮助命令,在MATLAB命令窗口显示帮助主题(在help后加函数或命令的特殊字符,可得到具体命 ...

  4. MATLAB浮点数运算精度问题

    matlab计算题:              而后用matlab进行了一些浮点数计算,但结果都出乎预料:          2+2*eps = 2.000          3 + eps = 3 ...

  5. Matlab数字(所有数值存储为双精度浮点数)

    MATLAB支持包括有符号和无符号整数以及单精度和双精度浮点数的各种数字类型. 默认情况下,MATLAB将所有数值存储为双精度浮点数. 可以选择将任何数字或数组的数字存储为整数或单精度数字. 所有数字 ...

  6. matlab日期转儒略历,matlab儒略日转为日期

    Matlab数据类型及转换 (2011-05-16 15:10:59)转载▼标签: 杂谈 分类: 备忘录 Matlab中有15种基本数据类型,主要是整型.浮点.逻辑.字符.日期和时间.结构...... ...

  7. matlab中exp(liangx),Matlab基础知识

    <Matlab基础知识>由会员分享,可在线阅读,更多相关<Matlab基础知识(122页珍藏版)>请在人人文库网上搜索. 1.Lxy, China Jiliang Univer ...

  8. P2 Matlab计算基础-《Matlab/Simulink与控制系统仿真》程序指令总结

    上一篇 回到目录 下一篇 <Matlab/Simulink与控制系统仿真>程序指令总结 Matlab_Simulink_BookExample 2. Matlab 计算基础 表2.1 Ma ...

  9. matlab padarray函数零,matlab padarray函数

    1 padarray功能:填充图像或填充数组. 用法:B = padarray(A,padsize,padval,direction) A为输入图像,B为填充后的图像, padsize给出了给出了填充 ...

最新文章

  1. 基于运动相关分析的实时多源异构传感器时空标定方法研究
  2. NLP - Log-linear Models
  3. vba 日期加一年_VBA究竟值不值得审计学?
  4. 第09讲:爬虫解析利器 PyQuery 的使用
  5. wordpress 后台页面无法显示绑定的台湾语言
  6. 有没有什么方法快速能找到导致软件崩溃的进程_崩溃!电脑突然黑屏无法启动...
  7. 湖北经济学院的计算机怎么样,湖北经济学院怎么样名气高吗?真实排名及实力如何?是一本吗...
  8. web api、获取DOM元素的方式、事件理解、click事件在移动端300ms延时、事件对象、事件委托、常见事件类型
  9. 从崩溃的选课系统,论为什么更安全的 HTTPS 协议没有被全面采用
  10. 【linux】io_uring 和 eBPF 将如何彻底改变 Linux 中的编程
  11. java给界面添加滚动条_Java Swing学习笔记:要求会默写或熟练的,GUI,控件,设置列或行,加滚动条,新界面...
  12. 查找一个数据库内的所有表的行数
  13. nginx不缓存html页面耗性能,加速nginx性能: 开启gzip和缓存
  14. CorePlot-曲线图
  15. 阶段3 3.SpringMVC·_06.异常处理及拦截器_5 SpringMVC拦截器之编写controller
  16. 送书 | Halcon机器视觉算法原理与编程实战
  17. Linux程序设计-7-复习重点
  18. ORACLE安装之环境搭建
  19. swagger分页查询报错500
  20. 2020.1.8学习

热门文章

  1. 收集了100+论文的最新综述来了!基于深度学习的图像深度重建
  2. 【SLAM】ORB-SLAM:让人Orz的SLAM
  3. gps84转换gcj02公式_地球坐标系 (WGS-84) 相互转火星坐标系 (GCJ-02) 的转换算法
  4. C盘满了怎么办?如何清理
  5. cocos2d-js开发环境的搭建
  6. RGB+Depth规则箱体测量方案
  7. RDKit | PD/PD-L1抑制活性 化合物指标分析
  8. ChemDataExtractor:从PDF、HTM、文本等中提取化学数据
  9. 批量从apk文件中提取出so文件
  10. Android Binder设计与实现 – 设计篇