c++ 浮点比较和浮点运算

要点：

float:32位

double 64 位

long double 96 或者128位

标准认为：

float 至少为6位有效数字。

double 至少为10位有效数字。

long double 至少10位有效数字。

要点：

1.double 类型比float类型的计算要快。

2.对于浮点型，没有严格意义上的相等，因此比较是否相等，请用if(fabs(a-b)<0.00001);

2的10次方是1K，20次是1M，30次是1T

因此2的16次方是64000，2的17次方是128000；因此我认为应该至少用7位来表示小数点后面的数字。

#include <cstdlib>
#include <iostream>
using namespace std;
int main(int argc, char *argv[])
{
float a=0.111 111 91111111111111111111111111;
cout<<a<<endl;
system("PAUSE");
return EXIT_SUCCESS;
}

打印结果为：

0.111 112

所以说。。最后一位是不精确的。

因此。。比较的时候应该将其舍去。。

取前5位比较：最后一位应该忽略之。

bool compare(){

if(a-b>0.000 01) return true;

};

c++ 浮点比较和浮点运算相关推荐

浮点寄存器及浮点运算
原链接: http://blog.163.com/april_dsz/blog/static/33773077200811754816660/ 浮点执行环境的寄存器主要是8个通用数据寄存器和几个专用寄 ...
ARM 浮点运算，软浮点，硬浮点
很多时候我们要处理的数据,不仅仅是整数和字符串,还有浮点数即小数.在多媒体数据处理方面表现的更多.是不是所有的CPU都支持,浮点运算呢?答案:不是. 我们常常听到赢浮点和软浮点,这些到底说的是什么呢? ...
linux kernel浮点处理
目前大多数CPU都支持浮点运算单元FPU,FPU作为一个单独的协处理器放置在处理器核外,但是对于嵌入式处理器,浮点运算本来就少用,有些嵌入式处理器就会去掉浮点协处理器.X86处理器一般都是有FPU的. ...
编译选项中的硬浮点与软浮点区别
一.硬浮点与软浮点 1. 硬浮点编译器将代码直接编译成硬件浮点协处理器(浮点运算单元FPU)能识别的指令,这些指令在执行的时候ARM核直接把它转给协处理器执行.FPU 通常有一套额外的寄存器来完成浮 ...
定点DSP与浮点DSP的比较（定点DSP和浮点DSP的定义）
[ 首先要理解什么是定点运算,浮点运算你要知道DSP芯片是如何处理小数的这就涉及的是小数的定标问题.数值的精度与数值的范围就成了一对矛盾了. 你要知道:支持浮点运算的DSP就是浮点DSP芯片,在这 ...
软浮点硬浮点不配套问题(error：uses VFP register arguments)
1.前言报错信息: error:/home/xxx.a uses VFP register arguments, /home/xxx.a does not VFP(Virtual Float Poi ...
4.6 W 字总结！Java 11—Java 17特性详解
作者 | 民工哥技术之路来源 | https://mp.weixin.qq.com/s/SVleHYFQeePNT7q67UoL4Q Java 11 特性详解基于嵌套的访问控制与 Java 语言 ...
matlab溢出的标志inf,关于C#：溢出与信息
当我在Matlab中输入一个大于max double的数字时,例如10^309,它的值大约为1.79769e+308,则返回Inf. 出于教育目的,我想获取像C编译器这样的溢出异常,该异常返回一个溢出 ...
TC 2.0 学习总结
<珍藏TC2.0>: TCC.exe,TLink.exe,TLib.exe 命令行选项及其使用! http://blog.csdn.net/chenggil10/article/detai ...

c++ 浮点比较和浮点运算

c++ 浮点比较和浮点运算相关推荐

最新文章

热门文章