float与double的范围和精度

1 范围
float和double的范围是由指数的位数来决定的。

float的指数位有8位，而double的指数位有11位，分布如下：

float：共32位

1bit（符号位）
8bits（指数位）
23bits（尾数位）

double：共 64位

1bit（符号位）
11bits（指数位）
52bits（尾数位）

于是，float的指数范围为-127~+128，而double的指数范围为-1023~+1024，并且指数位是按补码的形式来划分的。其中负指数决定了浮点数所能表达的绝对值最小的非零数；而正指数决定了浮点数所能表达的绝对值最大的数，也即决定了浮点数的取值范围。

float的范围为-2^128 ~ +2^128，也即-3.40E+38 ~ +3.40E+38；double的范围为-2^1024 ~ +2^1024，也即-1.79E+308 ~ +1.79E+308。

2 精度
float和double的精度是由尾数的位数来决定的。浮点数在内存中是按科学计数法来存储的，其整数部分始终是一个隐含着的“1”，由于它是不变的，故不能对精度造成影响。

float：2^23 = 8388608，一共七位，这意味着最多能有7位有效数字，但绝对能保证的为6位，也即float的精度为6~7位有效数字；

double：2^52 = 4503599627370496，一共16位，同理，double的精度为15~16位。

float与double的范围和精度相关推荐

java中float、double和BigDecimal的精度问题（fastjson、Jackson以及实例化的方式）
java中float.double和BigDecimal的精度问题(fastjson.Jackson以及实例化的方式): 问题描述 java中如果使用float或double类型的数据初始化BigDe ...
float和double的范围和精度
float与double的范围和精度 1 范围 float和double的范围是由指数的位数来决定的. float的指数位有8位,而double的指数位有11位,分布如下: float: 1bit(符 ...
【转】float与double的范围和精度
原文:http://blog.csdn.net/wuna66320/article/details/1691734 1 范围 float和double的范围是由指数的位数来决定的. float的指数位 ...
float 范围 java_java float与double的范围和精度
1. 范围 float和double的范围是由指数的位数来决定的. float的指数位有8位,而double的指数位有11位,分布如下: float: 1bit(符号位) 8bits(指数位) 23b ...
C/C++中float与double的范围和精度详解
float-单精度浮点型 double-双精度浮点型 float与double都是浮点类型,double的精度是float的俩倍,所以double比float存的数据更精确,占的空间也更大. 通常来说 ...
java float 转double_将float转换为double而不会丢失精度
我发现转换为二进制表示更容易理解这个问题. float f = 0.27f; double d2 = (double) f; double d3 = 0.27d; System.out.println ...
（转载）float与double中的精度问题
float与double的范围和精度原文:http://blog.csdn.net/wuna66320/article/details/1691734 1 范围 float和double的范围是由指 ...
MySQL FLOAT、DOUBLE、DECIMAL（小数类型）
MySQL 中使用浮点数和定点数来表示小数. 浮点类型有两种,分别是单精度浮点数(FLOAT)和双精度浮点数(DOUBLE):定点类型只有一种,就是 DECIMAL. 浮点类型和定点类型都可以用(M, ...
3、（小数类型）FLOAT、DOUBLE、DECIMAL
MySQL 中使用浮点数和定点数来表示小数. 浮点类型有两种,分别是单精度浮点数(FLOAT)和双精度浮点数(DOUBLE): 定点类型只有一种,就是 DECIMAL. 浮点类型和定点类型都可以用(M ...

float与double的范围和精度

float与double的范围和精度相关推荐

最新文章

热门文章