描述

为什么会有精度问题？

计算机处理数据都涉及到数据的转换和各种复杂运算，比如，不同单位换算，不同进制(如二进制十进制)换算等，很多除法运算不能除尽，比如10÷3=3.3333.。。。。。。无穷无尽，而精度是有限的，3.3333333x3并不等于10，经过复杂的处理后得到的十进制数据并不精确，精度越高越精确。float有8位有效数字，double有16位有效数据，float和double都是到大到一定的值自动开始使用科学计数法，并保留相关精度的有效数字，所以结果是个近似数。如果更精确的运算小数(比如金融，数学)，希望结果更符合预期值应该使用Bigcimal。计算器应该也会有精度问题，也会有二进制十进制转换。

java的双精度和单精度的区别

现实问题中不但有整型数值，还有小数。Java语言也提供了针对小数的存储类型，分别是float类型和double类型。

Java语言的浮点类型有两种不同的表示形式：十进制数和科学计数法。十进制数形式，由数字和小数点组成，且必须有小数点，如0.123、12.85、26.98等；科学计数法形式，如：2.1E5、3.7e-2等。其中e或E之前必须有数字，且e或E后面的指数必须为整数。

科学计数法

一种简化计数的方法，对于位数较小的数值，科学计数法没有什么优势，但对于位数较多的数值其计数方法的优势就非常明显了。例如：光的速速是300，000，000米/秒，全世界人口数大约是6，100，000，000。类似光的速度和世界人口数这样大数值的数，读、写都很不方便，仔细观察上面的两个数值，光的速度可以写成3*108，全世界人口数可以写成6.1*109。这种计数方法就是科学计数法，用Java语言科学计数法表示光速是3E8，世界人口数大约是6.1E9。

一个较大的数值(》0)可以用下面的方式来表示：

a * 10n (1《=a《10，n为整数)

其中，a是该数值的有效位数，有效位数从左边第一个不是0的数起，到末尾数字为止，所有的数字(包括0，科学计数法不计10的n次方)，称为有效数字。例如：光速是3E8，其有效数字是1位，值是3；世界人口数大约是6.1E9，其有效数字是2位，值是6.1。

n是该数值的整数部分减1的正整数。

一个较小的数值(《0)可以用下面的方式来表示：

a * 10-n (1《=a《10，n为整数)

a的取值同上面相同，n的取值为原数中左边第一个不为0的数字前面所有的0的个数(包括小数点前面的0)。

在Java语言中，浮点类型有float和double两种，分别代表单精度和双精度的数值。精度是指描述一个数值的准确程度，在数学运算中，经常会用到近似数，近似数与原数值非常相近，但又不完全符合原数值，只能说在某种程度上近似。精度与近似数相似，也是用一个与原数值非常相近的数代替原来的数值。

前面说过存储一个数值所用的字节越多，其精度越高，数值范围也越大。由此看来，精度与存储字节数密切相关，float类型的存储空间是4个字节，其表示的值范围约为10-38到1038，double类型的存储空间是8个字节，其表示的值范围约为10-308到10308，float存储数值的精度和范围要小于double存储数值的精度和范围。因此，float是单精度数值，double是双精度数值。

float变量可按如下方式声明：

double变量可按如下方式声明：

数值赋值给float变量时，数值尾部要加上小写“f”或大写“F”声明为float数值，不然编译器会给出“可能损失精度的错误”如下图所示。因为在Java语言中，带小数的数值默认为是double类型，double类型转换为float类型，自然要损失精度了。

在 Java 程序中使用浮点数和小数时，不能假定浮点计算一定产生整型或精确的结果，浮点数不是精确值，使用它们会导致舍入误差。

打开APP精彩内容

点击阅读全文