double类型判断是否相等

背景

使用了“==”和“！=”来判断duble类型，使用sonar等代码规范扫描会报如下错误：Floating point math is imprecise because of the challenges of storing such values in a binary representation. Even worse, floating point math is not associative; push a float or a double through a series of simple mathematical operations and the answer will be different based on the order of those operation because of the rounding that takes place at each step.

原因

duble类型只可以判断大小，不可以判断是否相等，这样会失去精度，使判断没有意义。

解决方案

为两个duble类型的值设置误差，通过判断大小来判断是否相等，代码演示如下：

public static void main(String[] args) {double preErrorKey=1e-6; //1*10的-6次方即0.000001double key1=0.0000001d;double key2=0d;System.out.println(key1==key2); //结果是flaseSystem.out.println(Math.abs(key1-key2)<preErrorKey);    //允许一定的误差范围，判断结果为true}

double类型判断是否相等相关推荐

qt之double类型判断
一.前言 double类型不能判断相等,那么如何判断等于呢,见下文,脑瓜子疼啊,以为时bug,结果还是基础犯了错误.. 二.环境 windows10 qt57 三.正文 double类型的浮点数,保留 ...
深入理解C++浮点数(float、double)类型数据比较、相等判断
深入理解C++浮点数(float.double)类型数据比较.相等判断浮点数在内存中的存储机制和整型数不同,其有舍入误差,在计算机中用近似表示任意某个实数.具体的说,这个实数由一个整数或定点数(即尾 ...
java double转换符_java中字符串怎么转换成double类型
展开全部 public class Demo { public static void main(String[] args) { Demo demo = new Demo(); String str ...
java 返回值判断_在Java中判断方法重载的条件除了参数外,还可以通过返回值类型判断。_学小易找答案...
[单选题]若int x;且有下面的程序片断,则输出结果是() . for (x=3; x<6; x++) { printf((x%2) ? "##%d" : "** ...
17.C#类型判断和重载决策(九章9.4)
今天来结束第九章,聊下我们经常忽略,但是编译器会帮我们完成的"类型判断和重载决策",理解编译器如何帮我们完成,相信在写代码时会更明确,避免一些编译出错,排查的问题,让我们开发更给力 ...
java判断类型_Java中类型判断的几种方式 - 码农小胖哥 - 博客园
1. 前言在Java这种强类型语言中类型转换.类型判断是经常遇到的.今天就细数一下Java中类型判断的方法方式. 2. instanceof instanceof是Java的一个运算符,用来判断一个 ...
7-7 硬币找钱问题 (10 分)（思路+详解+double类型数据的处理）Come baby!!!!!!!!!!!!!!!!!!!!
一:题目设有6 种不同面值的硬币,各硬币的面值分别为5 分,1 角,2 角,5 角,1 元,2元.现要用这些面值的硬币来购物.在购物中希望使用最少个数硬币.例如,1 次购物需要付款0.55 元,如果 ...
JS 相等判断 / 类型判断
相等判断 JavaScript提供三种不同的值比较操作: 严格相等 ("triple equals" 或 "identity"),使用 === , 宽松相等 ( ...
java 判断类型_Java中类型判断的几种方式
在Java这种强类型语言中类型转换.类型判断是经常遇到的.今天就细数一下Java中类型判断的方法方式.拉勾IT课小编为大家提供java种类型判断方式. instanceof instanceof是Ja ...
android double值排序,android根据Double类型数据经纬度算出距离再根据距离实现排序功能...
前言项目中用到全国的加油站数据加载并根据经纬度算出距离然后根据距离从小到大排序主要是数据类型是Double 这里必须对数据进行封装实现也不难这里讲一下自己的实现方法和实现思路效果图先来 ...

double类型判断是否相等

背景

原因

解决方案

double类型判断是否相等相关推荐

最新文章

热门文章