C# Math.Abs（）取“绝对值”方法使用过程中需要注意的地方

在C#中对于数值想要取绝对值的时候一般大家都会用using System;中带的Math.Abs（）方法，这种方法非常便捷。

但在一种情况下，取绝对值方法返回的值并不精准，我用下面的例子来展示：

假设有一个double变量 a=2.5，一个double变量b=2.6，此时用变量a减去变量b然后再用Math.Abs（a-b）；方法取绝对值。

你就会发现这个方法的返回值不是0.1，而是一个无线趋近于0.1的数，值为0.10000000000000009。

所以大家在使用这个方法的时候需要注意这点。

例子运行的代码如下：

double a = 2.5;
double b = 2.6;
double c = Math.Abs(a - b);

有兴趣的朋友们可以调试程序看一看结果，我个人觉得还是挺有意思的。

C# Math.Abs（）取“绝对值”方法使用过程中需要注意的地方相关推荐

JavaScript中带有示例的Math.abs（）方法
JavaScript | Math.abs()方法 (JavaScript | Math.abs() Method) Math operations in JavaScript are handled ...
查询结果取交集_Elasticsearch 查询过程中的 prefilter 原理
大家都知道在对索引执行查询的时候,需要在所有的分片上执行查询,因为无法知道被查询的关键词位于哪个分片,对于全文查询来说诚然如此,然而对于时序型的索引,当你从 my_index-* 中执行 now-3d ...
spring-data-redis 使用过程中需要注意的地方
1.序列化问题 <!-- SDR默认采用的序列化策略有两种,一种是String的序列化策略,一种是JDK的序列化策略.StringRedisTemplate默认采用的是String的序列化策略, ...
关于找工作的过程中需要注意的地方
在辞职之后,我迅速的投入到找工作的大军中,很快,工作有了回应,我一直期待进入的两个公司给我了回信,但是都需要一段时间的报批Offer,第一个公司需要等待一周多的时间,第二个公司本来说要很快的把进度提前 ...
java中取long的绝对值_在Java中获取float，int，double和long的绝对值
java.lang.Math类具有abs()方法,可帮助我们查找不同数据类型的绝对值. 浮动绝对值为了计算float值的绝对值,我们使用java.lang.Math.abs(float a)方法.如 ...
字符串内置对象方法与Math内置对象方法的简介
字符串内置方法 var str1 = 'xiaoming'; console.log(str1.length);//字符串的长度 console.log(str1.charAt(0));//返回索引0 ...
《大话软件工程—需求分析与软件设计》，给出了分析与设计过程中需要的理论、方法、工具和标准
□ 做好一款软件从哪里开始呢?→ 客户需求的调研: □ 一款软件的价值高低由哪个环节决定呢?→ 软件的分析与设计: □ 软件顺利完成开发靠什么?→ 高效的项目管理: □ 软件开发的主要角色?→ 客户. ...
云模型在综合评价过程中的应用
目录 1 云模型标尺(标准云模型)的构建方法 1.1 通过正态云的"3En 规则"来表示评价论域 1.2 通过论域的边界值隶属度相等来表示评价论域 1.3 通过黄金分割法来表示评价 ...
springfox-swagger原理解析与使用过程中遇到的坑
swagger简介 swagger确实是个好东西,可以跟据业务代码自动生成相关的api接口文档,尤其用于restful风格中的项目,开发人员几乎可以不用专门去维护rest api,这个框架可以自动为你 ...

C# Math.Abs（）取“绝对值”方法使用过程中需要注意的地方

C# Math.Abs（）取“绝对值”方法使用过程中需要注意的地方相关推荐

最新文章

热门文章