Java中float类型精度问题

今天发现了一个小的问题，在网上找了说的不多，在这记录下来方便自己和比人解决自己的问题吧。

代码片段

float unit = Double.valueOf(ActionUtils.getBillingTransformUnit(request));//取出换算单位1000.0
2

float svt = ((curveSegment.getEndVal()+1))/unit;//加0.001
3

segmentForm.setStartValTemp(String.valueOf(svt));

我们的计算最小单位是厘，页面上的startValTemp是元，所以必须为三位小数，当curveSegment.getEndVal()取出的是一千万内的整数时，加一计算最后在页面上都能显示增加了一厘。当为两千万时，String.valueOf(svt)就变成了2位小数了，从而丢失了加上的1。

引用我在mantis上的原始介绍“程序中用的数字类型Float 单位是厘填20000 后转为20000000 后加1等于20000001 除以1000.0后的值在本地化字符串时为20000.0 出现精度丢失问题 (精度问题，float精度为7--8位，8位的情况是第一位是1 当是2时进位后面的精度丢失?)”

故问题就出在使用的类型精度不满足，属于选择类型问题。使用double类型解决问题

double unit = Double.valueOf(ActionUtils.getBillingTransformUnit(request));
2

double svt = ((curveSegment.getEndVal()+1))/unit;
3

segmentForm.setStartValTemp(String.valueOf(svt));

Java中float类型精度问题相关推荐

为什么Java中float类型的取值范围大于long类型
在学习Java的过程中,我遇到了一个很有意思的问题,就是为什么Java中float类型的取值范围会大于long类型. 类型名大小/字节取值范围 float 4(32bit) -3.4E+38 ~ ...
java中double类型精度丢失问题及解决方法
点击上方"方志朋",选择"设为星标" 回复"666"获取新整理的面试文章来源: https://blog.csdn.net/yacolsp ...
java中float类型占4个字节，long类型占8个字节，为什么long类型能自动转换成float类型，且float类型为什么表示的范围比long类型大
作为常识我们都知道,float型在内存中占用的是4个字节,而long型占用8个字节.单从字节数来看,long型是大于float型的.但实际上,float表示的范围却是比long要大的 float类型的 ...
Java中double类型精度丢失的问题_double类型数据加减操作精度丢失解决方法_BigDecimal取整
BigDecimal在用double做入参的时候,二进制无法精确地表示十进制小数,编译器读到字符串"0.0000002"和"1.0000002"之后,必须把它转 ...
java中float、double和BigDecimal的精度问题（fastjson、Jackson以及实例化的方式）
java中float.double和BigDecimal的精度问题(fastjson.Jackson以及实例化的方式): 问题描述 java中如果使用float或double类型的数据初始化BigDe ...
Java中BigDecimal类型的加减乘除及大小比对
Java中BigDecimal类型的加减乘除及大小比对前言 BigDecimal解释创建BigDecimal类型加减乘除计算结果分析结论除法的补充两个BigDecimal的比对前言在 ...
java double 转string_double转string java中double类型如何转换为String类型
double转string java中double类型如何转换为String类型在我们做的项目中,有一个字符串的生成,我们需要double去拼接,结果发现了,拼接后的字符串,那个double值用科学 ...
java中各种类型所占内存空间大小
一.常用类型占用内存大小 java中常用类型所占内存大小,以下值以实测为准. 类型数量大小备注 byte 1 1B byte 1024 1KB int 1 4B int 1024 4KB boo ...
java中double类型占几个字节_java中各种数据类型占用字节数
1字节(Byte)=8bit java的基本类型类型所占字节 byte 1 short 2 int 4 long 8 float 4 double 8 char 2 String中字母和汉字所占字 ...

Java中float类型精度问题

Java中float类型精度问题相关推荐

最新文章

热门文章