C++浮点数float转int精度丢失解决

我在开发时，遇到这样一种场景：
1.需要传递浮点数, 将浮点数转成int或者uint类型传输。（固定条件不能改）
2.例如传递65.533, 那么把这个数乘以1000，变成65533，然后再传输。

遇到的问题是，我用float类型保存65.533，结果他在内存中的保存形式为65.5329971, 乘以1000然后取整变成了65532！
解决方法：经过他人指导，采用round()函数，将变量四舍五入，然后在转成整数就可以了。

float tt = 65.533;
int ans = static_cast<int>(1000*tt); //65532
int ans2 = static_cast<int>(round(1000*tt)); //65533

C++浮点数float转int精度丢失解决相关推荐

php中float转int精度丢失的问题
今天遇到一个问题,$19.99转换为内部货币时的比例是1:100,所以乘以100,结果是1999,但是订单信息描述中将数据转换为int(不确定, 因为里面是将含有该float数值字段的数组做json_ ...
【c++】double转int精度丢失问题
#include <iostream>int main() {double a = 74.49;int b = a * 100;std::cout << "a: &q ...
float与double精度丢失问题
java中int,float,long,double取值范围 public class TestOutOfBound {public static void main(String[] args) { ...
Java中double类型精度丢失的问题_double类型数据加减操作精度丢失解决方法_BigDecimal取整
BigDecimal在用double做入参的时候,二进制无法精确地表示十进制小数,编译器读到字符串"0.0000002"和"1.0000002"之后,必须把它转 ...
float,double等精度丢失问题
来自MSDN的解释: http://msdn.microsoft.com/zh-cn/c151dt3s.aspx 为何浮点数可能丢失精度浮点十进制值通常没有完全相同的二进制表示形式. 这是 CPU 所 ...
Java接口long类型精度丢失,解决前后端交互Long类型精度丢失问题
雪花算法ID,对应的后端Long类型,前端number类型,它们的精度不一样,导致精度丢失现象雪花算法得到的ID较长,传到前端后,精度丢失库中:23754851322302474 后端:2375 ...
JSON long 型数字过长精度丢失解决
目录 1. 引入JacksonObjectMapper 2. 在WebMvcConfig中重写方法extendMessageConverters 由于在SpringMVC中, 将Controller方 ...
c#语言float转换int,【已解决】C#中double/float转int，小数部分四舍五入
[问题] C#中,需要将一个double的值转换为int类型. [解决过程] 1.参考: 去试了试Math的Floor和Ceiling,已经Convert.Int64和Int32,测试结果见代码:pr ...
double转int精度丢失问题
在做学校的acm题时遇到这么一个问题,多余部分已省去,问题部分为: 输入正整数n,取2的n次方的最高位. 由M=2^n,两边取以10为底的对数,logM=nlog2=y 则pow(10,y的小数部分) ...

C++浮点数float转int精度丢失解决

C++浮点数float转int精度丢失解决相关推荐

最新文章

热门文章