C# string类型转换为float精度问题

　　使用float scoValue = float.Parse(scorestr); 的方法,在提交小数的时候会出现精度丢失问题,

如果是0.5则没有问题数据库中也是0.5,但是提交其他小数像 0.2 0.6 就会出现问题,数据库中是

0.20000000298023224 0.60000002384185791 之类的数据,后来在网上查了一些资料，从它

们的数据定义才明白过来。

　　float:浮点型，含字节数为4，32bit，数值范围为-3.4E38~3.4E38（7个有效位）
　　double:双精度实型，含字节数为8，64bit数值范围-1.7E308~1.7E308（15个有效位）
　　decimal:数字型，128bit，28个有效位

　　float 与计算机中数值表示方法有关,不是准确数据.

　　decimal 是准确数据,不会出现这个问题

　　基础掌握好才是王道啊！

posted on 2011-04-13 14:27 muzhiye 阅读(...) 评论(...) 编辑收藏

转载于:https://www.cnblogs.com/muzhiye/archive/2011/04/13/2014835.html

C# string类型转换为float精度问题相关推荐

android 字符串转浮点,Android String类型转换为float、double和int的工具类方法
在做项目时遇到了需要把年份(String)转换为int类型,对年份进行比较,顺便提取为方法,保存下来方便以后使用. public class ConvertUtil { //把String转化为flo ...
android 字符转double,Android String类型转换为float、double和int的工具类方法
在做项目时遇到了需要把年份(String)转换为int类型,对年份进行比较,顺便提取为方法,保存下来方便以后使用. public class ConvertUtil { //把String转化为flo ...
stoi() 函数----将一个string类型转换为int型
需要的头文件: #include<iostream> 需要的其他东西: using namespace std; 函数的作用: 将一个字符串string类型转换为int 型用法格式: s ...
String类型转换为Long类型
String类型转换为Long类型 //返回Long包装类型 Long.ValueOf("String")//返回long基本数据类型 Long.parseLong("S ...
java把string转换为int_java如何把String类型转换为int类型
在java中,实现String类型转换为int类型的方法有:Integer.parseInt(String)方法.Integer.valueOf(String)方法. 本篇文章就给大家介绍java把S ...
java把string转int类型_java把String类型转换为int类型的方法
java把String类型转换为int类型的方法发布时间:2020-08-20 14:32:03 来源:亿速云阅读:73 作者:小新这篇文章将为大家详细讲解有关java把String类型转换为i ...
java string 转换 int_java如何把String类型转换为int类型
在java中,实现String类型转换为int类型的方法有:Integer.parseInt(String)方法.Integer.valueOf(String)方法. 本篇文章就给大家介绍java把S ...
C++中的string类型转换为int类型
今天遇见了一个题,感觉这个题很常见,所以就把它写下来,下次遇见感觉不太熟练的话,继续复习一下. 这个题比较简单,很容易做出来,但是这个题主要有一个关键点,那就是类型转化,主要是我按照自己的思路来写的方 ...
c++ string类型转换为char *类型
string 是c++标准库里面其中一个,封装了对字符串的操作把string转换为char* 有3中方法: 1.data 如: string str="abc"; char *p ...

C# string类型转换为float精度问题

C# string类型转换为float精度问题相关推荐

最新文章

热门文章