C#decimal数据类型——有效长度问题

C#decimal整数部分有效长度

通过累计数字做数据容纳量测试：

从1累加到一百万亿测试：

//累计数据
//1++++++100=5050
//1+++++++100000000000000(一百万亿)
//(n+1)*n/2

 //C#处理数据长度，最长29位
decimal n = decimal.Parse("100000000000000");//一百万亿
decimal one=decimal.Parse("1");
decimal two=decimal.Parse("2");
decimal v = (n + one) * n / two;
Console.WriteLine(v);
Console.WriteLine(v.ToString().Length);

从1累加到一千万亿测试：

decimal n = decimal.Parse("1000000000000000");//一千万亿
decimal one=decimal.Parse("1");
decimal two=decimal.Parse("2");
decimal v = (n + one) * n / two;
Console.WriteLine(v);
Console.WriteLine(v.ToString().Length);

异常如下：

基础长度测试：

//C#处理数据长度，最长29位
string len = "100000000000000000000000000000";
Console.WriteLine(decimal.Parse(len));
Console.WriteLine("最大长度:"+ len.Length);

长度30的时候就会报错异常。

C#decimal数据类型——有效长度问题相关推荐

C#decimal数据类型
文章目录博主写作不容易,孩子需要您鼓励万水千山总是情 , 先点个赞行不行为适应高精度的财务和货币计算的需要,C#提供了十进制decimal类型.decimal类型数据特征如下表所示: 数据类型 ...
【转载】C# double和decimal数据类型以截断的方式保留指定的小数位数
从事ASP.NET in C#开发快一年了,今天才知道,C#中保留小数位数时没有使用截断的方式项目中要用到以截断的方式取小数点后两位,故写了以下方法: 复制代码代码如下: /// <summ ...
DECIMAL数据类型
DECIMAL的声明语法为DECIMAL(M,D) .自变量的值范围如下: M是最大位数(精度).范围是1到65. D是小数点右边的位数(小数位).范围是0到30,并且不能大于M. 如果D省略,则默认 ...
MySQL DECIMAL数据类型
https://blog.csdn.net/zyz511919766/article/details/49335565 转载于:https://www.cnblogs.com/feibazhf/p/9 ...
大数据中用到的新的数据类型bigint、decimal、smallint、tinyint
在对比oracle数据库和大数据库的时候,发现了几个用以存放数字的新的类型bigint.decimal.smallint.tinyint,为了对比之间的不同,我进行了统计 bigint 可以精确的表示 ...
decimal(numeric )、float 和 real 数据类型的区别
decimal(numeric ) 同义,用于精确存储数值 float 和 real 不能精确存储数值 decimal 数据类型最多可存储 ...
mysql 数据类型 decimal_mysql decimal、numeric数据类型
可能做程序的人都知道,float类型是可以存浮点数(即小数类型),但是float有个坏处,当你给定的数据是整数的时候,那么它就以整数给你处理.这样我们在存取货币值的时候自然遇到问题,我的default ...
SQL-SqlServer中decimal(numeric )、float 和 real 数据类型的区别[转]
Decimal(14,4)表明是有效位位14,小数点位是4,那么有效位是包含所有的在内,小数点,小数点前面的数字位数,小数点后面的位数 decimal(numeric ) 同义 ...
数据库数据类型decimal理解
MySQL DECIMAL数据类型用于在数据库中存储精确的数值. 例如语法:column_name DECIMAL(P,D) 其中P表示的是有效数字的位数,D表示是小数的位数,D小于或等于P. 理解可 ...

C#decimal数据类型——有效长度问题

C#decimal整数部分有效长度

从1累加到一百万亿测试：

从1累加到一千万亿测试：

C#decimal数据类型——有效长度问题相关推荐

最新文章

热门文章