Teradata中的四舍五入问题

2019独角兽企业重金招聘Python工程师标准>>>

在Teradata做数据舍入时，发现一些问题，如下例：
select cast('1234.505' as decimal(18,2))
--1234.50

select cast('1234.515' as decimal(18,2))
--1234.52

到底时怎么造成大的呢？

[@more@]查资料得知：Teradata中四舍五入的规则由DBSCONTROL下的参数 RoundHalfwayMagUp 决定，默认情况下RoundHalfwayMagUp = FALSE，意为按照Teradata的规则进行进位。当RoundHalfwayMagUp设为TRUE时，和正常的进位没有区别。Teradata的进位规则考虑的是：5是个中间值，进位或不进位都欠妥。因此他采取一种折中处理方法：
1、当5后面有1位不为0时，则进位；
2、当5后面位都为0或者没有其他位时根据5前面一位的奇偶，奇进偶不进，下面是一些例子：
select cast('1234.505' as decimal(18,2))
--1234.50

select cast('1234.515' as decimal(18,2))
--1234.52

select cast('1234.5051' as decimal(18,2))
--1234.51

select cast('1234.5052' as decimal(18,2))
--1234.51

select cast('1234.505001' as decimal(18,2))
--1234.51

select cast('1234.50500' as decimal(18,2))
--1234.50

select cast('1234.51500' as decimal(18,2))
--1234.52

select cast('1234.52500' as decimal(18,2))
--1234.52

设置RoundHalfwayMagUp = true，（设置成功需要重启数据库才能生效）则按标准的四舍五入进行取舍。

转载于:https://my.oschina.net/u/2381604/blog/741607

Teradata中的四舍五入问题相关推荐

python 4舍5入_python中的四舍五入
前言最近工作过程中遇到了需要计算金钱的问题,由于有零有整,多次计算之后进行保留两位小数的时候,会发生计算不太准确的问题. 比如: 572.725需要保留两位小数,按照我们生活中来说,应该是572.7 ...
php中浮点数四舍五入,php浮点数四舍五入函数
本文章介绍了在php中浮点数四舍五入的两个常用的函数round与此同时ceil函数,可能小数保留位数. round() 函数对浮点数进行四舍五入语法:float round ( float val ...
teradata中no more spool space
teradata中no more spool space 刚上线的TD跑批作业,有些会报"no more spool space"这样的错误,开发人员第一反应,分配的数据库空间不足 ...
C语言中关于四舍五入的计算方法
C语言中关于四舍五入的处理利用取整运算截断 eg: 数字0.45 取整后结果为0: 数字3.67取整后结果为3: 做整数部分的四舍五入即:x=(int)(0.45+0.7) 取整后结果为1: #i ...
Unity中实现四舍五入
一:前言 C#中没有四舍五入,它采用的是四舍六入五成双,C#中的Math.Round和Unity中的Mathf.Round都是如此,想要实现四舍五入只能自己实现四舍六入五成双:四舍五入时,如果小数位 ...
润乾报表通过JS自带函数来实现自动计算中的四舍五入
一.问题描述由于润乾设计器的单元格的"显示格式"这个属性对数据进行相应位数的舍入是根据java中的java.text.DecimalFormat这个类来实现相关的需求.所以无法实 ...
关于c语言中如何四舍五入(圆整)的问题!
关于c语言中如何四舍五入(圆整)的问题! 在c语言中,用70.0/6得到的值赋给一个浮点变量,只会得到11.666667(因为浮点型只留下小数点后六位),而如果我们想输出结果的约数,必须要对结果进行四 ...
C语言中实现四舍五入
C语言中实现四舍五入: (int)(a+0.5)即可. 很巧妙的用了取整规则. 也不用导入math.h 同样注意负数的情况. 把 + 换成 - 即可. float f = --; int i = (i ...
php中浮点数四舍五入,php 浮点数四舍五入函数
php中浮点数四舍五入的两个常用的函数round与此同时ceil函数,可能小数保留位数. round() 函数对浮点数进行四舍五入语法 float round ( float val [, int ...

Teradata中的四舍五入问题

Teradata中的四舍五入问题相关推荐

最新文章

热门文章