mysql 保留小数位数的一个方法

问题：仪器测量的数值是整数，其精度由系数控制。例如测量值是 Val=12345，系数coeff = 0.1 ,则其表达的结果是 1234.5, 小数部分要和系数的小数部分一致；如果系数大于1，则没有小数部分。
方法如下：

      set @pointN=0;IF pqCoeff < 1 THENSET @pointN = -1 * LOG10(pqCoeff);END IF;SET @dspVal = FORMAT(@dspVal, @pointN);SET @dspVal = REPLACE(@dspVal,",","");--  SET @dspVal = CONVERT (@dspVal,decimal);SET retVal = @dspVal;

解释如下：
利用常用对数获得小数的位数（上述表达式只支持 0.1,0,01 这种方式），然后利用format 函数获得保留小数位数的值。本以为到此就结束了，没想到在转换成decimal 时，报错。错误是

DB error found , error = HY000, message = Incorrect decimal value: '3,091' for column 'retVal' at row 1

原来format 函数再处理之后，将数字表示成了以逗号分割的形式，而这种格式竟然不被支持！因此才有了下面的的这句：

 SET @dspVal = REPLACE(@dspVal,",","");

目的是去掉其中的逗号，从而保证不出错误。
大家也应该注意到，这句：

SET @dspVal = CONVERT (@dspVal,decimal);

本来想用这个转换函数，然而这个函数并不是你想象的那样。如图：

这个结果显然不是希望得到的，再比如：

它将逗号后面的值都去掉了，因此不能这样做。这样就只能采取上面代码的方法了。
不知道有没有什么更好的方法。

是记。

maraSun BJFWDQ

mysql 保留小数位数的一个方法相关推荐

mysql 保留小数位数
round(x,d) x 需要被精确的数值 d 保留小数位数
mysql保留小数位数函数
1.round() # round()四舍五入函数.函数是最简单的一种,也是最常用的. select round(2.38,1); # 2.4 select round(2.99,1); # 3.0 ...
c语言求平均值保留三位小数,Excel求平均值时，保留小数位数与参与求平均值的个数有关...
在 Excel 中,求平均值用Average函数:它可分用快捷键求平均值.自动求平均值和输入公式求平均值,其中用快捷键求平均值速度最快,并且三种方法都可以对行列.任意单元格.指定区域甚至整个表格求平均 ...
总结C#保留小数位数
本文向大家介绍C#保留小数位,可能好多人还不了解C#保留小数位,没有关系,看完本文你肯定有不少收获,希望本文能教会你更多东西. 1.简单的例子 System.Globalization.NumberF ...
微信小程序（购物车）--在wxml中设置保留小数位数
微信小程序(购物车)–在wxml中设置保留小数位数一.在该页面文件夹下新建一个wxs后缀的文件 var filters = {toFix: function (value) {return valu ...
保留小数位数spit函数
保留小数位数 1.输出print函数 System.out.printf("%.2f",3.0); 2.DecimalFormat DecimalFormat d=new Deci ...
java 常用四舍五入保留小数点后两位方法
java 常用四舍五入保留小数点后两位方法 1 . Math.round double num = Math.round(5.2544555 * 100) * 0.01; System.out.pri ...
js取整，保留小数位数、四舍五入、科学记数法及去掉数字末尾多余的0
1.向下取整 var num1 = 12.10345; var num2 =12.9801; var newnum1=Math.floor(num1) //结果 12 var newnum2= ...
JavaScript保留小数位数代码
描述:JavaScript保留小数位数代码代码: a.toFixed(位数)
oracle数据库：查询平均分时，保留小数位数
round(AVG(CGRADE),1) 这个比较简单,大家都知道求平均数用AVG()函数保留小数位数怎么限制,可以使用round(),'1'就是需要保留的位数

mysql 保留小数位数的一个方法

mysql 保留小数位数的一个方法相关推荐

最新文章

热门文章