[Flash开发笔记] AS中保留多少位小数的函数
return (Math.round(num*Math.pow(10, l))/Math.pow(10, l));
}
用法
num:要处理的浮点数;
l:要保留的小数位个数;
如:getPoint(2.16832,2),输出为:2.17
注意
在使用这个函数时,要注意溢出,因为num*Math.pow(10, l)及有可能超出了AS中浮点数所能表示的范围,从而导致你不想要的结果,另外,当输入数num比较大的时候,虽然还在浮点数表示范围内,但是小数点返回就可能不准确了,如:getPoint(12345678.123456789123, 10) ,输出结果:12345678.1234568,而不是12345678.1234567891。
[Flash开发笔记] AS中保留多少位小数的函数相关推荐
- python中保留两位小数的函数_python中round函数保留两位小数的方法
在我们日常计算的过程中,如果计算出小数,对大量的被保留数据,采用四舍五入这种保留法的误差总和是最小的,能使被保留部分的与实际值差值不超过最后一位数量级的二分之一.四舍五入是一种精确度的保留法,是我们使 ...
- java中保留小数位_Java中保留两位小数的方法
Java中保留4位小数的方法: import java.math.BigDecimal; import java.text.DecimalFormat; import java.text.Number ...
- python浮点数保留两位小数_python中保留两位小数怎么表示
这里有三种方法, round(a,2) '%.2f' % a Decimal('5.000').quantize(Decimal('0.00')) 当需要输出的结果要求有两位小数的时候,字符串形式的: ...
- js string转两位小数_js保留两位小数的函数有哪些
js保留两位小数的函数有:1.[toFixed()]函数:2.[Math.floor()]函数不四舍五入 ,向下取整:3.使用字符串匹配方法:4.四舍五入保留2位小数:5.浮点数保留两位小数. js保 ...
- python中保留两位小数的编写程序_Python中保留两位小数的几种方法
保留两位小数,并做四舍五入处理 方法一: 使用字符串格式化 >>> a = 12.345 >>> print("%.2f" % a) 12.35 ...
- python中保留两位小数的编写程序_P081 保留两位小数
所属年份:2011.3;2011.9 请编一个函数 float fun(double h),该函数的功能是:使变量h中的值保留两位小数,并对第三位进行四舍五入(规定h中的值为正数). 例如,若h 值为 ...
- python中保留一位小数要怎么编程_Python保留指定位数的小数
Python保留指定位数的小数 1 '%.2f' %f 方法(推荐) f = 1.23456 print('%.4f' % f) print('%.3f' % f) print('%.2f' % f) ...
- Lua中保留两位小数
在使用Lua进行开发的时候,经常会遇到保留n位小数的问题,这里以保留两位小数为例,记录一下需要注意的地方! 在选择处理方案之前,首先要确认需求,搞清楚保留两位小数是指小数点后第三位四舍五入还是从小数点 ...
- Oracle中保留两位小数
一.ROUND(A/B,2) 函数 ROUND()函数是会将计算结果进行四舍五入的,如果所需要的值需要进行四舍五入,就可以选择这个函数,可以有一个参数,也可以有两个参数:如果有两个param,第一个是 ...
- python中保留两位小数或者多位小数的方法
方法1,用round函数 例如: a=12.34567889 round(a,2)=12.35 保留两位小数 round(a,2)=12.35 保留三位小数 方法2, 例如: a=12.3456788 ...
最新文章
- NeHe OpenGL第二十八课:贝塞尔曲面
- 3d人脸重建 facescape 测试
- 前端学习(1580):初始react
- linux改ip之后恢复出厂设置密码,Linux忘记密码及修改IP地址解决方案
- 如何导出共享文件夹的权限或转移
- win2003 sp2 设置NLB
- 光伏发电系统——mppt最大功率点追踪
- Python写房贷计算器的算法
- VB写的随机点名器代码
- Android Studio首次连接不上网易mumu模拟器解决办法
- 数值卡,让数据可视化玩出新花样丨三叠云
- 解决Office在修改安装路径后,提示“操作系统当前配置不能运行此程序”的问题
- [HOW TO]-oppo手机安装google play
- 一个“后浪”的狂欢,一群中年人的孤单!
- 如画的水乡,如画的同里16
- 关于stm32 HAL 库的一点小总结
- 如何在网上选到一瓶心仪的红酒?通过文本分析预测葡萄酒的质量
- GitLab分支合并时,选择use ours是指分支而不是主分支
- Axure课程设计-漫画APP界面/UI设计(免费分享.rp文件学习)
- php lodop,web页面通过JS调用Lodop控件打印小票代码
热门文章
- 代码管理学:凡事养成登记的做法,比如依赖库
- 中国应该建设大型粒子对撞机
- 没解决:RuntimeWarning: tp_compare didn't return -1 or -2 for exception
- 女员工有问题,责任在于头目不管事
- 电信猫不折旧,用了几年还是原价
- c语言临时变量交换数值,不用临时变量交换两个数的值(C实现)
- pythonos文件目录方法_python12-OS模块(文件/目录方法)
- 前端和java选哪个_web前端和java哪个好?新手该选择哪个
- C# 创建文件夹 Directory
- cordova android 开发,Cordova开发App入门(一)创建android项目