decimal数据类型是fixed-point类型,计算结算是准确的。numeric/dec/fixed / integer

float/double数据类型是 floating-point类型,计算结果是大约的。float/double/double precision/real

Decimal(M,D):

M 最大精度位数 1到65

D小数位数 0到30,不能大于M

如里 D被忽略,默认为0,如果M被忽略,默认是10

0 位 需要0个字节

1-2位 需要 1个字节

3-4位 需要2个字节

5-6 位 需要 3个字节

7-9 位 需要4个字节

整数位与小数是分别计算存储字节的。

decimal(20,6) 整数部分占 4+3个字节,小数部分占 3个字节

decimal 列不存储:+ - ,不允许值大于定义的长度 decimal(M,D)列,允许M-D位在小数占左侧

1 round() 对于精确类型的数字四舍五入;对于近似类型的数字,取最近的偶数

select (.1+.2)=.3; select (.1E0+.2E0)=.3E0;

2 使用 准确值 生成的列是decimal number 类型,使用近似值生成的列是float/double类型

create table t select 2.5 as a,25E-1 as b;

3 在decimal 列上取聚合数据也是decimal 类型,在double类型上取聚合数据也是double类型

mysql 精度_mysql-笔记 精度相关推荐

  1. mysql修改时间精度_Mysql时间精度丢失问题

    这两天发现一个问题,在数据库中使用了DateTime(3)类型的字段,但是发现本地的ide中入库的数据,所有的毫秒数为000,只能精确到秒,但是dev环境的服务器却是可以精确到正常的毫秒数.由于代码包 ...

  2. mysql gno( )_MySql笔记(一)

    每天给自己一个希望,努力做好自己,不为明天烦恼,不为昨天叹息.当梦想还在,告诉自己:努力,就总能遇见更好的自己! MySql笔记(一) 1.创建数据库以及删除 1.创建数据库语法:(命令行窗口操作) ...

  3. linux 检测mysql链接_MySQL笔记

    #忘记原始密码 1.修改 /etc/my.cnf,在 [mysqld] 小节下添加一行:skip-grant-tables=1 2.重启mysql:service restart stop 3.刷新权 ...

  4. mysql double 精度_Double类型精度问题引起的错误

    场景说明 研发同事让把某个double类型字段的值四舍五入保留2位小数,mysql中round(col,2)可以实现四舍五入并且保留2位小数,但是神奇的事情发生了:发现有的四舍五入是正确的,而有的不是 ...

  5. ci mysql 事务_MySQL事务-学习笔记

    MySQL事务-学习笔记 MySQL事务 事务的意义 案例:银行转账过程 A向B转账500,A原来有1000,B有500. 分析: SQL处理过程: A 减少 500 B 增加 500 以上两点必须同 ...

  6. cms文章 mysql存储_MySQL存储引擎笔记

    MySQL存储引擎笔记存储引擎概述插件式存储引擎是MySQL的重要特性之一,用户可以根据应用的需要选择如何存储和索引数据.是否使用事物等 www.2cto.com 特点MyISAMInnoDBMemo ...

  7. MySQL 索引学习笔记

    MySQL 索引学习笔记 索引基本概念 索引优点 B-Tree 索引 基本原理 使用场景 使用限制 哈希索引 基本原理 使用限制 自适应哈希索引 处理哈希冲突 相关面试题 高性能索引策略 独立的列 前 ...

  8. Mysql 高级学习笔记

    Mysql 高级学习笔记 文章目录 Mysql 高级学习笔记 一.Mysql 基础 1. 聚合函数 2. having 3. sql 的执行顺序 4. 约束 5. 试图 二.Mysql 高级 1. M ...

  9. MySQL高级学习笔记(四)

    文章目录 MySQL高级学习笔记(四) 1. MySql中常用工具 1.1 mysql 1.1.1 连接选项 1.1.2 执行选项 1.2 mysqladmin 1.3 mysqlbinlog 1.4 ...

  10. MySql基础学习笔记(一)

    一.数据库存储数据的特点 将数据放到表中,表再放到库中 一个数据库中可以有多个表,每个表都有一个的名字,用来标识自己.表名具有唯一性. 表具有一些特性,这些特性定义了数据在表中如何存储,类似java中 ...

最新文章

  1. 正弦交流电电压电流峰值与有效值关系的推导
  2. HTML 常用标签全称
  3. 深入解析 Kubebuilder:让编写 CRD 变得更简单
  4. 禅道启动mysql报错_测试工具之在Linux服务器上部署禅道Bug管理系统
  5. 医学图像处理期末复习(一)
  6. ArcGIS删除地图投影坐标,只保留地理坐标
  7. linux中的dup和fcntl的用法
  8. java if else重构_Java编程细节-重构-为什么 if-else 不是好代码
  9. python全局变量一般没有缩进_python全局变量与局部变量
  10. 统计报表可视化html,用统计图让数据可视化
  11. 5200 fqy的难题----2的疯狂幂
  12. Entry name ‘META-INF/androidx.vectordrawable_vectordrawable.version‘ collided
  13. Machine Learning读书会 面试算法讲座 创业活动 算法班 历届汇总
  14. 开源集市@中关村|气氛热烈,完美收官!
  15. 兼容IE8的文件下载,解决IE下载文本和图片直接打开问题
  16. 黑马学员放弃20K月薪投身比亚迪,是去「车间」打螺丝吗?
  17. 牛逼!java只能输入数字的正则
  18. 解决华为手机InputMethodManager和GestureBoostManager的内存泄露的问题
  19. php-fpm安装,启动,重启
  20. Caltech-UCSD Birds-200-2011

热门文章

  1. ASP.NET Core 企业级开发架构简介及框架汇总
  2. 达摩院年终预测出炉:2022 十大科技趋势,AI for Science 高居榜首
  3. 【专升本计算机】2021年甘肃省专升本计算机全真模拟试题(二)
  4. 【ArcGIS风暴】ArcGIS获取线段上等间距的点
  5. Android之Canvas的drawRoundRect()
  6. 活照片 android,活照片app安卓
  7. lia人是什么意思_狗狗喜欢舔人到底什么意思?毛孩的心思主人你要懂
  8. 当全家人一起看电影,播到羞羞镜头时......
  9. 月薪5 千~1万的兼职你要不要?不限学历,不限男女!
  10. 用“谬论”指挥研究方向数十年,是谁让“老年痴呆”至今仍是绝症?