db2 bigint java_db2 - 一个bigint问题

一个bigint问题

db2 => values bigint ( 23 * 1000000 )

--------------------

23000000

1 record(s) selected.

db2 => values bigint ( 23 * 100000000 )

SQL0802N Arithmetic overflow or other arithmetic exception occurred.

SQLSTATE=22003

db2 => values bigint ( 23 * 1000000000 )

SQL0802N Arithmetic overflow or other arithmetic exception occurred.

SQLSTATE=22003

db2 => values bigint ( 23 * 10000000000 )

--------------------

230000000000

1 record(s) selected.

第一个和第四个都正常，为什么中间两个不正常，会溢出？

>>>>

因为对于第一组数据的1000000 DB2将其当作int，得出的结果也是在interger能表达的范围内。

第二组及第三组的1xxxx本身都在interger能表示的范围内，所以DB2也当他们是int,但是算出来的结果需要bigint才能表示。即在bigint这个scalar function生效前这个计算结果已经算术溢出了。

第四组数据的10000000000，由于其在bigint表示范围，因此db2将其作为bigint。而结果也是bigint能表示的范围，因此也不会出错。

所以可以说你的bigint scalar function没用对地方。values时是不用scalar function都能表达的，关键是要让运算不产生算术溢出。所以应该是：

values (23 * bigint(1xxxxxxxxx0))

这样明确的cast成bigint，db2就会用bigint的方式去存储运算结果了。

FROM: http://bbs.chinaunix.net/thread-1010685-1-1.html

db2 bigint java_db2 - 一个bigint问题相关推荐

db2 - 一个bigint问题
一个bigint问题 db2 => values bigint ( 23 * 1000000 ) 1 -------------------- 23000000 1 record(s) sele ...
DB2遇到这样一个问题。 ‘’Operation not allowed for reason code 7 on table DB2ADMIN.XXX. SQLSTATE=5701‘’
工作中数据库:DB2遇到这样一个问题 . ''Operation not allowed for reason code "7" on table "DB2ADMIN.X ...
java bigint范围_java - bigint(20)、smallint(5)
CREATE TABLE `idc_logistics_assign_rules` ( `id` bigint(20) unsigned NOT NULL AUTO_INCREMENT COMMENT ...
MySQL数据库时间类型datetime、bigint、timestamp的查询效率比较
以下文章来源方志朋的博客,回复"666"获面试宝典来源:https://juejin.im/post/6844903701094596615 数据库中可以用datetime.bi ...
我脸都问绿了！二面竟然被问到 MySQL 时间类型 datetime、bigint 及 timestamp 的查询效率。。。
" 数据库中可以用datetime.bigint.timestamp来表示时间,那么选择什么类型来存储时间比较合适呢? 前期数据准备通过程序往数据库插入50w数据数据表: CREATE ...
【ES11(2020)】新增数据类型 BigInt
在 ES10 增加了新的原始数据类型:BigInt,表示一个任意精度的整数,可以表示超长数据,可以超出2的53次方. Js 中 Number类型只能安全的表示-(2^53-1) 至 2^53-1范的值 ...
TypeScript BigInt
TypeScript BigInt 本节介绍的 bigint 数据类型是用来表示那些已经超出了 number 类型最大值的整数值,对于总是被诟病的整数溢出问题,使用了 bigint 后将完美解决. 1 ...
datetime mysql 查询_mysql数据库时间类型datetime、bigint、timestamp的查询效率比较
数据库中可以用datetime.bigint.timestamp来表示时间,那么选择什么类型来存储时间比较合适呢? 前期数据准备通过程序往数据库插入50w数据数据表: CREATE TABLE ` ...
java中biglong_Java的long和bigint长度对比详解
Java 中Long的值大小比较 java.util.Lang 对象吧,而不是基本类型 long (注意大小写) Java中如果使用 == 双等于比较对象,等于比较的是两个对象的内存地址,也就是比较 ...

db2 bigint java_db2 - 一个bigint问题

db2 bigint java_db2 - 一个bigint问题相关推荐

最新文章

热门文章