db2 - 一个bigint问题

Posted 2022-12-07 t0nsha

一个bigint问题

db2 => values bigint ( 23 * 1000000 )

1
--------------------
23000000

1 record(s) selected.

db2 => values bigint ( 23 * 100000000 )
SQL0802N Arithmetic overflow or other arithmetic exception occurred.
SQLSTATE=22003
db2 => values bigint ( 23 * 1000000000 )
SQL0802N Arithmetic overflow or other arithmetic exception occurred.
SQLSTATE=22003
db2 => values bigint ( 23 * 10000000000 )

1
--------------------
230000000000

1 record(s) selected.

第一个和第四个都正常，为什么中间两个不正常，会溢出？

>>>>

因为对于第一组数据的1000000  DB2将其当作int，得出的结果也是在interger能表达的范围内。
第二组及第三组的1xxxx本身都在interger能表示的范围内，所以DB2也当他们是int,但是算出来的结果需要bigint才能表示。即在bigint这个scalar function生效前这个计算结果已经算术溢出了。
第四组数据的10000000000，由于其在bigint表示范围，因此db2将其作为bigint。而结果也是bigint能表示的范围，因此也不会出错。

所以可以说你的bigint scalar function没用对地方。values时是不用scalar function都能表达的，关键是要让运算不产生算术溢出。所以应该是：
values (23 * bigint(1xxxxxxxxx0))

这样明确的cast成bigint，db2就会用bigint的方式去存储运算结果了。

FROM: http://bbs.chinaunix.net/thread-1010685-1-1.html