mysql做乘法运算溢出_乘法溢出及对策

最近几次碰到乘法溢出，

情况一：

下面是修订后的版本

void dfs(int pos, int lim, int val, int div)

{

int i,j;

if(pos>prime[0]||prime[pos]>lim) return;

int t=prime[pos];

for(i=1,j=1; i<=lim/t;j++){

i*=t;

divisor[val*i]=div*(j+1);

dfs(pos+1,lim/i,val*i,div*(j+1));

}

dfs(pos+1,lim,val,div);

}

原来的版本是for(i=1,j=1; i*t<=lim;j++)，结果i*t溢出变成负数导致divisor[val*i]的下标为负

情况二多一个乘法，导致顾此失彼： LIMIT 是500000，在下面的for循环

for(t=prime[ob.ind];t<=LIM/ob.cur;t*=prime[ob.ind])

t是第4793个质数46349，ob.cur为8，导致t*=prime[ob.ind]会产生乘法溢出(超过2^31-1),其实t<=LIM/ob.cur已经是为了避免乘法溢出的做法，结果还是没有考虑到后面的乘法。

程序运行最终产生了access violation(VC)，因为divs[t*ob.cur]的下标出现了一个大负数。

解决的办法：因为这是都不超过int的范围，将相关类型扩展成long long就解决了。当然也可以采用上面的方式。

struct frame{

int ind,cur,cur_div;

frame(int i,int c, int d):ind(i),cur(c),cur_div(d){}

};

void dfs(int ind, int cur, int cur_div)

{

stackst;

st.push(frame(ind,cur,cur_div));

while(!st.empty()){

frame ob=st.top();

st.pop();

if(ob.ind==prime[0]+1 || ob.cur>LIM/prime[ob.ind]) continue;

st.push(frame(ob.ind+1,ob.cur,ob.cur_div));

int t,tot=1;

for(t=prime[ob.ind];t<=LIM/ob.cur;t*=prime[ob.ind]){

tot+=t;

divs[t*ob.cur]=ob.cur_div*tot;

st.push(frame(ob.ind+1,ob.cur*t,ob.cur_div*tot));

}

mysql做乘法运算溢出_乘法溢出及对策相关推荐

java long 溢出_关于溢出：Java乘法运算行为
我编写了一种方法,可以将给定的数字从几天转换为毫秒: private long expireTimeInMilliseconds; ... public void setExpireTimeInDay ...
python做乘法运算定律_《乘法运算定律》（一）教学设计
<乘法运算定律>(一)教学设计盘锦市兴隆台区第八小学郑莹教学目标 1．引导学生探索和理解乘法交换律.结合律,能运用运算定律进行一些简便计算. 2．培养学生根据具体情况,选择算法的意识 ...
mysql做kv数据库_从零开始写KV数据库：基于哈希索引
前言新的KV数据库层出不穷,我们经常听说的KV数据库如RocksDb.Hbase等都是基于日志结构的存储引擎.最近我在看<数据密集型应用系统设计>,里面有一章专门在讲日志结构的存储引擎的 ...
java 缓冲区溢出_缓冲区溢出详解
1 缓冲区溢出原理缓冲区是一块连续的计算机内存区域,可保存相同数据类型的多个实例.缓冲区可以是堆栈(自动变量).堆(动态内存)和静态数据区(全局或静态).在C/C++语言中,通常使用字符数组和mal ...
python做乘法运算定律_最新乘法运算定律专项练习题
精品文档精品文档四年级乘法运算定律专项练习姓名: 一. 乘法交换律.乘法结合律 1 .乘法交换律:交换两个因数的位置,积不变.用字母表示为: a × b ＝ b × a 2 . 多个数相乘, 任 ...
mysql 做回归模型_技术分享 | 我对 MySQL 隔离级别的剖析
隔离级别的产生在串型执行的条件下,数据修改的顺序是固定的.可预期的结果,但是并发执行的情况下,数据的修改是不可预期的,也不固定,为了实现数据修改在并发执行的情况下得到一个固定.可预期的结果,由此产生 ...
mysql做kv数据库_如何将SQL数据映射到KV数据库
日常吐槽国外文章也不是都是好文章啊,不要见到英文就觉得高大上了-- 前言越来越多的关系型数据库底层选择基于KV构建,例如TiDB的TiKV(RocksDB),cockroach的levelDB,M ...
python做乘法运算定律_四年级乘法运算定律-
一.知识梳理. 1. 加法运算定律. ( 1 )加法交换律:两个加数交换位置,和不变. 用字母表示: a+b=b+a ( 2 )加法结合律:三个数相加,先把前两个数相加,或者先把后两个数相加,和不变 ...
java bufferedimage 内存溢出_内存溢出使用ImageIO.write
我让我的saveScreenShot线程内存溢出错误,即使是BlockingQueue的空内存溢出使用ImageIO.write在我的主要存在时,下列变量存储图像 public static Blo ...

mysql做乘法运算溢出_乘法溢出及对策

mysql做乘法运算溢出_乘法溢出及对策相关推荐

最新文章

热门文章