html 除法计算,除法快速计算

如果计算结果是8bit的数字量，我们有以下结论：

1. X最大可能的值是 255*60

2. 结果的截断误差在±1/2以内

如果当X为255*60时(最糟糕状况)，我们的计算误差仍然小于±1/2,算法的精度就是合格的。

设计算误差为Δ(数量比)，为了达到精度，应该有：

255×60×Δ < 1/2

即：Δ 至少要小于

1/(255×60×2)

我们把计算精度进一步提高，取Δ＝1/(2^16)

[=1/(256×64×2)]。

显然有等式：

X(1/60

Δ) <

X/60

推导之：

<=>

1/60 - 1/(2^16) 1/60 1/60 +

1/(2^16)

<=>

(2^14 - 15)/(15*2^16)

1/60

(2^14 + 15)/(15*2^16)

<=>

(16384 - 15)/(15*2^16)

1/60 =

16384/(15*2^16)

(16384 + 15)/(15*2^16)

我们在

16384±15之间(精度要求范围之内)寻找一个可以被15整除，而且最接近16384的数，它就是：

16380，靠它来把分母上的15约掉。

于是有 1/60 ≈ 16380/(15*2^16) = 1092/2^16，误差为

4/(15*2^16) 小于1/(2^17)。

1092/(2^16) = (1024+64+4)/(2^16)

= 1/(2^6) + 1/(2^10) + 1/(2^14)

故而：

X/60 ≈ X/(2^6) + X/(2^10) + X/(2^14) (计算误差小于

8bit数的截断误差)，至此，如何用程序快速计算X/60，已经显而易见了。

html 除法计算,除法快速计算相关推荐

阿里云弹性计算对视觉计算的思考与实践
简介:利用人类已有和将有的技术加之商业手段,实现对人类感官体验进行全方位升级. 4月21日,"2022英伟达数字孪生技术应用论坛"上,阿里云弹性计算产品专家张新涛为大家带来了题为& ...
Excel 计算除法并显示为万分之几，如0.15‱
Excel 计算除法并显示为万分之几,如0.15‱ 1. 万分号插入 ‱ 2. 计算俩个列的除法,保留2位小数并用万分之几显示: 3. 优化,改成对J2列值的绝对引用 Excel中计算除法保留为 % ...
计算56除以四十可以用计算机,CPU如何来计算除法一
问题:计算机如何来计算除法的? 第一步:分析除法现在做一个简单的除法 56/7,大部分人会很快一闪"七八五十六",很快能算出结果是8.这是九九乘法表作怪,如果我么没有背诵过乘法表 ...
怎样用计算机计算分数除法,分数除法的计算方法
课时授课计划章节题目二.分数除法(1-1)教学目的1理解分数除法的意义,掌握分数除法的计算方法.2进一步培养学生抽象概括的能力和计算能力.3进一步渗透转化的数学思想.教学重点理解分数除法的意 ...
计算机除法运算excel,怎样在EXCEL表格里计算除法？《除在excle》
在Excel中,关于"删除"和"清除"的正确叙述是 A 在excel中先求和再求除的换算怎么算 1.以excel2010版本为例,EXCEL中计算也是往左,算术 ...
保留两位小数除法算式_两位小数除法练习题竖式计算
精品文档 2016 全新精品资料 - 全新公文范文 - 全程指导写作 – 独家原创 1 / 10 两位小数除法练习题竖式计算一.一般乘法竖式计算题 65×0.0.0016×10.65×0.1 0 . ...
ubuntu 使用FFTW快速计算离散傅里叶变换
FFTW ( the Faster Fourier Transform in the West) 是一个快速计算离散傅里叶变换的标准C语言程序集,其由MIT的M.Frigo 和S. Johnson 开 ...
SQL优化（二）快速计算Distinct Count
2019独角兽企业重金招聘Python工程师标准>>> 原创文章,首发自个人站点 ,转载请务必注明出处 http://www.jasongj.com/2015/03/15/count ...
快速计算文件的MD5/SHA1/SHA256等校验值（Windows/Linux）
从网络上下载文件,尤其是非常大的文件怎么确保文件准确无误呢? 通常网站提供文件时会同时提供该文件的校验值,如MD5,SHA1,SHA256等, 当文件下载完成后,计算它的校验值,如果和网站提供的一致, ...

html 除法计算,除法快速计算

html 除法计算,除法快速计算相关推荐

最新文章

热门文章