关于浮点运算和定点运算

什么是定点数？
https://baike.baidu.com/item/%E5%AE%9A%E7%82%B9%E6%95%B0/11030127
什么是定点运算？
https://baike.baidu.com/item/%E5%AE%9A%E7%82%B9%E8%BF%90%E7%AE%97/1861887?fr=aladdin
什么是浮点数？
https://baike.baidu.com/item/%E6%B5%AE%E7%82%B9%E6%95%B0/6162520?fr=aladdin
什么是浮点运算？
https://baike.baidu.com/item/%E6%B5%AE%E7%82%B9%E8%BF%90%E7%AE%97/100607?fr=aladdin
为什么浮点数一定有误差？
https://blog.csdn.net/qq_25847123/article/details/77587575
为什么精确运算要避免浮点运算？
https://blog.csdn.net/iteye_11305/article/details/82671571
浮点运算原理详解：
https://blog.csdn.net/tercel_zhang/article/details/52537726
定点数、浮点数运算类型的说明：
https://blog.csdn.net/syb773849846/article/details/78123079
Linux内核中为什么要避免浮点运算？
https://zhidao.baidu.com/question/240448272188831724.html
定点与浮点运算 DSP 的比较
https://blog.csdn.net/sunice121/article/details/25324089

小结：

浮点运算的缺点： 计算复杂度高，结果存在误差，受硬件平台影响大

浮点运算的优点： 可以表示实数，数的表示范围比较大，便于大型复杂算法的实现。

20190705

浮点转定点的方法——量化

根据“最小值”和“最大值”确定输入浮点值的范围。（注：未必是实际数据的最小值和最大值。例如存在未知数据时需要根据经验值确定取数范围，或者需要去除数据中的极端值以免不合理地降低精度。）
根据精度需求确定输出定点值的范围，例如量化到0~255（整数）范围。
将浮点输入值映射到定点输出值，公式为y_int = scale * (x_float - x_min)。
根据应用需求对映射结果做细微调整，比如对浮点数为0的精度较为敏感的，需要将浮点0映射为整数定点值，其他浮点数的映射关系则据此做调整。（此想法源自Neon矩阵乘法加速优化中对量化的调整。）

20191210
以下内容摘自《计算机组成与设计硬件/软件接口》（【美】David A. Patterson John L. Hennessy，王党辉康继昌安建峰等译）

浮点加法不能使用结合律。
因为浮点数是实数的近似表示，且计算机算术精度有限，故结合律不能适用于浮点数。假设浮点数可以表示一个很大的数的范围，当两个不同符号的大数与一个小数相加时就会发生问题，即使用结合律会导致计算结果不一致，举例如下：

并行执行策略不一定适用于浮点数据类型。
是否采用并行执行策略可能导致程序的计算结果不一致。即使是相同的代码和输入，每次运行使用不同数目的处理器可能导致浮点求和以不同的顺序进行，从而影响浮点加法的结果。
使用了浮点数的并行代码的运行结果可能与顺序执行的结果不一致，但仍可通过数值分析验证结果是否可信。

关于浮点运算和定点运算相关推荐

道器相融，由Angel论一个优秀机器学习平台的自我修养
*本文首发于 AI前线 ,欢迎转载,并请注明出处. 摘要 2017年6月,腾讯正式开源面向机器学习的第三代高性能计算平台 Angel,在GitHub上备受关注:2017年10月19日,腾讯T4专家An ...
荐读：FPGA设计经验之图像处理
荐读:FPGA设计经验之图像处理今天和大侠简单聊一聊基于FPGA的图像处理,之前也和各位大侠聊过相关的图像处理,这里面也超链接了几篇,具体如下: 图像边缘检测算法体验步骤(Photoshop,Mat ...
FPGA设计经验之图像处理
使用FPGA做图像处理优势最关键的就是:FPGA能进行实时流水线运算,能达到最高的实时性.因此在一些对实时性要求非常高的应用领域,做图像处理基本就只能用FPGA.例如在一些分选设备中图像处理基本上用的 ...
计算机视觉加强之图像特效与线段文字绘制
一.图像特效介绍 1.灰度处理:彩色图片灰度化对于彩色图片有三个颜色通道:RGB 对于灰度图片如果也是三个颜色通道,则RGB值是相等的 2.底板效果(灰度) 彩色底板是通过当前RGB取反得到的 3. ...
图片颜色反转算法|python
算法优化浮点运算转换为定点运算比较慢移位运算比定点运算快图片颜色反转灰度图片颜色反转 # 灰度图片翻转 import cv2 import numpy as np img = cv2.imre ...
方寸知识篇 - 数字图像处理（五）- FPGA开发流程
首先要做的是需求分析以及问题描述.没有恰当的问题描述和需求分析,就不能做到正确衡量问题是否解决.描述问题主要在于描述,清晰的描述而不是讲述解决办法,这里面应该包含系统需要做什么.为什么要做,而不是讲怎 ...
【新智元专访】Nervana CEO | 英特尔英伟达AI芯片霸主争夺战重装上阵
新智元编辑闻菲(右)专访英特尔数据中心事业部副总裁.人工智能解决方案部门总经理.Nervana Systems 联合创始人兼CEO Naveen Rao. 在英伟达GPU已在深度学习市场的赛道上领先几 ...
英特尔VS英伟达，AI芯片霸主争夺战重装上阵!
编者按:本文为"新智元"(ID:AI_era)对Nervana Systems CEO的专访,作者闻菲,36氪经授权发布. 根据MarketsandMarkets最新市场研究报告, ...
定点运算，浮点运算，算术逻辑单元
定点运算 (一)移位运算 1.移位运算的数学意义先举一个例子:15m = 1500 cm,在这个变换过程中,就可以通过移位运算进行实现,实际上在这个等式中,小数点被隐含了,在15m和1500cm数值 ...
定点运算和浮点运算_C2000浮点运算注意事项——CPU和CLA的差异及误差处理技巧...
C28x+FPU架构的C2000微处理器在原有的C28x定点CPU的基础上加入了一些寄存器和指令,来支持IEEE 单精度浮点数的运算.对于在定点微处理器上编写的程序,浮点C2000也完全兼容,不需要对 ...

关于浮点运算和定点运算

关于浮点运算和定点运算相关推荐

最新文章

热门文章