浮点转定点方法总结

浮点转定点方法总结

—孔德琦

目录

定点运算方法3

1.1 数 的 定 标3

1.2c语言:从浮点到定点4

1.2.1 加法4

1.2.2乘法6

1.2.3除法7

1.2.4 三角函数运算8

1.2.5 开方运算9

1.3 附录10

1.3.1 附录1:定点函数库10

1.3.2附录2:正弦和余弦表28

定点运算方法

1.1 数 的 定 标

对某些处理器而言,参与数值运算的数就是16位的整型数。但在许多情况下,数学运算过程中的数不一定都是整数。那么,如何处理小数的呢?应该说,处理器本身无能为力。那么是不是就不能处理各种小数呢?当然不是。这其中的关键就是由程序员来确定一个数的小数点处于16位中的哪一位。这就是数的定标。

通过设定小数点在16位数中的不同位置,就可以表示不同大小和不同精度的小数了。数的定标用Q表示法。表1.1列出了一个16位数的16种Q表示能表示的十进制数值范围和近似的精度。

Q表示精度(近似)十进制数表示范围Q150.00002-1≤X≤0.9999695Q140.00005-2≤X≤1.9999390Q130.0001-4≤X≤3.9998779Q120.0002-8≤X≤7.9997559Q110.0005-16≤X≤15.9995117Q100.001-32≤X≤31.9990234Q90.002-64≤X≤63.9980469Q80.005-128≤X≤127.9960938Q70.01-256≤X≤255.9921875Q60.02-512≤X≤511.9804375Q50.04-1024≤X≤1023.96875Q40.08-2048≤X≤2047.9375Q30.1-4096≤X≤4095.875Q20.25-8192≤X≤8191.75Q10.5-16384≤X≤16383.5Q01-32768≤X≤32767表1.1 Q表示、S表示及数值范围

从表1.1可以看出,同样一个16位数,若小数点设定的位置不同,它所表示的数也就不同。例如:

16进制数2000H=8192,用Q0表示

16进制数2000H=0.25,用Q15表示

从表1.1还可以看出,不同的Q所表示的数不仅范围不同,而且精度也不相同。Q越大,数值范围越小,但精度越高;相反,Q越小,数值范围越大,但精度就越低。例如,Q0的数值范围是-32768到+32767,其精度为1,而Q15的数值范围为-1到0.9999695,精度为 1/32768 = 0因此,对定点数而言,数值范围与精度是一对矛盾,一个变量要想能够表示比较大的数值范围,必须以牺牲精度为代价;而想提高精度,则数的表示范围就相应地减小。在实际的定点算法中,为了达到最佳的性能,必须充分考虑到这一点。

浮点数与定点数的转换关系可表示为:

浮点数(x)转换为定点数():

定点数()转换为浮点数(x):

例如,浮点数 x=0.5,定标 Q=15,则定点数=,式中表示下取整。反之,一个用 Q=15 表示的定点数16384,其浮点数为16384×2-15

=16384/32768=0.5。

c语言:从浮点到定点

下面所描述的几种基本运算是浮点到定点转换中经常遇到的,从中可以体会到一些基本的技巧和方法。

1.2.1 加法

设浮点加法运算的表达式为:

float x,y,z;

z=x+y;

将浮点加法/减法转化为定点加法/减法时最重要的一点就是必须保证两个操作数的定标值一样。若两者不一样,则在做加法/减法运算前先进行小数点的调整。为保证运算精度,需使Q值小的数调整为与另一个数的Q值一样大。此外,在做加法/减法运算时,必须注意结果可能会超过16位表示,即数的动态范围。如果加法/减法的结果超出16位的表示范围,则必须保留32位结果,以保证运算的精度。

结果不超过16位表示范围

设x的Q值为Qx,y的Q值为Qy,且Qx>Qy,加法/减法结果z的定标值为Qz,则

z=x+y (

=

= (

一般情况,我们取x,y和z的定标值相同,即Qx = Qy = Qz = Qa 。

所以定点加法可以描述为:

short x, y, z ; //Qa

z = add (x,y); //Qa

函数add ( ) 有防饱和机制,如果可以确信x + y 不会溢出(-2^15 <= z < = 2^15-1),可以直接写为 z = x + y .

定点减法:

short x, y, z ; //Qa

z = sub (x,y); //Qa

函数sub ( ) 有防饱和机制,如果可以确信x - y 不会溢出(-2

matlab实现浮点转定点,浮点转定点方法总结.doc相关推荐

  1. 定点 浮点 神经网络 量化_神经网络量化方法

    神经网络虽然在多个领域取得了非常巨大的成就,但是其本质是大量参数的拟合和泛化,如果想处理更加复杂的任务,在没有过拟合的情况下,增加训练数据和加大网络规模无疑是简单有效的手段.现实情况就是这么做的,但是 ...

  2. 创龙TI KeyStone C66x多核定点/浮点TMS320C6678 DSP开发板处理器、NAND FLASH、NOR FLASH

    TL6678-EasyEVM是广州创龙基于SOM-TL6678核心板而研发的一款多核高性能DSP开发板.开发板采用核心板+底板方式,底板采用沉金无铅工艺的四层板设计,尺寸为200mm*106.65mm ...

  3. SOM-TL665x核心板研发的一款TI C66x多核定点/浮点高性能DSP开发板 处理器/FLASH

    前    言 TL665x-EasyEVM是广州创龙基于SOM-TL665x核心板研发的一款TI C66x多核定点/浮点高性能DSP开发板,采用核心板+底板方式,底板尺寸为200mm*106.65mm ...

  4. 定点DSP与浮点DSP的比较(定点DSP和浮点DSP的定义)

    [ 首先要理解什么是定点运算,浮点运算 你要知道DSP芯片是如何处理小数的 这就涉及的是小数的定标问题.数值的精度与数值的范围就成了一对矛盾了. 你要知道:支持浮点运算的DSP就是浮点DSP芯片,在这 ...

  5. 信迈TI OMAP-L138(定点/浮点DSP C674x+ARM9) + Xilinx Spartan-6 FPGA开发板规格书

    1 评估板简介 基于TI OMAP-L138(定点/浮点 DSP C674x+ARM9)+ Xilinx Spartan-6 FPGA处理器: OMAP-L138 FPGA 通过uPP.EMIFA.I ...

  6. SOM-TL665x是TI系列多核架构的定点/浮点TMS320C665x高端DSP核心板

    1.核心板简介 基于TI KeyStone C66x多核定点/浮点DSP TMS320C665x,单核TMS320C6655和双核TMS320C6657管脚pin to pin兼容,同等频率下具有四倍 ...

  7. 定点 浮点 神经网络 量化_神经网络模型量化论文小结

    神经网络模型量化论文小结 发布时间:2018-07-22 13:25, 浏览次数:278 现在"边缘计算"越来越重要,真正能落地的算法才是有竞争力的算法.随着卷积神经网络模型堆叠的 ...

  8. java 十六进制浮点_Java十六进制浮点文字

    java 十六进制浮点 我如何遇到十六进制浮点数 我正在Java :: Geci中开发一种新功能,以减少代码重新格式化的可能性. 如果重新格式化,当前版本的代码将覆盖原本相同的代码. 这很烦人,因为按 ...

  9. 编译选项中的硬浮点与软浮点区别

    一.硬浮点与软浮点 1. 硬浮点 编译器将代码直接编译成硬件浮点协处理器(浮点运算单元FPU)能识别的指令,这些指令在执行的时候ARM核直接把它转给协处理器执行.FPU 通常有一套额外的寄存器来完成浮 ...

最新文章

  1. 艾伟:C#多线程学习(六) 互斥对象
  2. java数据结构-HashMap
  3. 在一个TextArea中如何限制行数和字符数
  4. 使用gradle-android搭建jenkins slave构建机器常见构建问题(一)
  5. HDU 2577(DP)
  6. httos双向认证配置_APP爬虫双向认证抓包的两种方法
  7. php报表统计曲线源代码,PHP绘制心电形状曲线统计图表[源码]_PHP教程
  8. 【学习总结】GirlsInAI ML-diary day-7-数据类型转换
  9. 文献阅读(245)Roller
  10. AST2500用户添加自定义IPMI交互命令
  11. HTML指南针源码zip,指南针指标公式源码
  12. Executive functions (执行功能)
  13. 合作式智能运输系统通信架构
  14. 关于个人求职简历的一些见解
  15. 一家计算机专卖店A型计算器,A型计算器谱子 | 手游网游页游攻略大全
  16. 又双叕来分享实用的 好用的 方便的 网页转换器了
  17. 全国大学生计算机二级c语言考试时间,全国计算机二级考试时间和地点查询
  18. 不要先为别人着想。|什么是“社会位阶”?
  19. spring boot 运行提示:Process finished with exit code 1
  20. 小程序和html5开发的差异

热门文章

  1. android安全性发展,Android未来发展 安全是重点
  2. 已知圆心,半径,角度,求圆上的点坐标
  3. Redis内存回收策略
  4. target html语言,html中a标签的target属性
  5. python webdriver 等待网页已登录_python基础编程:python+selenium实现163邮箱自动登陆的方法...
  6. linux 2.6.35 内核配置 usb,Linux 2.6.24.4移植到S3C2410(nano2410)之:USB
  7. Python中的pip怎么配置环境变量
  8. 洛谷 P2722 总分题解
  9. 第七章:跨程序共享数据-探究内容提供器
  10. 车林通购车之家--购车计算器模块--保险