matlab实现浮点转定点,浮点转定点方法总结.doc
浮点转定点方法总结
浮点转定点方法总结
—孔德琦
目录
定点运算方法3
1.1 数 的 定 标3
1.2c语言:从浮点到定点4
1.2.1 加法4
1.2.2乘法6
1.2.3除法7
1.2.4 三角函数运算8
1.2.5 开方运算9
1.3 附录10
1.3.1 附录1:定点函数库10
1.3.2附录2:正弦和余弦表28
定点运算方法
1.1 数 的 定 标
对某些处理器而言,参与数值运算的数就是16位的整型数。但在许多情况下,数学运算过程中的数不一定都是整数。那么,如何处理小数的呢?应该说,处理器本身无能为力。那么是不是就不能处理各种小数呢?当然不是。这其中的关键就是由程序员来确定一个数的小数点处于16位中的哪一位。这就是数的定标。
通过设定小数点在16位数中的不同位置,就可以表示不同大小和不同精度的小数了。数的定标用Q表示法。表1.1列出了一个16位数的16种Q表示能表示的十进制数值范围和近似的精度。
Q表示精度(近似)十进制数表示范围Q150.00002-1≤X≤0.9999695Q140.00005-2≤X≤1.9999390Q130.0001-4≤X≤3.9998779Q120.0002-8≤X≤7.9997559Q110.0005-16≤X≤15.9995117Q100.001-32≤X≤31.9990234Q90.002-64≤X≤63.9980469Q80.005-128≤X≤127.9960938Q70.01-256≤X≤255.9921875Q60.02-512≤X≤511.9804375Q50.04-1024≤X≤1023.96875Q40.08-2048≤X≤2047.9375Q30.1-4096≤X≤4095.875Q20.25-8192≤X≤8191.75Q10.5-16384≤X≤16383.5Q01-32768≤X≤32767表1.1 Q表示、S表示及数值范围
从表1.1可以看出,同样一个16位数,若小数点设定的位置不同,它所表示的数也就不同。例如:
16进制数2000H=8192,用Q0表示
16进制数2000H=0.25,用Q15表示
从表1.1还可以看出,不同的Q所表示的数不仅范围不同,而且精度也不相同。Q越大,数值范围越小,但精度越高;相反,Q越小,数值范围越大,但精度就越低。例如,Q0的数值范围是-32768到+32767,其精度为1,而Q15的数值范围为-1到0.9999695,精度为 1/32768 = 0因此,对定点数而言,数值范围与精度是一对矛盾,一个变量要想能够表示比较大的数值范围,必须以牺牲精度为代价;而想提高精度,则数的表示范围就相应地减小。在实际的定点算法中,为了达到最佳的性能,必须充分考虑到这一点。
浮点数与定点数的转换关系可表示为:
浮点数(x)转换为定点数():
定点数()转换为浮点数(x):
例如,浮点数 x=0.5,定标 Q=15,则定点数=,式中表示下取整。反之,一个用 Q=15 表示的定点数16384,其浮点数为16384×2-15
=16384/32768=0.5。
c语言:从浮点到定点
下面所描述的几种基本运算是浮点到定点转换中经常遇到的,从中可以体会到一些基本的技巧和方法。
1.2.1 加法
设浮点加法运算的表达式为:
float x,y,z;
z=x+y;
将浮点加法/减法转化为定点加法/减法时最重要的一点就是必须保证两个操作数的定标值一样。若两者不一样,则在做加法/减法运算前先进行小数点的调整。为保证运算精度,需使Q值小的数调整为与另一个数的Q值一样大。此外,在做加法/减法运算时,必须注意结果可能会超过16位表示,即数的动态范围。如果加法/减法的结果超出16位的表示范围,则必须保留32位结果,以保证运算的精度。
结果不超过16位表示范围
设x的Q值为Qx,y的Q值为Qy,且Qx>Qy,加法/减法结果z的定标值为Qz,则
z=x+y (
=
= (
一般情况,我们取x,y和z的定标值相同,即Qx = Qy = Qz = Qa 。
所以定点加法可以描述为:
short x, y, z ; //Qa
z = add (x,y); //Qa
函数add ( ) 有防饱和机制,如果可以确信x + y 不会溢出(-2^15 <= z < = 2^15-1),可以直接写为 z = x + y .
定点减法:
short x, y, z ; //Qa
z = sub (x,y); //Qa
函数sub ( ) 有防饱和机制,如果可以确信x - y 不会溢出(-2
matlab实现浮点转定点,浮点转定点方法总结.doc相关推荐
- 定点 浮点 神经网络 量化_神经网络量化方法
神经网络虽然在多个领域取得了非常巨大的成就,但是其本质是大量参数的拟合和泛化,如果想处理更加复杂的任务,在没有过拟合的情况下,增加训练数据和加大网络规模无疑是简单有效的手段.现实情况就是这么做的,但是 ...
- 创龙TI KeyStone C66x多核定点/浮点TMS320C6678 DSP开发板处理器、NAND FLASH、NOR FLASH
TL6678-EasyEVM是广州创龙基于SOM-TL6678核心板而研发的一款多核高性能DSP开发板.开发板采用核心板+底板方式,底板采用沉金无铅工艺的四层板设计,尺寸为200mm*106.65mm ...
- SOM-TL665x核心板研发的一款TI C66x多核定点/浮点高性能DSP开发板 处理器/FLASH
前 言 TL665x-EasyEVM是广州创龙基于SOM-TL665x核心板研发的一款TI C66x多核定点/浮点高性能DSP开发板,采用核心板+底板方式,底板尺寸为200mm*106.65mm ...
- 定点DSP与浮点DSP的比较(定点DSP和浮点DSP的定义)
[ 首先要理解什么是定点运算,浮点运算 你要知道DSP芯片是如何处理小数的 这就涉及的是小数的定标问题.数值的精度与数值的范围就成了一对矛盾了. 你要知道:支持浮点运算的DSP就是浮点DSP芯片,在这 ...
- 信迈TI OMAP-L138(定点/浮点DSP C674x+ARM9) + Xilinx Spartan-6 FPGA开发板规格书
1 评估板简介 基于TI OMAP-L138(定点/浮点 DSP C674x+ARM9)+ Xilinx Spartan-6 FPGA处理器: OMAP-L138 FPGA 通过uPP.EMIFA.I ...
- SOM-TL665x是TI系列多核架构的定点/浮点TMS320C665x高端DSP核心板
1.核心板简介 基于TI KeyStone C66x多核定点/浮点DSP TMS320C665x,单核TMS320C6655和双核TMS320C6657管脚pin to pin兼容,同等频率下具有四倍 ...
- 定点 浮点 神经网络 量化_神经网络模型量化论文小结
神经网络模型量化论文小结 发布时间:2018-07-22 13:25, 浏览次数:278 现在"边缘计算"越来越重要,真正能落地的算法才是有竞争力的算法.随着卷积神经网络模型堆叠的 ...
- java 十六进制浮点_Java十六进制浮点文字
java 十六进制浮点 我如何遇到十六进制浮点数 我正在Java :: Geci中开发一种新功能,以减少代码重新格式化的可能性. 如果重新格式化,当前版本的代码将覆盖原本相同的代码. 这很烦人,因为按 ...
- 编译选项中的硬浮点与软浮点区别
一.硬浮点与软浮点 1. 硬浮点 编译器将代码直接编译成硬件浮点协处理器(浮点运算单元FPU)能识别的指令,这些指令在执行的时候ARM核直接把它转给协处理器执行.FPU 通常有一套额外的寄存器来完成浮 ...
最新文章
- 艾伟:C#多线程学习(六) 互斥对象
- java数据结构-HashMap
- 在一个TextArea中如何限制行数和字符数
- 使用gradle-android搭建jenkins slave构建机器常见构建问题(一)
- HDU 2577(DP)
- httos双向认证配置_APP爬虫双向认证抓包的两种方法
- php报表统计曲线源代码,PHP绘制心电形状曲线统计图表[源码]_PHP教程
- 【学习总结】GirlsInAI ML-diary day-7-数据类型转换
- 文献阅读(245)Roller
- AST2500用户添加自定义IPMI交互命令
- HTML指南针源码zip,指南针指标公式源码
- Executive functions (执行功能)
- 合作式智能运输系统通信架构
- 关于个人求职简历的一些见解
- 一家计算机专卖店A型计算器,A型计算器谱子 | 手游网游页游攻略大全
- 又双叕来分享实用的 好用的 方便的 网页转换器了
- 全国大学生计算机二级c语言考试时间,全国计算机二级考试时间和地点查询
- 不要先为别人着想。|什么是“社会位阶”?
- spring boot 运行提示:Process finished with exit code 1
- 小程序和html5开发的差异
热门文章
- android安全性发展,Android未来发展 安全是重点
- 已知圆心,半径,角度,求圆上的点坐标
- Redis内存回收策略
- target html语言,html中a标签的target属性
- python webdriver 等待网页已登录_python基础编程:python+selenium实现163邮箱自动登陆的方法...
- linux 2.6.35 内核配置 usb,Linux 2.6.24.4移植到S3C2410(nano2410)之:USB
- Python中的pip怎么配置环境变量
- 洛谷 P2722 总分题解
- 第七章:跨程序共享数据-探究内容提供器
- 车林通购车之家--购车计算器模块--保险