认识float的指数与尾数
参考:https://en.wikipedia.org/wiki/Floating-point_arithmetic
参考:https://en.wikipedia.org/wiki/Single-precision_floating-point_format
参考:https://baike.baidu.com/item/FLOAT/19167524?fr=aladdin
参考:http://learnwebgl.brown37.net/12_shader_language/glsl_data_types.html
参考:http://imgtec.eetrend.com/d6-imgtec/blog/2018-01/11030.html
(Owed by: 春夜喜雨 http://blog.csdn.net/chunyexiyu)
认识Float
学过C/C++语言的我们,通常对于float的理解的话:
float 占用32位,23位尾数位,8位指数位,1位符号位。
对于内部存储结构的话,我们通过查wikipedia资料可以知道,float作为single单精度,它的存储结构为: 从高位到低位,依次为:符号位,指数位,尾数位。
指数位
float的指数位是无符号的,它的正负区分通过采用一个偏移值来确定,下表可以查到float单精度的偏移值是127。偏移前表达范围[0,255],经过偏移后,8位指数位所能表达的范围是:[-127,128]。
Type | Sign | Exponent | Significand field | Total | Exponent Bias | Bits Precision | Number of decimal digits |
---|---|---|---|---|---|---|---|
Half | 1 | 5 | 10 | 16 | 15 | 11 | ~3.3 |
Single | 1 | 8 | 23 | 32 | 127 | 24 | ~7.2 |
Double | 1 | 11 | 52 | 64 | 1023 | 53 | ~15.9 |
但是float是需要表达NaN-not a number与Inf-Infinite的,此时指数位需要来标示,所以全1情况被用掉,另外0特殊表达,指数全0情况也被用掉。 所以去掉一个最大值,一个最小值,指数表达的范围是:[-126,127]
// 指数位全1时表达的Infinite
0 11111111 00000000000000000000000 = 7f80 000016 = infinity
1 11111111 00000000000000000000000 = ff80 000016 = −infinity
// 指数位全1时表达的NaN
x 11111111 10000000000000000000001 = ffc0 000116 = qNaN (on x86 and ARM processors)
x 11111111 00000000000000000000001 = ff80 000116 = sNaN (on x86 and ARM processors)
// 指数与精度位全0时表达的+0, -0
0 00000000 00000000000000000000000 = 0000 000016 = 0
1 00000000 00000000000000000000000 = 8000 000016 = −0
尾数位
尾数位占23个bit,它的表达上有一个特殊点,它被认为是24个bit,第一个bit取值1,且被隐藏掉:有了这个前提,我们就比较好理解尾数的表达了:
这24个bit,依次表达2^0, 2^-1, 2^-2, 2^-23,隐藏的第一位表达的指就是1,所以抛开指数位和符号位来看, 尾数位表达的范围是: [1, 2 - 2^-23]
所以:尾数位全0时表达的值是1,全1时表达的最大值2 - 2^-23。
当然了,抛开一个特殊取值情况:
- 取值0的情况是一种特殊表达,指数与尾数全为0
所以,1的表达是:
// 指数位取值127-127=0,尾数位取值1,符号位取值0,正数
0 01111111 00000000000000000000000 = 1 * 2^0 = 1
所以,-2的表达是:
// 指数位取值128-127=1,尾数位取值1,符号位取值1,负数
1 10000000 00000000000000000000000 = -1 * 2^1 = 2
符号位
符号位就不细说了,0表示正数,1表示负数
结语
对于float,用了这么多年,对它的结构细节却关注的不多,详细查一查资料,发现和之前的想当然的理解上差别还是比较大的。
(Owed by: 春夜喜雨 http://blog.csdn.net/chunyexiyu)
认识float的指数与尾数相关推荐
- Python float输出指数形式和小数形式切换(即科学计数法和完整数值切换)
Python float输出指数形式和小数形式切换(即科学计数法和完整数值切换) (本文数字全部瞎编,仅作举例之用,请勿相信. 另,本人Python初学者,写个文章作为笔记,也希望可以对他人有所帮助, ...
- c语言指数部分尾数部分,C语言中 float double在内存中的存储
C语言中,对于浮点类型的数据采用单精度类型(float)和双精度类型(double)来存储,float数据占用32bit, double数据占用 64bit,我们在声明一个变量float f= 2.2 ...
- JS数字存储-指数位-尾数位-最大安全数字
JS数字存储 存储标准 JavaScript中的数字的存储标准是IEEE754浮点数标准.代码中使用的无论是整数还是小数,都是同一种数据类型--64位双精度浮点型. 64位存储划分 64位分别是1位符 ...
- oracle小数点后面的尾数,float和double的精度
1. 范围 float和double的范围是由指数的位数来决定的. float的指数位有8位,而double的指数位有11位,分布如下: float: 1bit(符号位) 8bits(指数位) 23b ...
- float最大值_float.h库
宏 描述 FLT_ROUNDS 定义浮点加法的舍入模式,它可以是下列任何一个值: -1 - 无法确定 0 - 趋向于零 1 - 去最近的值 2 - 趋向于正无穷 3 - 趋向于负无穷 FLT_RADI ...
- java int 0.5_java int转float精度缺失原因?
long的范围大于double long与float的丢失原理同下: 1)小数转换成二进制: 整数和小数分别转换. 整数除以2,商继续除以2,得到0为止,将余数逆序排列. 22 / 2 11 余0 1 ...
- float数据类型研究,发现其能显示的有效数字极为有限
1. 范围 float和double的范围是由指数的位数来决定的. float的指数位有8位,而double的指数位有11位,分布如下: float: 1bit(符号位) 8bits( ...
- float与double的范围和精度
1 范围 float和double的范围是由指数的位数来决定的. float的指数位有8位,而double的指数位有11位,分布如下: float:共32位 1bit(符号位) 8bits(指数位) ...
- float与double类型区别比较
参考或转自http://topic.csdn.net/u/20090716/10/CE4A7037-3C0D-40AE-AF85-F702C78FCEA3.html 单精度浮点数在机内占4个字节,用3 ...
最新文章
- spacy库的安装与使用_PythonEEG工具库MNEPython详细安装与使用
- 新兴的短距离传输技术-zigbee技术
- bootstrap下拉选择框选中事件_CAD制图初学入门之CAD软件中布局功能详解
- Windows 10升级1909之后,很多软件不支持高分辨率而造成字体过小
- Ubuntu虚拟机磁盘扩容+VM虚拟机开机多出1分30秒的解决方案(终极教程)
- F. 更改apache端口号
- python中的np array函数_numpy中的np.ascontiguousarray()函数
- .net 编译后有个pdb文件,是用来干什么的,那位大侠知道?
- 【从 0 开始机器学习】逻辑回归识别手写字符!
- 笔记本显示网络电缆被拔出怎么解决_电脑显示“网络电缆被拔出”怎么办?
- 前台CSS颜色代码大全
- linux rm 中文文件夹,在Linux下删除文件及文件夹(rm)
- android 2048小游戏实现代码
- JavaScript编程入门
- 全球15个免费卫星遥感数据源都在这儿,地信人必看!
- 胡水生:中小型企业如何应对互联网的发展
- 相册服务器维护,相册云服务器
- 2021React面试精选——持续更新
- Android 10 添加安装白名单和卸载黑名单
- 2021-2025年中国工业锅炉行业市场供需与战略研究报告