float数据类型研究，发现其能显示的有效数字极为有限

1. 范围
  float和double的范围是由指数的位数来决定的。
  float的指数位有8位，而double的指数位有11位，分布如下：
  float：
  1bit（符号位） 8bits（指数位） 23bits（尾数位）
  double：
  1bit（符号位） 11bits（指数位） 52bits（尾数位）
  于是，float的指数范围为-127~+128，而double的指数范围为-1023~+1024，并且指数位是按补码的形式来划分的。
  其中负指数决定了浮点数所能表达的绝对值最小的非零数；而正指数决定了浮点数所能表达的绝对值最大的数，也即决定了浮点数的取值范围。
  float的范围为-2^128 ~ +2^128，也即-3.40E+38 ~ +3.40E+38；double的范围为-2^1024 ~ +2^1024，也即-1.79E+308 ~ +1.79E+308。

2. 精度
  float和double的精度是由尾数的位数来决定的。浮点数在内存中是按科学计数法来存储的，其整数部分始终是一个隐含着的“1”，由于它是不变的，故不能对精度造成影响。
  float：2^23 = 8388608，一共七位，这意味着最多能有7位有效数字，但绝对能保证的为6位，也即float的精度为6~7位有效数字；
  double：2^52 = 4503599627370496，一共16位，同理，double的精度为15~16位。

博主测试：

public class TestFloat : MonoBehaviour {public float f = 0f;public double f2 = 0f;// Use this for initializationvoid Start () {f = 123456700.987654321f;//89换成00则不会进行四舍五入f2 = 123456789.987654321d;//如果是f就成单精度的了Debug.Log (f);Debug.Log (f2);}

输出

1.234567E+08

＊1.234568E+08（四舍五入）

小数部分全部丢失

123456789.987654

小数部分丢失了一些

转载于:https://www.cnblogs.com/jiahuafu/p/7902602.html

float数据类型研究，发现其能显示的有效数字极为有限相关推荐

养狗防老，比养猫强：日本新研究发现养狗有效预防老年人残疾
明敏发自凹非寺量子位 | 公众号 QbitAI 咱就是说,养狗的理由又多了一条! 就在最近,日本学者的一项研究发现: 养狗可以有效降低老年人残疾风险. 调查显示,养狗的老年人患残疾的风险,大约是 ...
append 降低数组位数_腿粗有理！研究发现腿部脂肪多，能大幅降低患高血压的风险！...
拥有一双笔直.纤细的"筷子腿"是每位小仙女的梦想,而"大象腿"则往往让人避之不及.很多研究也表明,各种各样的健康问题都与脂肪过多有关. 然而,最近研究证实,脂肪 ...
剑桥加密资产研究的主要发现金评媒JPM 09-19 00:00 金评媒（https://www.jpm.cn）编者按：研究发现，全球有 1876 人在加密资产行业中工作。其中最多的是在亚太地区工作，
剑桥加密资产研究的主要发现金评媒JPM 09-19 00:00 金评媒(https://www.jpm.cn)编者按:研究发现,全球有 1876 人在加密资产行业中工作.其中最多的是在亚太地区工作, ...
奥地利研究发现老夫择少妻是进化需要
新浪科技讯北京时间8月29日消息,据英国<泰晤士报>报道,奥地利维也纳大学的科学家研究发现,年龄较大的男性将目光锁定在年轻姑娘身上,而女性则喜欢更为成熟的男人,这些做法其实遵守了&quo ...
麻省理工研究发现，商业人工智能存在严重的性别和肤色歧视
内容来源:ATYUN AI平台根据来自麻省理工学院和斯坦福大学将在公正,责任和透明的会议上(Fairness, Accountability, and Transparency)上发布的新论文显示, ...
新研究发现：太平洋上仅存的冰川将很快融化
2010年,在一次冰川探险期间,冰川从冰川中回收了冰芯.图片提供:Lonnie Thompson提供. 一项新的研究发现,由于气候变化,在喜马拉雅山和安第斯山脉之间剩下的最后的热带冰川将在未来十年甚至 ...
长期吸烟的人，该注意了！百趣代谢组学协助研究发现，香烟烟雾会导致肠道微生物群失调，引发结直肠癌！
说到致癌,人人都会恐惧,在我们的日常生活中,很多不好的习惯会导致癌症的发生,比如说--吸烟,那么吸烟真的致癌吗?关于吸烟致癌你知道多少呢? 点击输入图片描述(最多30字) 香烟的烟雾中含有大量的有害物 ...
Radware研究发现，数据泄露将成为最大的网络攻击问题
本文讲的是 Radware研究发现,数据泄露将成为最大的网络攻击问题,Radware 2016-2017年全球应用及网络安全报告发现,勒索赎金是网络攻击的最主要动机,恶意软件是最常用的攻击类型,IoT ...
一项新研究发现，新冠患者脑损伤标志物短期内高于阿尔茨海默症患者
由纽约大学格罗斯曼医学院研究人员开展的一项新研究发现,与没有得新冠(COVID-19)的阿尔茨海默病人相比,因新冠住院的患者在短期内具有更高的已知会随着神经系统损伤而上升的血液蛋白水平. 报告在202 ...

float数据类型研究，发现其能显示的有效数字极为有限

float数据类型研究，发现其能显示的有效数字极为有限相关推荐

最新文章

热门文章