计算机实数表示法---浮点数(二)

2019独角兽企业重金招聘Python工程师标准>>>

在“计算机实数表示法---浮点数(一)”中主要说明了单精度浮点数的表示方法以及几个特殊值的存储形式，总之指数位的值为1<=v<=254，对应的真实值范围为-126<=v<=127,最小的正负单精度浮点数分别为0_00000001_00000000000000000000000（）、1_00000001_00000000000000000000000（-），最大的正负单精度浮点数分别为0_11111110_11111111111111111111111（）、1_11111110_11111111111111111111111（-）。

在“计算机实数表示法---浮点数(一)”举的例子11.75是可以被单精度浮点数精确表示的，接下来举一个不能被精确表示的例子：0.3转换成二进制形式为0.01001100110011001100110011001100110011...，标准形式为单精度浮点形式为0_01111101_00110011001100110011010，很明显那省略的部分被砍掉了，于是不能精确表示原始值从而产生了精度丢失。

除了精度丢失还可能会出现两个不同的数相等的情况如16677216.5与16677216.3，所以不要试图比较两个浮点数的大小，因为它们可能相等也可能不等，本质原因都是因为精度丢失导致的！

转载于:https://my.oschina.net/u/1268334/blog/3019929

计算机实数表示法---浮点数(二)相关推荐

计算机操做系统(十二)：进程同步和互斥
计算机操做系统(十二):进程同步和互斥来源王道考研视频: https://www.bilibili.com/video/BV1YE411D7nH?p=18 基本概念异步性:各并发执行的进程以各自独 ...
【计算机图形学】小白谈计算机图形学（四）二维三维图形变换—1
小白谈计算机图形学(四)二维三维图形变换-1 窗口与视图二维图形的几何变换平移变换比例变换旋转变换二维图形变换的矩阵表示三种变换齐次坐标变换原二维线性变换齐次坐标法复合变换例题: ...
计算机体系结构在线读,18春北交《计算机体系结构》在线作业二-3
18春北交<计算机体系结构>在线作业二-3 (7页) 本资源提供全文预览,点击全文预览即可全文预览,如果喜欢文档就下载吧,查找使用更方便哦! 4.90 积分 18 春北交<计算机体系 ...
计算机原理之定点与浮点表示教案,计算机组成原理-定点数和浮点数.ppt
计算机组成原理-定点数和浮点数 3.2.3 定点数和浮点数计算机中的两种表示方式数值范围:一种数据类型所能表示的最大值和最小值数据精度:实数所能表示的有效数字位数. 数值范围和数据精度均与使用多 ...
计算机图像学试题,北交20秋《计算机图形学》在线作业二题目
北交20秋<计算机图形学>在线作业二题目 2020-10-13 10:10:52 154 有学员问关于北交20秋<计算机图形学>在线作业二题目的题目的参考答案和解析,具体如下: ...
PAT甲级1145 Hashing - Average Search Time：[C++题解]哈希表、哈希表开放寻址法、二次探测法、求平均查找次数
文章目录题目分析题目链接题目分析来源:acwing 本题的分析见另一道PAT的题目:PAT甲级1078 Hashing:[C++题解]哈希表.哈希表开放寻址法.二次探测法链接的题目就是让建立h ...
计算机文化基础性考二,电大计算机文化基础形考二答案
<电大计算机文化基础形考二答案>由会员分享,可在线阅读,更多相关<电大计算机文化基础形考二答案(3页珍藏版)>请在人人文库网上搜索. 1.计算机文化基础形考二答案题目1关于Wi ...
一维OTSU法、最小交叉熵法、二维OTSU法及C++源码
1.最大类间方差法(Otsu法) 该算法是日本人Otsu提出的一种动态阈值分割算法.它的主要思想是按照灰度特性将图像划分为背景和目标2部分,划分依据为选取门限值,使得背景和目标之间的方差最大.(背景和 ...
matlab晶体能带,matlab平面波展开法的二维光子晶体能带研究+程序
摘要 :二维光子晶体可以作为对光子传输控制的新型材料.本文主要通过平面波展开法对二维光子晶体进行数值计算及其性质分析.首先我们介绍了二维光子晶体的基础概念.结构.介电性能等特性.然后基于麦克斯韦方 ...

计算机实数表示法---浮点数(二)

计算机实数表示法---浮点数(二)相关推荐

最新文章

热门文章