COMP-1及COMP-2内部存储解析

在从事大型机的工作中，很多时候我们所做的都是读dump,然后反向找出VSAM/QSAM数据集中的不当记录，尤其当数据集很大的时候，精确定位一条记录很是不便。。。而这里介绍的利用浮点数反向查找就是一个捷径（比如：我们在dump里看到X'C411570A',如果能快速算出-4439.039，再在数据集中搜索-4439.039，相信很容易就能锁定到你想要的目标记录），下面我们解析下，大型机是如何存储浮点数及我们又怎样快速算出其对应的十进制数据。

我们知道在COBOL里:

COMP-1是用来定义单精度浮点数的，占四个字节（对应于HLASM/mainframe assembler里的E定义）

COMP-2是用来定义双精度浮点数的，占八个字节（对应于HLASM/mainframe assembler里的D定义）

具体内部存储见下图：

解析如下：

第0位（最左边的bit位为第0位，以此类推）是符号位，0为正，1为负。
第1—7位是指数位，初始值为X'40',如果小数点左移1位，则初始值加1，为X'41'；如果右移1位，则减1，为X'3F'。
第8—31/8—63位是尾数位，也可以说是组合位(8—31是针对COMP-1，8—63针对COMP-2)。

1.主机是以纯小数并且十分位不为0的形式存储数据的

地址内存数据常量名常量数值

000064 427B74BC            14 A     DC   E'123.456'
000068 427B0000            15 B     DC   E'123'
00006C 4074BC6A            16 C     DC   E'.456'
000070 C27B74BC            17 X     DC   E'-123.456'
000074 00000000
000078 427B74BC6A7EF9DB    18 Y     DC   D'123.456'

A,B和C我们都定义成常量，并且可以把A看成是B + C之和
B: 123 = X'7B'按照要求应该变为0.7B * 16^2，由于指数为+2，所以指数的bit位就变成了X'40'+X'2'=X'42'，即内存为427B0000
C: 0.456=X'0.74BC6A7EF9DB'=0.74BC6A7EF9DB * 16^0，其本身已经符合要求了，所以内存为4074BC6A（由于C最多四个字节，后面的存储不了自动舍弃，这和我们常说的小说点后精确到多少位含义是一样）

计算机在进行加减之前，首先要保证指数一致，然后再保证小数点对齐。要理解这个，我们可以参考下十进制，比如100*10^1+ 0.008*10^2，一般的算法为：100*10^1+ 0.008*10^2 = 1000 + 0.8 = 1000.8

其实这里隐含的约束也是先把指数变成一样，然后小数点对齐（只是这里指数部分为10^0）。

其实计算机也是这么做的：
1.先把前两位（指数位）变成相同：4074BC6A -> 41074BC6 -> 420074BC
2.然后再进行C+B=A的计算：420074BC+ 427B0000 = 427B74BC

再来看下X和Y，X是A的相反数，Y和A只是精度不同
X是负数，所以其内存第一个bit位是1。
Y被定义成双精度浮点数类型（COMP-2），可以看出A和Y的内存数据仅仅是精度不同而已。

2.剖析一个内存数据，比如：C211570A

1.由于第一个bit是1，所以它是个负数，
2.由于指数位是X'42'，即后面三个字节中的11为整数部分，570A为小数部分
3.整数部分11变成十进制为17
4.小数部分0.570A变成十进制为0.339996337890625，约等于0.34

（这里给个百度链接，十进制/十六进制转换工具：http://www.baidu.com/s?tn=baiduhome_pg&ie=utf-8&bs=Fraction&f=8&rsv_bp=1&rsv_spt=1&wd=01+%E5%8D%81%E5%85%AD%E8%BF%9B%E5%88%B6%E8%A1%A8%E7%A4%BA&rsv_sug3=9&rsv_sug=0&rsv_sug1=9&rsv_sug4=688&inputT=10402）
5.即这个数字为-17.34

3.怎么从一个十六进制数据快速反推出我们想要的十进制

1）快速反推（由十六进制推算出十进制）：
C211570A =（-X'11570A'/16^6）*16^2
         = -X'11570A'/16^4
         = -1136394/65536
         = -17.34

C411570A = （-X'11570A'/16^6）* 16^4
         = -X'11570A'/16^2
         = -1136394/256
         = -4439.039

2）快速正推（由十进制推算出十六进制）:

17.34 = 0.1734 * 10^2
      = 1734/10^2
      = X'6C6'/ X'64'
      = （X'6C60000'/ X'64'）*（1/X'10000'）
      = 11570A*（1/ X'10000'）

这里为什么先让被除数乘X'10000',是因为笔记本自带的计算机在进行16进制除法的时候,只显示整数部分.实际上,计算机也是没法表示16进制的小数部分的,因为我们平时说的小数点,都是针对十进制的,又有谁见过16进制的小数点长什么样子?

所以记入内存时再缩小X'10000'倍即可：X'4211570A'（如果不缩小应该是X'4611570A'）

以上方法的总体思想都是把除数和被除数都变成整数，然后再进行运算。

有疑问请联系：QQ349106216

COMP-1及COMP-2内部存储解析相关推荐

Android内部存储与外部存储解析
Android开发的过程中.经常会涉及到存储,之前一直没有一个整体的概念,这篇文章就是进行一个知识点的梳理. Android的存储有:内部存储.外部存储. 想要了解这两个概念,我们先将开发软件中的DD ...
Android内存解析（二）— 详解内存，内部存储和外部存储
总述觉得十分有必要搞清楚内存,内部存储和外部存储的区别,还有我们在开发中真正将数据存在了手机的哪儿. 先提一个问题:手机设置的应用管理中,每个App下都有清除数据和清除缓存,清除的分别是哪里的数据? ...
Android开发--文件系统中的内部存储和外部存储最全解析附文件数据保存操作封装
文件存储前言文件存储内存内部存储外部存储内部存储操作 API 读写操作外部存储操作公共目录私有目录私有文件私有缓存文件各种操作封装前言众所周知,数据存储在每个应用中都会用到 ...
解析Android内部存储、外部存储的区别
1.背景在开发过程中我们都会使用到手机的内部缓存.外部缓存.但有些开发者对这两个存储区域理解还够透彻,以为手机内置的存储卡(不可手机移除)就是内部存储, 可插拔的SD卡就是外部存储,其实这些理解都是 ...
android 源码分析内置 sd storage,Android开罐头———外部存储与内部存储完全解析...
context.getExternalFilesDir(),Environment.getExternalStorageDirectory(),傻傻分不清?到底什么算安卓手机的external sto ...
android 根目录缓存,Android系统中内部存储和外部存储（公有目录、私有目录、缓存目录）详解...
首先,明确一个概念,Android内部存储和外部存储并非所谓的手机自带内存是内部存储,SD卡是外部存储云云. Android对内部存储和外部存储不是在物理上区分的,而是在逻辑上区分的.git 1.概念 ...
PyTorch 笔记（11）— Tensor内部存储结构（头信息区 Tensor，存储区 Storage）
1. Tensor 内部存储结构 tensor 数据结构如下图所示,tensor 分为头信息区(Tensor)和存储区 (Storage),信息区主要保存着 Tensor 的形状(size).步长(s ...
android 读取内部存储文件格式,Android中的数据储存之文件存储
当我们在使用各种程序时,其实际上是在和各种数据打交道,当我们聊QQ,刷微博,看新闻,其实都是在和里面的数据交互例如在聊天时发出的消息,以及在登录时输入的账号密码,其实都是瞬时数据,那什么是瞬时数据呢 ...
聊一聊 Redis 数据内部存储使用到的数据结构
点击上方好好学java ,选择星标公众号重磅资讯.干货,第一时间送达今日推荐:2020年7月程序员工资统计,平均14357元,又跌了,扎心个人原创100W+访问量博客:点击前往,查看更多 R ...

COMP-1及COMP-2内部存储解析

COMP-1及COMP-2内部存储解析相关推荐

最新文章

热门文章