二进制安全需要记住的取值范围 int8,unsigned int8,float32,Int32

int

int8取值范围是-128 - 127
unsigned int8 0-255

Int16 意思是16位整数(16bit integer)，相当于short 占2个字节 -32768 ~ 32767

Int32 意思是32位整数(32bit integer), 相当于 int 占4个字节 -2147483648 ~ 2147483647

Int64 意思是64位整数(64bit interger), 相当于 long long 占8个字节 -9223372036854775808 ~ 9223372036854775807

float

一个float单精度浮点数一般是4bytes（32bit）来表示，由三部分组成：符号位、指数部分（表示2的多少次方）和尾数部分（小数点前面是0，尾数部分只表示小数点后的数字）

双精度64位，单精度32位，半精度自然是16位

float32: 单精度浮点数float的这三部分所占的位宽分别为：1，8，23

float16: 半精度浮点数half的这三部分所占的位宽分别为：1，5，10

半精度是英伟达在2002年搞出来的，双精度和单精度是为了计算，而半精度更多是为了降低数据传输和存储成本。

很多场景对于精度要求也没那么高，例如分布式深度学习里面，如果用半精度的话，比起单精度来可以节省一半传输成本。考虑到深度学习的模型可能会有几亿个参数，使用半精度传输还是非常有价值的。

Google的TensorFlow就是使用了16位的浮点数，不过他们用的不是英伟达提出的那个标准，而是直接把32位的浮点数小数部分截了。据说是为了less computation expensive。。。
其他

Byte 相当于byte(unsigned char) 0 ~ 255

WORD 等于 unsigned short 0 ~ 65535

二进制安全需要记住的取值范围 int8,unsigned int8,float32,Int32相关推荐

int类型取值范围的理解
C语言中,int表示整数类型,占4Byte,也就是32bit.那么为什么int的取值范围是-2147483648~2147483647(即-(2^31) ~ (2^31 -1))呢? 我们知道,这32 ...
C++中int、long和double的取值范围和最大值，以及32位和64位的差异解读
前言一般对于C/C++下int等基本数字类型,主要关注三个维度,长度.取值范围和最大值的宏定义.下面分三个维度说明下. 有三个影响因素: 语言规则限制:比如int是变长,long是定长,double ...
Go语言-int类型取值范围
相比于C/C++语言的int类型,GO语言提供了多种int类型可供选择,有int8.int16.int32.int64.int.uint8.uint16.uint32.uint64.uint.文章目录 ...
c/c++中int，long，long long的取值范围
True2009Fans c/c++中int,long,long long的取值范围: unsigned int 0-4294967295 int -2147483648-21474 ...
为什么8位二进制的取值范围是-128~127
我的疑惑一个字节8位,其中最高位表示正数和负数,0表示正数,1表示负数.所以能够表示-128-+127. 01111111可以表示+127.正数这一段没有问题,负数这一段有两个疑问 11111111 ...
int / uint 的取值范围、二进制表示形式、与十进制转换方法
int / uint 类型的取值范围: int8: -128 ~ 127 int16: -32768 ~ 32767 int32: -2147483648 ~ 2147483647 int64: - ...
java中 byte 取值范围_【二进制基础-java中byte的取值范围-推导过程】
java中用补码表示二进制数,补码的最高位是符号位,最高位为"0"表示正数,最高位为"1"表示负数. 正数补码为其本身: 负数补码为其绝对值各位取反加1: 例如 ...
hashmap取值_一万六千字的HashMap深度剖析
概论 HashMap 是无论在工作还是面试中都非常常见常考的数据结构.比如 Leetcode 第一题 Two Sum 的某种变种的最优解就是需要用到 HashMap 的,高频考题 LRU Cache ...
c语言中char的取值扩大,C语言中 char 类型的取值范围为什么是-128～127
我们之前已经说过关于原码.反码和补码的一些东西,如果你没有看过,可以点这里< 你知道原码.反码和补码吗,进来了解一下吧 >看一下 . 好了,可能你不会太想看,所以我们一起再来简单的复习一下 ...

二进制安全需要记住的取值范围 int8,unsigned int8,float32,Int32

int

float

二进制安全需要记住的取值范围 int8,unsigned int8,float32,Int32相关推荐

最新文章

热门文章