1. 表示精度和所需内存

float类型和float64类型是一样的，都需要64个bits，而float32需要32个bits。
精度方面，float类型和float64类型在十进制中可以有16位，而float32类型在十进制中有8位，如下：

>>> x = np.float64(1/3)
>>> x
0.3333333333333333
>>> y = np.float32(x)
>>> y
0.33333334
>>> p = 1000*(1/3)
>>> p
333.3333333333333
>>> q = np.float32(p)
>>> q
333.33334

2.转换

(1) ‘float’转’float64’

x x x原本是’float’类型的

x = np.float64(x)

经过上面的 x x x就变成了’float64’类型

(2)’float64’转‘float’

y y y原本是’float64’类型的

y = np.float(y)

经过上面的 y y y就变成了’float’类型

(3) ‘float64’与‘float32’之间的转换

>>> x = np.float64(1/3)
>>> x
0.3333333333333333
>>> y = np.float32(x)
>>> y
0.33333334
>>> z = np.float64(y)
>>> z
0.3333333432674408

(4) 当出现如下错误时需要进行类型的转换

ValueError: Unknown label type: 'unknown'

3. torch.tensor中的类型转换

(1)当出现以下错误时很可能需要进行类型转换

RuntimeError: cuDNN error: CUDNN_STATUS_BAD_PARAM

这个错误是由于数据类型不一致造成的。

(2)转为float32

a = a.to(torch.float32)

(3)转为float64

a = a.to(torch.float64)

Python中float类型、float32类型和float64类型的表示精度，所需内存及其之间的转换相关推荐

数据库中的字段varchar类型和char类型的区别？
数据库中的字段varchar类型和char类型的区别? 目录数据库中的字段varchar类型和char类型的区别?
Java学习（4）—— 布尔类型、基本数据类型转换、基本数据类型和String类型的转换
布尔类型也叫Boolean类型,boolean只允许取true和false. boolean占一个字节. 适用于逻辑运算,流程控制语句. 有默认类型,是false.但是应该声明为成员变量或是静态变量 ...
Python数据类型、Numpy数据类型和Pytorch中的tensor类型间的相互转化
数据类型包括Python数据类型.Numpy数据类型和Pytorch中的tensor,Pytorch中的tensor又包括CPU上的数据类型和GPU上的数据类型. 一.Python数据类型 Pytho ...
float类型和long类型那个取值范围更大
float类型和long类型那个取值范围更大首先我们先来看看一段代码 float(单精度):它属于数字型中的浮点型,在Java中占4个字节.32个bit,取值范围为3.4E-038~3.4E+038 ...
oracle的int范围,oracle中int类型和number类型区别
oracle中int类型和number类型区别 INT类型是NUMBER类型的子类型. 下面简要说明: (1)NUMBER(P,S) 该数据类型用于定义数字类型的数据,其中P表示数字的总位数(最大字节 ...
*floa类型和long类型那个取值范围更大？
*floa类型和long类型那个取值范围更大? 作为基础知识.我们都知道float在内存中占用4个字节的空间,而long型占用8个字节的空间. 但float的取值范围是-3.403E38-3.403E ...
DATETIME类型和BIGINT 类型互相转换
项目中使用BIGINT来存放时间,以下代码用来转换时间类型和BIGINT类型 SET ANSI_NULLS ON GO SET QUOTED_IDENTIFIER ON GO -- ========= ...
【Python面试】列举Python中的标准异常类？
往期面试题: 说说Python变量.函数.类的命名规则? 说说Python可变与不可变数据类型? 说说Python面向对象三大特性? 说说Python中有几种数据类型? 说说Python模块主要分哪三 ...
python中exception类的_面试题 | 列举几个Python中的标准异常类?
[摘要]今天给大家解答一道Python常见的面试题,希望这个面试栏目,给那些准备面试的同学,提供一点点帮助!小编会从最基础的面试题开始,每天一题.如果参考答案不够好,或者有错误的话,麻烦大家可以在留言 ...

Python中float类型、float32类型和float64类型的表示精度，所需内存及其之间的转换