Numpy 数据精度

https://docs.scipy.org/doc/numpy-dev/user/basics.types.html

数据类型	描述
bool_	Boolean (True or False) stored as a byte
int_	Default integer type (same as C long normally either int64 or int32)
intc	Identical to C int (normally int32 or int64)
intp	Integer used for indexing (same as C ssize_tnormally either int32 or int64)
int8	Byte (-128 to 127)
int16	Integer (-32768 to 32767)
int32	Integer (-2147483648 to 2147483647)
int64	Integer (-9223372036854775808 to 9223372036854775807)
uint8	Unsigned integer (0 to 255)
uint16	Unsigned integer (0 to 65535)
uint32	Unsigned integer (0 to 4294967295)
uint64	Unsigned integer (0 to 18446744073709551615)
float_	Shorthand for float64.
float16	Half precision float: sign bit, 5 bits exponent, 10 bits mantissa
float32	Single precision float: sign bit, 8 bits exponent, 23 bits mantissa
float64	Double precision float: sign bit, 11 bits exponent, 52 bits mantissa
complex_	Shorthand for complex128.
complex64	Complex number, represented by two 32-bit floats (real and imaginary components)
complex128	Complex number, represented by two 64-bit floats (real and imaginary components)

单精度8位阶码，1位符号，剩下23位尾数，算出2的负23次方，得到0.00000011920928955078125
前面0有多少个，就表示能精确到那一位
双精度11位阶码，1位符号，剩下52位尾数，算出2的负52次方，得到0.00000000000000022204460492503130808472633361816
前面0有多少个，就表示能精确到那一位

参考文献
http://bbs.bccn.net/thread-316069-1-1.html
http://blog.csdn.net/qq_34312386/article/details/52454701
http://blog.sina.com.cn/s/blog_814e83d80101bgcf.html
https://zhidao.baidu.com/question/181927800.html

Numpy 数据精度相关推荐

numpy.astype数据精度导致数据变化的问题
在用numpy.astype强制转换数据类型的时候,由于numpy精度的问题将会对长度超过16位的数据发生不可预见的变化. 见以下样例: a=np.random.randint(10000000000 ...
python numpy Quickstart tutorial之set_printoptions
上节中主要介绍了ndarray函数的创建,在示范用例中可以看到打印一个ndarray里面的内容可以直接使用print打印即可,但是有的时候,当矩阵过大时,直接使用print打印并不能将矩阵中的内容全部 ...
mpi4py 并行读/写 numpy npy 文件的方法
本文从本人简书博客同步过来在上一篇中我们介绍了 mpi4py 中获得高性能 I/O 的方法和建议,下面我们将介绍 mpi4py 并行读/写 numpy npy 文件的方法. 在使用 mpi4py 写 ...
数据基础---numpy、pandas使用教程
数组对象 Numpy库 Numpy最重要的一个特点是就是其N维数组对象,即ndarray,ndarray是一个通用的同构数据多维容器,其中的所有元素必须是相同类型的.每个数组都有一个shape(一个表 ...
numpy的astype函数
astype函数用于array中数值类型转换查看全文 http://www.taodudu.cc/news/show-3729141.html 相关文章: np.astype()函数 np.asty ...
OpenCV 笔记（07）— Mat 对象输出格式设置（Python 格式、CSV 格式、NumPy 格式、C 语言格式）
首先是下面代码中将要使用的 r 矩阵的定义.需要注意,我们可以通过用 randu 函数产生的随机值来填充矩阵, 需要给定一个上限和下限来确保随机值在期望的范围内. Mat r = Mat(2, 3, ...
NumPy — 创建全零、全1、空、arange 数组，array 对象类型，astype 转换数据类型，数组和标量以及数组之间的运算，NumPy 数组共享内存
NumPy 简介一个用 python 实现的科学计算包.包括: 1.一个强大的 N 维数组对象 Array : 2.比较成熟的(广播)函数库: 3.用于整合 C/C++ 和 Fortran 代码的工 ...
Python+OpenCV 图像处理系列（8）—— Numpy 对象及图像对象创建与赋值
1. Numpy 相关知识 1.1 Ndarray 对象在了解 OpenCV 的图像对象之前我们先对 NumPy 的基础知识做一回顾,方便我们后续更进一步理解图像对象的一系列操作. In [2]: ...
dataframe,python,numpy 问题索引2
20220330 print(frame3.isnull().any()) 找出存在空值的列 print("========================") print(fra ...

Numpy 数据精度

Numpy 数据精度相关推荐

最新文章

热门文章