Python:执行精确的浮点数运算

需要对浮点数执行精确的计算操作,并且不希望有任何小误差的出现.

浮点数的一个普遍问题是它们并不能精确的表示十进制数。并且，即使是最简单的
数学运算也会产生小的误差，比如：

>>> a = 4.2
>>> b = 2.1
>>> a + b
6.300000000000001
>>> (a + b) == 6.3
False

”False“是由于底层CPU和IEEE标准通过自己的浮点单位去执行算术导致的。Python的浮点数据类型使用底层表示存储数据，所以无法无法避免这样的误差。

如果想更加精确（代价是性能损耗），可以使用decimal模块

'''
遇到问题没人解答？小编创建了一个Python学习交流QQ群：857662006
寻找有志同道合的小伙伴，互帮互助,群里还有不错的视频学习教程和PDF电子书！
'''
>>> from decimal import Decimal
>>> a = Decimal('4.2')
>>> b = Decimal('2.1')
>>> a + b
Decimal('6.3')
>>> print(a + b)
6.3
>>> (a + b) == Decimal('6.3')
True

上面真是乖乖的，用字符串表示数据。。。

然而Decimal对象支持所有的常用数学运算。

真实世界中很少会要求精确到普通浮点数能提供的17 位精度，执行大量运算的时候速度很重要。所以使用不要随便用decimal.

总的来说， decimal 模块主要用在涉及到金融的领域。在这类程序中，哪怕是一点
小小的误差在计算过程中蔓延都是不允许的。因此， decimal 模块为解决这类问题提
供了方法。当Python 和数据库打交道的时候也通常会遇到Decimal 对象，并且，通
常也是在处理金融数据的时候。

Python:执行精确的浮点数运算相关推荐

Python执行精确的浮点数运算
有时候:代码上数字计算可能会有如同下面的误差原因: 这些错误是由底层CPU和IEEE 754标准通过自己的浮点单位去执行算术时的特征. 由于Python的浮点数据类型使用底层表示存储数据,因此你没办 ...
python浮点数怎么运算_Python如何执行精确的浮点数运算
问题你需要对浮点数执行精确的计算操作,并且不希望有任何小误差的出现. 解决方案浮点数的一个普遍问题是它们并不能精确的表示十进制数. 并且,即使是最简单的数学运算也会产生小的误差,比如: >& ...
《Python Cookbook 3rd》笔记（3.2）：执行精确的浮点数运算
执行精确的浮点数运算问题你需要对浮点数执行精确的计算操作,并且不希望有任何小误差的出现. 解法浮点数的一个普遍问题是它们并不能精确的表示十进制数.并且,即使是最简单的数学运算也会产生小的误差,比 ...
python精确运算_Python:执行精确的浮点数运算
需要对浮点数执行精确的计算操作,并且不希望有任何小误差的出现. 浮点数的一个普遍问题是它们并不能精确的表示十进制数.并且,即使是最简单的数学运算也会产生小的误差,比如: >>> a ...
python3的float数精度_Python3 - 执行精确的浮点数运算
问题对浮点数执行精确的计算操作,并且不希望有任何小误差的出现. 解决方案浮点数的一个普遍问题是它们并不能精确的表示十进制数.并且,即使是最简单的数学运算也会产生小的误差. a = 2.1 b = ...
Java中实现精确的浮点数运算
我们知道,在 Java 中直接对浮点数进行运算会出现精度丢失的现象,那么如何解决这一问题呢? 我们需要借助 BigDecimal 来帮助我们进行浮点数的运算!!! 一.精确的浮点数运算示例代码 //示 ...
python浮点数怎么运算_python中实现精确的浮点数运算详解
为什么说浮点数缺乏精确性? 在开始本文之前,让我们先来谈谈浮点数为什么缺乏精确性的问题,其实这不是Python的问题,而是实数的无限精度跟计算机的有限内存之间的矛盾. 举个例子,假如说我只能使用整数( ...
python减法精确度不准是什么问题,聊聊Python中的浮点数运算不准确问题
大家好,老 Amy 来了.之前就意识到一个问题,但是最近又有朋友提出来了,所以就想着干脆记录下来,分享给大家叭~ 啥问题呢?请看题: 也就是说,需要大家计算1.1-1的值,很多朋友会说:"e ...
python精确小数点_python执行精确的小数计算方法
在进行浮点数计算时它们无法精确表达出所有的十进制小数位. a = 4.1 b = 5.329 print(a+b) 9.428999999999998 这些误差实际上是底层CPU的浮点运算单元和IEE ...

Python:执行精确的浮点数运算

Python:执行精确的浮点数运算相关推荐

最新文章

热门文章