python精确小数点_python执行精确的小数计算方法

在进行浮点数计算时它们无法精确表达出所有的十进制小数位。

a = 4.1

b = 5.329

print(a+b)

9.428999999999998

这些误差实际上是底层CPU的浮点运算单元和IEEE754浮点数算数标准的一种“特性”。python的浮点数类型保存的数据采用的是原始表示形式，因此使用float实例时就不能避免这样的误差。

我们可以使用decimal模块避免这种操作(如果不介意牺牲下性能)：

from decimal import Decimal

a = Decimal('4.1')

b = Decimal('5.329')

print(a+b)

9.429

注意Decimal的参数必须是字符串，不能是浮点型，否则误差依旧存在。

decimal模块的主要功能是允许控制计算过程中的各个方面，包括数字的尾数和四舍五入。

from decimal import Decimal

from decimal import localcontext

a = Decimal(4.1)

b = Decimal(5.329)

print(a/b)

print('================')

with localcontext() as ctx:

ctx.prec = 3

print(a/b)

0.7693751172827922400071261708

================

0.769

getcontext也可以实现和localcontext一样的功能

from decimal import Decimal, getcontext

a = Decimal(4.1)

b = Decimal(5.329)

getcontext().prec = 3

print(a/b)

0.769

误差我们不能完全消除，我们只能尽力优化算法，使得误差尽可能小。在大数和小数相加时要格外注意。

nums = [3.21e+18, 1, -3.21e+18]

print(sum(nums))

print('=========================')

import math

res = math.fsum(nums)

print(res)

0.0

=========================

1.0

以上这篇python执行精确的小数计算方法就是小编分享给大家的全部内容了，希望能给大家一个参考，也希望大家多多支持脚本之家。

python精确小数点_python执行精确的小数计算方法相关推荐

python精确运算_Python:执行精确的浮点数运算
需要对浮点数执行精确的计算操作,并且不希望有任何小误差的出现. 浮点数的一个普遍问题是它们并不能精确的表示十进制数.并且,即使是最简单的数学运算也会产生小的误差,比如: >>> a ...
python计算小数_python执行精确的小数计算方法
在进行浮点数计算时它们无法精确表达出所有的十进制小数位. a = 4.1 b = 5.329 print(a+b) 9.428999999999998 这些误差实际上是底层cpu的浮点运算单元和iee ...
python完全匹配_python如何精确匹配
各位大虾好! 小弟有一个文件里面是这个样子:data_center = { access_key = { ak = "this is ak", sk = "this is ...
python子进程通信_python执行子进程实现进程间通信的方法
本文实例讲述了python执行子进程实现进程间通信的方法.分享给大家供大家参考.具体实现方法如下: a.py: import subprocess, time subproc = subprocess ...
python调用系统_python 执行系统命令
Python中执行系统命令常见的几种方法: (1)os.system # 仅仅在一个子终端运行系统命令,而不能获取命令执行后的返回信息 # 如果再命令行下执行,结果直接打印出来例如: >> ...
python terminal调试_python执行命令行调试工具pdb
调试 pdb pdb是基于命令行的调试工具,非常类似gnu的gdb(调试c/c++). 命令简写命令作用 break b 设置断点(用法,b :在第数字行设置断点................... ...
python运行命令_Python执行系统命令教程
一.背景说明以前就感觉进步的速度和博客的数量成正比,所以很长一段时间内想不通为什么很多博客为什么到最后很少甚至不在更新了,直到最近自己也快成为断更的一员. 这段时间其实碰到和解决了挺多典型的问题,但 ...
python多进程怎么样_Python执行多进程任务的方法
Python的多进程可以借助from multiprocessing import Pool来实现. 简而言之分为这样几步: 导入包from multiprocessing import Pool 编 ...
python浮点数怎么运算_Python如何执行精确的浮点数运算
问题你需要对浮点数执行精确的计算操作,并且不希望有任何小误差的出现. 解决方案浮点数的一个普遍问题是它们并不能精确的表示十进制数. 并且,即使是最简单的数学运算也会产生小的误差,比如: >& ...

python精确小数点_python执行精确的小数计算方法

python精确小数点_python执行精确的小数计算方法相关推荐

最新文章

热门文章