我将通过示例解释我的问题:

>>> #In this case, I get unwanted result

>>> k = 20685671025767659927959422028 / 2580360422

>>> k

8.016582043889239e+18

>>> math.floor(k)

8016582043889239040

>>> #I dont want this to happen ^^, let it remain 8.016582043889239e+18

>>> #The following case though, is fine

>>> k2 = 5/6

>>> k2

0.8333333333333334

>>> math.floor(k2)

0

如何使math.floor不对科学计数法的数字进行下限? 是否有一个规则以科学计数法表示数字(我想这是一定的界限)。

编辑 :

我首先以为math.floor函数会导致精度下降,但事实证明,第一个计算本身会失去计算的精度,这让我感到非常困惑,可以在这里轻松看到:

>>> 20685671025767659927959422028 / 2580360422

8016582043889239040

>>> 8016582043889239040 * 2580360422

20685671025767659370513274880

>>> 20685671025767659927959422028 - 20685671025767659370513274880

557446147148

>>> 557446147148 / 2580360422

216.0342184739958

>>> ##this is >1, meaning I lost quite a bit of information, and it was not due to the flooring

所以现在我的问题是如何获得除法的实际结果。 但是由于某种原因,我没有得到相同的结果。

编辑:我在这里找到了除法精度问题的简单解决方案: 如何在Python中管理大数除法? 显然//运算符返回一个int而不是float ,它对机器内存没有大小限制。

python integer函数_python - Floor函数消除了Integer科学符号,Python - 堆栈内存溢出相关推荐

  1. python floor函数_Python floor() 函数

    Python floor() 函数 描述 floor() 返回数字的下舍整数. 语法 以下是 floor() 方法的语法:import math math.floor( x ) 注意:floor()是 ...

  2. python小波分解与重构_python - 使用pyWavelets进行多级局部小波重构 - 堆栈内存溢出...

    我设法编写了自己的wrcoef函数版本,该版本似乎可以正常工作: import pywt import numpy as np def wrcoef(X, coef_type, coeffs, wav ...

  3. python合并数组输出重复项_python - 不同数组项的所有可能组合[重复] - 堆栈内存溢出...

    您需要笛卡尔积 . >>> arrays = [ ... [[1, 2], [3, 4]], ... [[4, 5], [5, 6]], ... [[7, 8], [8, 9]], ...

  4. python seaborn boxplot_python - 如何将文本框添加到Seaborn Boxplot? - 堆栈内存溢出

    我试图在框图中插入一个文本框,但是出了点问题. 让我们先绘制箱线图: import pandas as pd import matplotlib.pyplot as plt import seabor ...

  5. python打开xlsm,python - 使用python在excel xlsm上写数组时拒绝Errno 13权限 - 堆栈内存溢出...

    我正在尝试通过以下公式将协方差矩阵粘贴到现有xlsm文件上,但是它不起作用. Cov Matrix是一个数组. 你能帮我吗? Error I get is: [Errno 13] Permission ...

  6. aarch64 poky linux,python - aarch64-poky-linux-gcc:错误::没有这样的文件或目录 - 堆栈内存溢出...

    我正在尝试将mlpack包含到我的yocto版本中. 没有启用python绑定,我的食谱成功烘焙. 但是在构建python绑定时,出现以下错误: aarch64-poky-linux-gcc -mar ...

  7. excel函数实战(CEILING函数,ROUND函数,FLOOR函数的语法)

    CEILING函数:CEILING函数用于将数字向上取整,即向远离零的方向取整. 语法:CEILING(number, significance) 其中,number是要向上取整的数,signific ...

  8. SQLSERVER中的 CEILING函数和 FLOOR函数

    SQLSERVER中的 CEILING函数和 FLOOR函数 --SQLSERVER中的 CEILING函数和 FLOOR函数--ceiling函数返回大于或等于所给数字表达式的最小整数.--floo ...

  9. SQLServer CEILING函数和 FLOOR函数

    sqlserver中的 CEILING函数和 FLOOR函数: ceiling函数返回大于或等于所给数字表达式的最小整数. floor函数返回小于或等于所给数字表达式的最大整数. 比如: cellin ...

  10. python中floor的用法_Python floor() 函数 - Python 教程 - 自强学堂

    Python floor() 函数 描述 floor() 返回数字的下舍整数. 语法 以下是 floor() 方法的语法:import math math.floor( x ) 注意:floor()是 ...

最新文章

  1. 测试ATS对某个特定域名下文件处理效果的方法
  2. js async await 终极异步解决方案
  3. Python 有序字典(OrderedDict)与 普通字典(dict)
  4. 如何写一个数据库中间件以及需要准备的知识储备
  5. 提供基于transformer的pipeline、准确率达SOTA
  6. java压栈重复字符串_Java 实例 – 压栈出栈的方法实现字符串反转
  7. 启航RPA卓越生态联盟,艺赛旗打造最强RPA产业生态圈...
  8. selenium隐式等待
  9. AngularJS 技术总结
  10. synchronize——对象锁和类锁
  11. vue全局引入scss文件(推荐)
  12. 2016年计算机一级excel试题及答案,2016年计算机一级试题加答案
  13. 基于STM32的DMX512开发
  14. 2021年9月份最新数据库排行榜出炉
  15. 如何查看自己的外网 IP 地址
  16. [乡土民间故事_徐苟三传奇]第二回_巧答言长工骂财主
  17. python求共轭复数_python怎么print出共轭复数
  18. 计算机软件工作室起名'',半永久工作室名字大全
  19. 服务器安装嵌入式系统,嵌入式设备连接云服务器
  20. 奉劝那些刚参加工作的学弟学妹们:要想进大厂,这些并发编程知识是你必须要掌握的!完整学习路线!!(建议收藏)

热门文章

  1. 【图像隐写】基于matlab LBP数字水印嵌入攻击提取【含Matlab源码 1672期】
  2. 【水果识别】基于matlab GUI柑橘质量检测及分级系统【含Matlab源码 738期】
  3. 【图像融合】基于matlab GUI小波变换可见光与红外光图像融合(带面板)【含Matlab源码 701期】
  4. 【运动学】基于matlab GUI最小半径泊车方法仿真【含Matlab源码 690期】
  5. pycharm:修改项目的python版本
  6. 2018年第九届 蓝桥杯 java B组 部分题解
  7. python程序编写应注意哪些问题_Python程序员鲜为人知但你应该知道的17个问题
  8. 从Android到React Native开发(三、自定义原生控件支持)
  9. UVA 10733 - The Colored Cubes(Ploya)
  10. linux下tab作用的描述?