python执行精确的小数计算方法
更新时间：2019年01月21日 09:56:06 作者：yangjiajia123456
今天小编就为大家分享一篇python执行精确的小数计算方法，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧
在进行浮点数计算时它们无法精确表达出所有的十进制小数位。
a = 4.1 b = 5.329 print(a+b) 9.428999999999998
这些误差实际上是底层CPU的浮点运算单元和IEEE754浮点数算数标准的一种“特性”。python的浮点数类型保存的数据采用的是原始表示形式，因此使用float实例时就不能避免这样的误差。
我们可以使用decimal模块避免这种操作(如果不介意牺牲下性能)：
from decimal import Decimal
a = Decimal('4.1')
b = Decimal('5.329')
print(a+b)
9.429
注意Decimal的参数必须是字符串，不能是浮点型，否则误差依旧存在。
decimal模块的主要功能是允许控制计算过程中的各个方面，包括数字的尾数和四舍五入。
from decimal import Decimal
from decimal import localcontext
a = Decimal(4.1)
b = Decimal(5.329)
print(a/b)
print('================')
with localcontext() as ctx:
ctx.prec = 3
print(a/b)
0.7693751172827922400071261708
================
0.769
getcontext也可以实现和localcontext一样的功能
from decimal import Decimal, getcontext a = Decimal(4.1) b = Decimal(5.329) getcontext().prec = 3 print(a/b) 0.769
误差我们不能完全消除，我们只能尽力优化算法，使得误差尽可能小。在大数和小数相加时要格外注意。
nums = [3.21e+18, 1, -3.21e+18]
print(sum(nums))
print('=========================')
import math
res = math.fsum(nums)
print(res)
0.0
=========================
1.0
以上这篇python执行精确的小数计算方法就是小编分享给大家的全部内容了，希望能给大家一个参考，也希望大家多多支持脚本之家。
相关文章
通常我们用 Python 绘制的都是二维平面图,但有时也需要绘制三维场景图,下面这篇文章主要给大家介绍了关于python绘制三维图的相关资料,文中通过图文介绍的非常详细,需要的朋友可以参考下2022-08-08
这篇文章主要介绍了python使用三角迭代计算圆周率PI的方法,实例分析了Python迭代算法的技巧,具有一定参考借鉴价值,需要的朋友可以参考下2015-03-03
今天小编就为大家分享一篇python docx 中页面的设置，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧2021-10-10
本文主要介绍了flask上使用websocket的方法示例，文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习学习吧2022-06-06
这篇文章主要为大家详细介绍了Python的ini配置文件，文中示例代码介绍的非常详细，具有一定的参考价值，感兴趣的小伙伴们可以参考一下，希望能够给你带来帮助2022-03-03
Pandas是一个基于 NumPy 的非常强大的开源数据处理库，它提供了高效、灵活和丰富的数据结构和数据分析工具，本文中，我们将学习如何使用Pandas来处理和分析数据，感兴趣的小伙伴跟着小编一起来看看吧2023-07-07
python中字典的健和值是一一对应的,如果对字典进行添加操作时如果健的名字相同,则当前健对应的值就会被覆盖,有时候我们想要一个健对应多个值的场景,这篇文章主要给大家介绍了关于Python字典一个key对应多个value几种实现方式的相关资料,需要的朋友可以参考下2023-10-10
python批量合成bilibili的m4s缓存文件为MP4格式 ver2.5
这篇文章主要介绍了python批量合成bilibili的m4s缓存文件为MP4格式 ver2.5的相关知识，本文给大家介绍的非常详细，对大家的学习或工作具有一定的参考借鉴价值，需要的朋友可以参考下2020-12-12
本文主要介绍了python绘制ROC曲线的示例代码，文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习学习吧2023-07-07
自然语言处理(NLP)是人工智能领域中一个重要的研究方向,而文本摘要作为NLP的一个重要应用,在信息爆炸的时代具有重要意义,下面我们来看看如何开发一个基于Python的文本摘要系统吧2025-04-04
最新评论