python中精确的浮点数运算示例
更新时间：2023年07月25日 15:49:00 作者：weapon
这篇文章主要为大家介绍了python中精确的浮点数运算示例详解，有需要的朋友可以借鉴参考下，希望能够有所帮助，祝大家多多进步，早日升职加薪
起步
浮点数的一个普遍的问题是它们不能精确的表示十进制数。
>>> a = 4.2 >>> b = 2.1 >>> a + b 6.300000000000001 >>> (a + b) == 6.3 False >>>
这是由于底层 CPU 和 IEEE 754 标准通过自己的浮点单位去执行算术时的特征。看似有穷的小数, 在计算机的二进制表示里却是无穷的。
一般情况下，这一点点的小误差是允许存在的。如果不能容忍这种误差（比如金融领域），那么就要考虑用一些途径来解决这个问题了。
Decimal
使用这个模块不会出现任何小误差。
>>> from decimal import Decimal
>>> a = Decimal('4.2')
>>> b = Decimal('2.1')
>>> a + b
Decimal('6.3')
>>> print(a + b)
6.3
>>> (a + b) == Decimal('6.3')
True尽管代码看起来比较奇怪，使用字符串来表示数字，但是 Decimal 支持所有常用的数学运算。 decimal 模块允许你控制计算的每一方面，包括数字位数和四舍五入。在这样做之前，需要创建一个临时上下文环境来改变这种设定：
>>> from decimal import Decimal, localcontext
>>> a = Decimal('1.3')
>>> b = Decimal('1.7')
>>> print(a / b)
0.7647058823529411764705882353
>>> with localcontext() as ctx:
... ctx.prec = 3
... print(a / b)
...
0.765
>>> with localcontext() as ctx:
... ctx.prec = 50
... print(a / b)
...
0.76470588235294117647058823529411764705882352941176
>>>由于 Decimal 的高精度数字自然也就用字符串来做展示和中转。
总结
总的来说，当涉及金融领域时，哪怕是一点小小的误差在计算过程中都是不允许的。因此 decimal 模块为解决这类问题提供了方法。
以上就是python中精确的浮点数运算示例的详细内容，更多关于python浮点数运算的资料请关注脚本之家其它相关文章！
相关文章
今天小编就为大家分享一篇基于Python数据结构之递归与回溯搜索，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧2020-02-02
在本篇文章里小编给大家整理的是一篇关于pygame实现方块动画实例讲解内容，以后需要的朋友们可以学习参考下。2021-12-12
目前公司使用 Jira 作为项目管理工具，在每一次迭代完成后的复盘会上，我们都需要针对本次迭代的 Bug 进行数据统计，以帮助管理层能更直观的了解研发的代码质量。本篇文章将介绍如何利用统计 Jira 数据，并进行可视化，需要的可以参考一下2022-07-07
这篇文章主要介绍了哈希（Hash）算法的相关资料，帮助大家更好的利用python处理密码，感兴趣的朋友可以了解下2020-09-09
这篇文章主要为大家详细介绍了Windows下Anaconda2安装NLTK的教程，具有一定的参考价值，感兴趣的小伙伴们可以参考一下2018-09-09
这篇文章主要为大家详细介绍了Python机器学习中实现距离和相似性计算的方法，文中的示例代码讲解详细，感兴趣的小伙伴可以跟随小编一起学习一下2023-03-03
时间戳是一个表示日期和时间的数值,通常以秒为单位,在Python中,获取时间戳是常见的任务,用于记录事件、计时操作、以及在各种应用中跟踪时间,本文将介绍多种获取时间戳的方法,包括标准库和第三方库的方式,并提供示例代码以帮助你更好地理解2023-11-11
pytest是Python的一种单元测试框架,可用来组织用例执行,用例断言,下面这篇文章主要给大家介绍了关于pytest接口自动化测试框架搭建的相关资料,文中通过实例代码介绍的非常详细,需要的朋友可以参考下2022-07-07
这篇文章主要介绍了使用Pytorch如何完成多分类问题，具有很好的参考价值，希望对大家有所帮助。如有错误或未考虑完全的地方，望不吝赐教2023-02-02
这篇文章主要介绍了python使用enumerate获取迭代元素下标,文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值,需要的朋友可以参考下2020-02-02
最新评论