关于Python中浮点数精度处理的技巧总结
更新时间：2017年08月10日 09:14:39 作者：杰瑞26
双精度浮点数(double)是计算机使用的一种数据类型，使用 64 位（8字节） 来存储一个浮点数。下面这篇文章主要给大家总结介绍了关于Python中浮点数精度处理的技巧，需要的朋友可以参考借鉴，下面来一起看看吧。
前言
最近在使用Python的时候遇到浮点数运算，发现经常会碰到如下情况:
出现上面的情况，主要还是因浮点数在计算机中实际是以二进制保存的，有些数不精确。
比如说: 0.1是十进制，转化为二进制后它是个无限循环的数：
0.00011001100110011001100110011001100110011001100110011001100
而python是以双精度(64)位来保存浮点数，多余的位会被截掉，所以看到的是0.1，但在电脑上实际保存的已不是精确的0.1，参与运算后，也就有可能点误差,特别是金融邻域里面，对精度更是要求更高，如何在Python中获取特定位数精度值?
【方法一】利用round方法:
【方法二】利用decimal模块:
更多关于Python相关内容感兴趣的读者可查看本站专题：《Python数学运算技巧总结》、《Python数据结构与算法教程》、《Python函数使用技巧总结》、《Python字符串操作技巧汇总》、《Python入门与进阶经典教程》及《Python文件与目录操作技巧汇总》
总结
以上就是这篇文章的全部内容了，希望本文的内容对大家的学习或者工作能带来一定的帮助，如果有疑问大家可以留言交流，谢谢大家对脚本之家的支持。
相关文章
这篇文章的灵感来源于我玩游戏的时候，看见一个大佬在游戏里面建造了“还原方阵游戏”，就感觉很牛掰，就想着python不是有矩阵吗，可以还原一下呢，感兴趣的小伙伴可以了解一下2023-01-01
Python利用pandas和matplotlib实现绘制柱状折线图
这篇文章主要为大家详细介绍了如何使用 Python 中的 Pandas 和 Matplotlib 库创建一个柱状图与折线图结合的数据可视化图表,感兴趣的可以了解一下2023-11-11
经常出现在网页上的基于JavaScript实现的弹出框有三种，分别是 alert、confirm、prompt 。本文主要是学习如何利用selenium处理这三种弹出框，感兴趣的可以了解一下2022-06-06
这篇文章主要介绍了python特性语法之遍历、公共方法、引用的相关资料,需要的朋友可以参考下2018-08-08
浅谈Python中文件夹和python package包的区别
这篇文章主要介绍了浅谈Python中文件夹和python package包的区别，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧2020-06-06
这篇文章主要给大家介绍了关于python线程启动的四种方式,线程可以完成一定任务,可以和其它线程共享父进程的共享变量和部分环境,相互协作来完成任务,需要的朋友可以参考下2024-01-01
这篇文章主要介绍了详解matplotlib绘图样式(style)初探，文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习学习吧2021-02-02
Python使用PyGreSQL操作PostgreSQL数据库教程
这篇文章主要介绍了Python使用PyGreSQL操作PostgreSQL数据库,需要的朋友可以参考下2014-07-07
pytorch中tensor.expand()和tensor.expand_as()函数详解
今天小编就为大家分享一篇pytorch中tensor.expand()和tensor.expand_as()函数详解，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧2019-12-12
这篇文章主要为大家详细介绍了python链表的基础概念和基础用法，文中示例代码介绍的非常详细，具有一定的参考价值，感兴趣的小伙伴们可以参考一下2022-05-05
最新评论