详解Python中的数据精度问题

 更新时间:2022年10月16日 16:03:17   作者:Mrwhite86  
这篇文章主要为大家详细介绍了Python中常常遇到的一些数据精度问题以及它们的解决方法,文中的示例代码讲解详细,感兴趣的小伙伴可以了解一下

一、python运算时精度问题

1.运行时精度问题

在Python中(其他语言中也存在这个问题,这是计算机采用二进制导致的),有时候由于二进制和十进制之间对应问题会导致数值的精度问题,比如无法用有限个二进制位完整地表示0.1,因为0.1转化为二进制之后位一个无限循环小数

print(1.1*2.2)

查看运行结果:

2.解决方案:添加方法

需要将整数部分与小数部分单独做处理可以解决

def multiple(m1, m2):
    r=''
    ## 若存在浮点型,则先转化为整数
    if type( m1 )==float or type( m2 )==float:
        print( "存在浮点数" )
        len_m1=len( str( m1 ).split( "." )[1] )
        len_m2=len( str( m2 ).split( "." )[1] )
        print( "m1的小数位:", len_m1 )
        print( "m2的小数位:", len_m2 )

        m1=int( 10**len_m1*m1 )
        m2=int( 10**len_m2*m2 )
        print( "m1化为整数:", m1 )
        print( "m2化为整数:", m2 )
        r=str( m1*m2 )
        print( "r:", r )

        l=len_m1+len_m2
        print( "l的总长度:", l )
        if l<len( r ):
            r_front=r[:-l]
            r_last=r[-l:]
            print( r_front, "-", r_last )
            r=r_front+"."+r_last
        else:
            r="0."+(l-len( r ))*"0"+r

    else:
        print( "不存在浮点数" )
        r=m1*m2
    return r

res = multiple(1.1,2.2)
print(res)

查看运行结果:

二、python四舍五入时精度问题

1.使用round与浮点数格式化时候的精度问题

归根结底是计算机存储浮点数的问题

a1 = 0.235
a2 = round(a1,2)
a3 = '%.2f' % a1
print(a2)
print(a3)

查看运行结果:

 2.解决方案,使用Decimal函数

需要将float转换为Decimal,该类可以通过接受字符串(务必是字符串)形式的浮点数实现相对精确的小数计算(减缓了精度误差,但没有消灭)

from decimal import Decimal

a1 = 0.235
a2 = Decimal(str(a1)).quantize(Decimal("0.00"))
a3 = '{:.2f}'.format(Decimal(str(a1)))
print(a2)
print(a3)

查看运行结果:

到此这篇关于详解Python中的数据精度问题的文章就介绍到这了,更多相关Python数据精度问题内容请搜索脚本之家以前的文章或继续浏览下面的相关文章希望大家以后多多支持脚本之家!

相关文章

  • 简单谈谈Python中的元祖(Tuple)和字典(Dict)

    简单谈谈Python中的元祖(Tuple)和字典(Dict)

    这篇文章主要介绍了关于Python中元祖(Tuple)和字典(Dict)的相关资料,文中通过示例代码介绍的非常详细,相信对大家具有一定的参考价值,需要的朋友们下面来一起看看吧。
    2017-04-04
  • Python实现从SQL型数据库读写dataframe型数据的方法【基于pandas】

    Python实现从SQL型数据库读写dataframe型数据的方法【基于pandas】

    这篇文章主要介绍了Python实现从SQL型数据库读写dataframe型数据的方法,涉及Python基于pandas的数据库读写相关操作技巧,需要的朋友可以参考下
    2019-03-03
  • Python+Selenium实现在Geoserver批量发布Mongo矢量数据

    Python+Selenium实现在Geoserver批量发布Mongo矢量数据

    这篇文章主要为大家详细介绍了如何利用Python+Selenium实现在 Geoserver批量发布来自Mongo中的矢量数据,文中的示例代码讲解详细,感兴趣的小伙伴可以了解一下
    2022-07-07
  • python Gunicorn服务器使用方法详解

    python Gunicorn服务器使用方法详解

    这篇文章主要介绍了python Gunicorn服务器使用方法详解,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友可以参考下
    2019-07-07
  • Python中的变量、运算符与流程控制

    Python中的变量、运算符与流程控制

    本文详细讲解了Python中的变量、运算符与流程控制,文中通过示例代码介绍的非常详细。对大家的学习或工作具有一定的参考借鉴价值,需要的朋友可以参考下
    2022-05-05
  • Python OS模块实例详解

    Python OS模块实例详解

    这篇文章主要介绍了Python OS模块,结合实例形式总结分析了Python使用OS解析文件路径、判断文件、目录等相关操作技巧,需要的朋友可以参考下
    2019-04-04
  • Python常用标准库之os模块功能

    Python常用标准库之os模块功能

    这篇文章主要介绍了Python常用标准库之os模块功能,os模块的主要功能有系统相关、目录及文件操作、执行命令和管理进程,其中的进程管理功能主要是Linux相关的,此处不做讨论,对Python标准库os相关知识感兴趣的朋友跟随小编一起看看吧
    2022-11-11
  • Python 统计列表中重复元素的个数并返回其索引值的实现方法

    Python 统计列表中重复元素的个数并返回其索引值的实现方法

    这篇文章主要介绍了Python 统计列表中重复元素的个数并返回其索引值,本文给大家介绍的非常详细,对大家的学习或工作具有一定的参考借鉴价值,需要的朋友可以参考下
    2021-05-05
  • 编写简单的Python程序来判断文本的语种

    编写简单的Python程序来判断文本的语种

    这篇文章主要介绍了编写简单的Python程序来判断语种,代码非常简单,主要用到了langid工具包,需要的朋友可以参考下
    2015-04-04
  • 如何利用pygame实现简单的五子棋游戏

    如何利用pygame实现简单的五子棋游戏

    这篇文章主要给大家介绍了关于如何利用pygame实现简单的五子棋游戏的相关资料,文中通过示例代码介绍的非常详细,对大家学习或者使用pygame具有一定的参考学习价值,需要的朋友们下面来一起学习学习吧
    2019-12-12

最新评论