详解Python中的数据精度问题

 更新时间:2022年10月16日 16:03:17   作者:Mrwhite86  
这篇文章主要为大家详细介绍了Python中常常遇到的一些数据精度问题以及它们的解决方法,文中的示例代码讲解详细,感兴趣的小伙伴可以了解一下

一、python运算时精度问题

1.运行时精度问题

在Python中(其他语言中也存在这个问题,这是计算机采用二进制导致的),有时候由于二进制和十进制之间对应问题会导致数值的精度问题,比如无法用有限个二进制位完整地表示0.1,因为0.1转化为二进制之后位一个无限循环小数

print(1.1*2.2)

查看运行结果:

2.解决方案:添加方法

需要将整数部分与小数部分单独做处理可以解决

def multiple(m1, m2):
    r=''
    ## 若存在浮点型,则先转化为整数
    if type( m1 )==float or type( m2 )==float:
        print( "存在浮点数" )
        len_m1=len( str( m1 ).split( "." )[1] )
        len_m2=len( str( m2 ).split( "." )[1] )
        print( "m1的小数位:", len_m1 )
        print( "m2的小数位:", len_m2 )

        m1=int( 10**len_m1*m1 )
        m2=int( 10**len_m2*m2 )
        print( "m1化为整数:", m1 )
        print( "m2化为整数:", m2 )
        r=str( m1*m2 )
        print( "r:", r )

        l=len_m1+len_m2
        print( "l的总长度:", l )
        if l<len( r ):
            r_front=r[:-l]
            r_last=r[-l:]
            print( r_front, "-", r_last )
            r=r_front+"."+r_last
        else:
            r="0."+(l-len( r ))*"0"+r

    else:
        print( "不存在浮点数" )
        r=m1*m2
    return r

res = multiple(1.1,2.2)
print(res)

查看运行结果:

二、python四舍五入时精度问题

1.使用round与浮点数格式化时候的精度问题

归根结底是计算机存储浮点数的问题

a1 = 0.235
a2 = round(a1,2)
a3 = '%.2f' % a1
print(a2)
print(a3)

查看运行结果:

 2.解决方案,使用Decimal函数

需要将float转换为Decimal,该类可以通过接受字符串(务必是字符串)形式的浮点数实现相对精确的小数计算(减缓了精度误差,但没有消灭)

from decimal import Decimal

a1 = 0.235
a2 = Decimal(str(a1)).quantize(Decimal("0.00"))
a3 = '{:.2f}'.format(Decimal(str(a1)))
print(a2)
print(a3)

查看运行结果:

到此这篇关于详解Python中的数据精度问题的文章就介绍到这了,更多相关Python数据精度问题内容请搜索脚本之家以前的文章或继续浏览下面的相关文章希望大家以后多多支持脚本之家!

相关文章

  • 浅谈numpy中linspace的用法 (等差数列创建函数)

    浅谈numpy中linspace的用法 (等差数列创建函数)

    下面小编就为大家带来一篇浅谈numpy中linspace的用法 (等差数列创建函数)。小编觉得挺不错的,现在就分享给大家,也给大家做个参考。一起跟随小编过来看看吧
    2017-06-06
  • Python实现在某个数组中查找一个值的算法示例

    Python实现在某个数组中查找一个值的算法示例

    今天小编就为大家分享一篇Python实现在某个数组中查找一个值的算法示例,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧
    2018-06-06
  • Python使用matplotlib绘制三维图形示例

    Python使用matplotlib绘制三维图形示例

    这篇文章主要介绍了Python使用matplotlib绘制三维图形,结合实例形式分析了Python基于matplotlib库绘制三维图形的相关操作技巧与注意事项,需要的朋友可以参考下
    2018-08-08
  • python批量修改文件名的三种方法实例

    python批量修改文件名的三种方法实例

    同事最近有个需求,需要批量修改文件的名称,这篇文章主要给大家介绍了关于python批量修改文件名的三种方法,文中通过实例代码介绍的非常详细,需要的朋友可以参考下
    2022-05-05
  • python+pyqt5实现KFC点餐收银系统

    python+pyqt5实现KFC点餐收银系统

    这篇文章主要为大家详细介绍了python+pyqt5实现KFC点餐收银系统,具有一定的参考价值,感兴趣的小伙伴们可以参考一下
    2019-01-01
  • 实例讲解Python 迭代器与生成器

    实例讲解Python 迭代器与生成器

    这篇文章主要介绍了Python 迭代器与生成器的相关资料,文中示例代码非常详细,帮助大家更好的理解和学习,感兴趣的朋友可以了解下
    2020-07-07
  • 基于Keras中Conv1D和Conv2D的区别说明

    基于Keras中Conv1D和Conv2D的区别说明

    这篇文章主要介绍了基于Keras中Conv1D和Conv2D的区别说明,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧
    2020-06-06
  • 关于python的编码与解码decode()方法及zip()函数

    关于python的编码与解码decode()方法及zip()函数

    这篇文章主要介绍了关于python的编码与解码decode()方法及zip()函数,encode0 方法是字符串对象内置的一个实现方法用于实现编码操作,需要的朋友可以参考下
    2023-04-04
  • 详解python深浅拷贝区别

    详解python深浅拷贝区别

    在本篇文章里小编给大家整理了关于python深浅拷贝区别的相关知识点总结,有兴趣的朋友们可以参考下。
    2019-06-06
  • 基于PyTorch实现EdgeCNN的实战教程

    基于PyTorch实现EdgeCNN的实战教程

    本文我们将使用PyTorch来简易实现一个EdgeCNN,不使用PyG库,让新手可以理解如何PyTorch来搭建一个简易的图网络实例demo,感兴趣的朋友跟随小编一起看看吧
    2023-02-02

最新评论