C#的String转换成float防止精度丢失问题的解决

 更新时间:2023年07月12日 09:30:07   作者:苍狼王unity学院  
这篇文章主要介绍了C#的String转换成float防止精度丢失问题的解决方案,具有很好的参考价值,希望对大家有所帮助。如有错误或未考虑完全的地方,望不吝赐教

C#的String转换成float防止精度丢失

精度问题

float x = float.Parse(s);

在提交小数的时候会出现精度丢失问题,

举个例子:

unity中的Position中的x,y,z为2.073282,-1.106536,转换成float肯定会丢失值

  • float:浮点型,含字节数为4,32bit,数值范围为-3.4E38~3.4E38(7个有效位)
  • double:双精度实型,含字节数为8,64bit数值范围-1.7E308~1.7E308(15个有效位)
  • decimal:数字型,128bit,28个有效位 float  与计算机中数值表示方法有关,不是准确数据. decimal 是准确数据,不会出现这个问题

解决办法

2cf9ee044a2c485fac417f40ed0b97b4.jpg

Unity C# String转Float

//方法1
float f1 = Convert.ToSingle(s);
//方法2
float f2;
if (!float.TryParse(s, out f2))
{
     Console.WriteLine("无法转换!");
}

总结

以上为个人经验,希望能给大家一个参考,也希望大家多多支持脚本之家。

相关文章

  • 基于C#实现串口通信

    基于C#实现串口通信

    这篇文章主要为大家详细介绍了基于C#实现串口通信,文中示例代码介绍的非常详细,具有一定的参考价值,感兴趣的小伙伴们可以参考一下
    2022-02-02
  • C#实现HTML和UBB互相转换的方法

    C#实现HTML和UBB互相转换的方法

    这篇文章主要介绍了C#实现HTML和UBB互相转换的方法,通过两个自定义函数DoHtmlToUB与ubbtohtml来实现HTML代码与ubb代码间的相互转换,是非常实用的技巧,需要的朋友可以参考下
    2014-11-11
  • HttpHelper类的调用方法详解

    HttpHelper类的调用方法详解

    这篇文章主要为大家详细介绍了HttpHelper类的使用方法,HttpHelper类及调用,具有一定的参考价值,感兴趣的小伙伴们可以参考一下
    2017-06-06
  • C#实现的算24点游戏算法实例分析

    C#实现的算24点游戏算法实例分析

    这篇文章主要介绍了C#实现的算24点游戏算法,实例分析了算24点游戏相关的运算技巧,具有一定参考借鉴价值,需要的朋友可以参考下
    2015-04-04
  • c# 自定义泛型链表类的详解

    c# 自定义泛型链表类的详解

    本篇文章是对c#中自定义泛型链表类进行了详细的分析介绍,需要的朋友参考下
    2013-05-05
  • C#实现推送钉钉消息的方法示例

    C#实现推送钉钉消息的方法示例

    这篇文章主要介绍了C#实现推送钉钉消息的方法,结合实例形式分析了C#使用钉钉API实现消息推送的相关操作技巧与注意事项,需要的朋友可以参考下
    2019-02-02
  • 使用C#实现一个简单的绘图工具

    使用C#实现一个简单的绘图工具

    这篇文章主要为大家详细介绍了如何使用C#开发的简单绘图工具,可以将签名简单绘图后的效果以图片的形式导出,有需要的小伙伴可以跟随小编一起学习一下
    2024-02-02
  • Unity实现3D射箭小游戏

    Unity实现3D射箭小游戏

    这篇文章主要为大家详细介绍了Unity实现3D射箭小游戏,文中示例代码介绍的非常详细,具有一定的参考价值,感兴趣的小伙伴们可以参考一下
    2021-04-04
  • Visual Stodio2022中没有mysql.dll的解决办法

    Visual Stodio2022中没有mysql.dll的解决办法

    这篇文章介绍了Visual Stodio2022中没有mysql.dll的解决办法,对大家的学习或工作具有一定的参考借鉴价值,需要的朋友可以参考下
    2021-12-12
  • C#简单实现在网页上发邮件的案例

    C#简单实现在网页上发邮件的案例

    本文分享一个C#利用SMTP发送邮件的案例,提供了前后台代码,方便大家学习。
    2016-03-03

最新评论