C#的String转换成float防止精度丢失问题的解决

 更新时间:2023年07月12日 09:30:07   作者:苍狼王unity学院  
这篇文章主要介绍了C#的String转换成float防止精度丢失问题的解决方案,具有很好的参考价值,希望对大家有所帮助。如有错误或未考虑完全的地方,望不吝赐教

C#的String转换成float防止精度丢失

精度问题

float x = float.Parse(s);

在提交小数的时候会出现精度丢失问题,

举个例子:

unity中的Position中的x,y,z为2.073282,-1.106536,转换成float肯定会丢失值

  • float:浮点型,含字节数为4,32bit,数值范围为-3.4E38~3.4E38(7个有效位)
  • double:双精度实型,含字节数为8,64bit数值范围-1.7E308~1.7E308(15个有效位)
  • decimal:数字型,128bit,28个有效位 float  与计算机中数值表示方法有关,不是准确数据. decimal 是准确数据,不会出现这个问题

解决办法

2cf9ee044a2c485fac417f40ed0b97b4.jpg

Unity C# String转Float

//方法1
float f1 = Convert.ToSingle(s);
//方法2
float f2;
if (!float.TryParse(s, out f2))
{
     Console.WriteLine("无法转换!");
}

总结

以上为个人经验,希望能给大家一个参考,也希望大家多多支持脚本之家。

相关文章

  • C#创建背景色渐变窗体的方法实例

    C#创建背景色渐变窗体的方法实例

    在窗体设计时,可以通过设置窗体的BackColor属性来改变窗口的背景颜色,但是该属性改变后整个窗体的客户区都会变成这种颜色,这样显得非常单调,本文给大家介绍了C#创建背景色渐变窗体的方法实例,需要的朋友可以参考下
    2024-04-04
  • c# 开发文字识别软件

    c# 开发文字识别软件

    这篇文章主要介绍了c# 开发文字识别软件的方法,帮助大家更好的利用c#进行文字识别,感兴趣的朋友可以了解下
    2020-12-12
  • 基于运算符重载的那些事

    基于运算符重载的那些事

    本篇文章是对关于运算符重载的介绍引用了百科里的一个有趣的解释。需要的朋友参考下
    2013-05-05
  • C#实现XSL转换的方法

    C#实现XSL转换的方法

    这篇文章主要介绍了C#实现XSL转换的方法,结合实例分析了C#执行XSL转换XML的相关技巧,具有一定参考借鉴价值,需要的朋友可以参考下
    2015-11-11
  • C# Dictionary和SortedDictionary的简介

    C# Dictionary和SortedDictionary的简介

    今天小编就为大家分享一篇关于C# Dictionary和SortedDictionary的简介,小编觉得内容挺不错的,现在分享给大家,具有很好的参考价值,需要的朋友一起跟随小编来看看吧
    2018-10-10
  • Unity实现游戏卡牌滚动效果

    Unity实现游戏卡牌滚动效果

    这篇文章主要为大家详细介绍了Unity实现游戏卡牌滚动效果,文中示例代码介绍的非常详细,具有一定的参考价值,感兴趣的小伙伴们可以参考一下
    2019-02-02
  • C#文件分割的方法

    C#文件分割的方法

    这篇文章主要介绍了C#文件分割的方法,针对小于等于64M文件和大于64M文件两种情况分析了C#文件分割的实现技巧,需要的朋友可以参考下
    2015-07-07
  • C# 多线程学习之基础入门

    C# 多线程学习之基础入门

    线程(英语:thread)是操作系统能够进行运算调度的最小单位。它被包含在进程之中,是进程中的实际运作单位。今天小编就带大家了解一下C#中的多线程,快来学习一下吧
    2021-12-12
  • C#启动和停止windows服务的实例代码

    C#启动和停止windows服务的实例代码

    这篇文章介绍了C#启动和停止windows服务的实例代码,有需要的朋友可以参考一下
    2013-09-09
  • C#中利用断点操作调试程序的步骤详解

    C#中利用断点操作调试程序的步骤详解

    所谓断点调试就是检测执行路径和数据是否正确,中断游戏运行在线调试,下面这篇文章主要给大家介绍了关于C#中利用断点操作调试程序的相关资料,需要的朋友可以参考借鉴,下面随着小编来一起学习学习吧。
    2017-12-12

最新评论