浅谈c# 浮点数计算
更新时间：2017年09月24日 15:39:46 作者：大稳·杨
本文通过具体的示例给大家演示了下C#中浮点数运算所遇到的问题及解决方法，有需要的小伙伴可以参考下
给大家看个计算题，看看大家的算术能力。
0.1 +0.1 +0.1 - 0.3 等于几？
大家可能会说这么简单的问题，是不是看不起我？肯定等于0啊。
如果大家直接算的是没有问题的，但是如果用计算机呢？
见证奇迹的时刻到了，看代码：
void Main()
{
var f = 0.1 +0.1 +0.1 -0.3;
Console.WriteLine("f=={0}",f);
}
运行结果：
这是因为计算机的精度的问题，在计算机的内部存储和运算的精度缺失等问题，我解释的可能不太明白，不过，大家可以用下面的方案进行解决：
void Main()
{
//var f = 0.1 +0.1 +0.1 -0.3;
//Console.WriteLine("f=={0}",f);
var f1 = new Decimal(0.1) + new Decimal(0.1) + new Decimal(0.1) - new Decimal(0.3);
Console.WriteLine("f1 == {0}",f1);
}
运行结果：
这样就是正常的运算结果了。
啦啦啦！！！！
您可能感兴趣的文章:
相关文章
这篇文章主要为大家详细介绍了Unity实现图片水印生成，文中示例代码介绍的非常详细，具有一定的参考价值，感兴趣的小伙伴们可以参考一下2020-04-04
相信大家在使用 HttpClient 的时候遇到过 远程主机强迫关闭了一个现有的连接 的错误。本文就来说说它的解决方法以及HttpClient的正确用法，需要的可以参考一下2022-11-11
这篇文章主要介绍了C#如何用ThoughtWorks生成二维码，文中讲解非常细致，帮助大家更好的理解和学习，感兴趣的朋友可以了解下2020-08-08
这篇文章介绍了C#定时任务框架Quartz.NET的用法，文中通过示例代码介绍的非常详细。对大家的学习或工作具有一定的参考借鉴价值，需要的朋友可以参考下2022-02-02
本文主要介绍了c#字符串中某个词出现的次数及索引,需要的朋友可以参考下2014-02-02
这篇文章主要介绍了C#反色处理及其效率问题分析,实例分析了C#反色处理问题的技巧及相关效率问题,需要的朋友可以参考下2015-06-06
C# System.TypeInitializationException 异常处理方案
这篇文章主要介绍了C# System.TypeInitializationException 异常处理方案，具有很好的参考价值，希望对大家有所帮助。如有错误或未考虑完全的地方，望不吝赐教2023-02-02
本文主要介绍了C#实现分治算法求解股票问题，文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习学习吧2022-04-04
这篇文章主要介绍了详解C# 利用反射根据类名创建类的实例对象，“反射”其实就是利用程序集的元数据信息，感兴趣的小伙伴们可以参考一下。2017-03-03
这篇文章主要为大家详细介绍了C# TextBox数据绑定的方法，具有一定的参考价值，感兴趣的小伙伴们可以参考一下2018-09-09
最新评论