golang 比较浮点数的大小方式
更新时间：2021年05月01日 14:50:29 作者：爱了李召君
这篇文章主要介绍了golang 比较浮点数的大小方式，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧
Golang浮点数比较和运算会出现误差。
浮点数储存至内存中时，2的-1、-2……-n次方不能精确的表示小数部分，所以再把这个数从地址中取出来进行计算就出现了偏差。
package main
import (
"errors"
"fmt"
"github.com/shopspring/decimal"
)
func FloatCompare(f1, f2 interface{}) (n int, err error) {
var f1Dec, f2Dec decimal.Decimal
switch f1.(type) {
case float64:
f1Dec = decimal.NewFromFloat(f1.(float64))
switch f2.(type) {
case float64:
f2Dec = decimal.NewFromFloat(f2.(float64))
case string:
f2Dec, err = decimal.NewFromString(f2.(string))
if err != nil {
return 2, err
}
default:
return 2, errors.New("FloatCompare() expecting to receive float64 or string")
}
case string:
f1Dec, err = decimal.NewFromString(f1.(string))
if err != nil {
return 2, err
}
switch f2.(type) {
case float64:
f2Dec = decimal.NewFromFloat(f2.(float64))
case string:
f2Dec, err = decimal.NewFromString(f2.(string))
if err != nil {
return 2, err
}
default:
return 2, errors.New("FloatCompare() expecting to receive float64 or string")
}
default:
return 2, errors.New("FloatCompare() expecting to receive float64 or string")
}
return f1Dec.Cmp(f2Dec), nil
}
func main() {
a:=4.0
b:="4"
fmt.Println(FloatCompare(a,b))
}
补充：golang 判断2个浮点型数字是否相同
判断2个浮点型数字是否相同的方法（假定整数部分+小数点后3位相同，则视为相同）
首先将2个浮点型数字转换为string数据
将float类型的数据转换成string
func Decimal(value float32) string {
value1 := fmt.Sprintf("%.6f", value)
return value1
}
比较两个由float型数据转化成string的数据是否相同是否相同
func Compare(val1,val2 string) bool {
indexf :=strings.Index(val1,".") + 4
indexs :=strings.Index(val2,".") + 4
if indexs != indexf {
return false
}else {
if val1[0:indexf] == val2[0:indexs]{
return true
}else {
return false
}
}
}
补充：golang 浮点数操作
数据库中金额元存储的数据结构使用的是decimal(15,2)，golang中使用float64保存变量内容。通过转换将 float64 -> int64
最简单的方式：int64(float64 * 100)，但是由于浮点数在计算机内的表示方式问题导致有一部分数据会出现问题，
例如：
var v = 67.6 fmt.Println(int64(v *100)) 输出结果为：6759
解决方法：
使用"github.com/shopspring/decimal"包，将对浮点数进行精确计算，例如：
f1 := decimal.NewFromFloat(v) f2 := decimal.NewFromFloat(100) fmt.Println(f1.Mul(f2).IntPart()) 输出结果为6760
以上为个人经验，希望能给大家一个参考，也希望大家多多支持脚本之家。如有错误或未考虑完全的地方，望不吝赐教。
相关文章
这篇文章主要介绍了基于gin的golang web开发之认证利器jwt,本文给大家介绍的非常详细，对大家的学习或工作具有一定的参考借鉴价值，需要的朋友可以参考下2020-12-12
这篇文章主要介绍了Go语言并发模型的2种编程方案,本文给出共享内存和通过通信的2种解决方案,并给出了实现代码,需要的朋友可以参考下2014-10-10
MatrixOne由Go语言所开发是一个新一代超融合异构数据库，致力于打造单一架构处理TP、AP、流计算等多种负载的极简大数据引擎，今天通过本文给大家介绍Go汇编语法和MatrixOne使用，感兴趣的朋友一起看看吧2022-04-04
Zap是我个人比较喜欢的日志库，是uber开源的，有较好的性能，在项目开发中，经常需要把程序运行过程中各种信息记录下来，有了详细的日志有助于问题排查和功能优化，这篇文章主要介绍了GoLang基于zap日志库的封装过程，想要详细了解可以参考下文2023-05-05
这篇文章主要介绍了Golang连接池的几种实现案例小结，文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习学习吧2020-03-03
在现代软件开发中,全球唯一标识符（UUID）在许多场景中发挥着重要的作用,本文主要介绍了Go uuid库的具体使用,具有一定的参考价值,感兴趣的可以了解一下2023-11-11
这篇文章主要为大家介绍了golang实现简单的tcp数据传输，有需要的朋友可以借鉴参考下，希望能够有所帮助，祝大家多多进步，早日升职加薪2022-12-12
本文将介绍首先为什么需要主动关闭goroutine，并介绍如何在Go语言中关闭goroutine的常见套路,包括传递终止信号和协程内部捕捉终止信号，之后，文章列举了需要主动关闭协程运行的常见场景，希望通过本文的介绍，读者能够掌握如何在适当的时候关闭goroutine2023-05-05
泛型是一种非常强大的编程技术,可以提高代码的复用性和可读性,通过泛型容器和类型参数化,Go语言中的泛型可以实现更加灵活和通用的编程,提高代码的复用性和可维护性,本文给大家介绍Go泛型的理解和使用,感兴趣的朋友一起看看吧2023-12-12
这篇文章主要介绍了golang 比较浮点数的大小方式，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧2021-05-05
最新评论