关于浮点数精度再各个编程语言需要注意点

栏目: Go · 发布时间: 6年前

内容简介：浮点数保留N位 (2位)，为货币类场景常用选项。比较合理的做法是使用分来存储(int)，然后前端在进行转换。否则你就需要关心浮点数自动四拾伍入。分清自己使用场景选择自己的合适的方法。已知 (mysql（douboule10,2），golang "%.2f"，python "%.2f" )

浮点数保留N位 (2位)，为货币类场景常用选项。比较合理的做法是使用分来存储(int)，然后前端在进行转换。否则你就需要关心浮点数自动四拾伍入。分清自己使用场景选择自己的合适的方法。已知 (mysql（douboule10,2），golang "%.2f"，python "%.2f" )

package main

import (
    "fmt"
    "math"
)

func main() {

    //四拾伍入了
    fmt.Printf("%.2f\n", 1.244444)
    fmt.Printf("%.2f\n", 1.245444) 
    
    //自己实现四拾伍入
    fmt.Printf("%.2f\n", math.Trunc(1.244444*1e2+)*1e-2)
    fmt.Printf("%.2f\n", math.Trunc(1.245444*1e2)*1e-2)
    
    //抛弃掉后面位数
    fmt.Printf("%.2f\n", math.Trunc(1.244444*1e2)*1e-2)
    fmt.Printf("%.2f\n", math.Trunc(1.245444*1e2)*1e-2)
}

golang执行结果.png

>>> "%.2f" % 1.24444
'1.24'
>>> "%.2f" % 1.24555
'1.25'

以上所述就是小编给大家介绍的《关于浮点数精度再各个编程语言需要注意点》，希望对大家有所帮助，如果大家有任何疑问请给我留言，小编会及时回复大家的。在此也非常感谢大家对码农网的支持！

查看所有标签

猜你喜欢:

本站部分资源来源于网络，本站转载出于传递更多信息之目的，版权归原作者或者来源机构所有，如转载稿涉及版权问题，请联系我们。

码农书籍

互联网思想十讲

段永朝 / 商务印书馆 / 2014-10 / 68.00

本书是作者为北京大学新闻与传播学院硕士生开设的《互联网前沿思想》课程的讲义。作者力图从技术、经济和社会的角度，在大尺度上观察互联网究竟根植于什么样的文化土壤。作者选择了复杂性、社会网络分析、公共空间这三个维度展开分析，为读者呈现出了脱胎于工业时代的互联网继承了哪些思想，并对哪些思想做出了彻底的颠覆。一起来看看《互联网思想十讲》这本书的介绍吧!

码农工具

RGB转16进制工具

RGB HEX 互转工具

SHA 加密

SHA 加密工具