余滴滴 A Programmer 坚持是一种刻意的练习,
不断寻找缺点突破缺点的过程,而不是重复做某件事情。
  • home /
  • Archive /
  • Categories /
  • Resume /
  • Tags /
  • Updates /
Home

为什么会精度丢失?

8 OCT 2021 • 1 min read

背景


f := float64(2.9) + float64(1.11) - float64(4.01) fmt.Println(f)

线上结果是float64(-4.440892098500626e-16),本地是0

原因

和编译器有关系

同样的操作 你在mac下面和linux下面可能数据不一样

#

处理方案

附录

1.为什么会精度丢失?教你看懂 IEEE-754

原创文章转载请注明出处: 为什么会精度丢失?
© 2025 余滴滴. Powered by Jekyll, leonids theme made with