一分耕耘,一分收获!既然都打开这篇《go中的步数计数》,就坚持看下去,学下去吧!本文主要会给大家讲到等等知识点,如果大家对本文有好的建议或者看到有不足之处,非常欢迎大家积极提出!在后续文章我会继续更新Golang相关的内容,希望对大家都有所帮助!
问题内容我正在尝试解决以下问题,但没有很好的解决方案。
我有以下 float64 0.123456789 并希望以以下步长进行计数:0.0001
所以结果应该是 0.123400000
我当前的解决方案非常丑陋并且效果不佳:
var waletMoney float64
var stepSize float64
var tmpMoney float64
waletMoney = 0.123456789
stepSize = 0.0001
tmpMoney = 0.0000000
loop := true
for loop {
tmpMoney = tmpMoney + stepSize
// fmt.Println(tmpMoney)
if tmpMoney+stepSize >= waletMoney {
loop = false
}
}
fmt.Println(tmpMoney)
// result is 0.12340000000000251 but should be 0.123400000 or 0.1234
https://play.golang.org/p/vm-3qz05qor
解决方案
package main
import (
"fmt"
)
func main() {
var waletmoney float64
var stepsize float64
var tmpmoney float64
waletmoney = 0.123456789
stepsize = 0.00001
tmpmoney = float64(int(waletmoney /stepsize)) *stepsize
fmt.println(tmpmoney)
}
问题是 float64
使用 IEEE 754 表示形式,无法准确表示 0.0001
。重复相加与使用十进制(纸和铅笔)算术进行相加不同。
为了至少避免多次舍入误差,您可以做的一件事是使用计数器和乘法,而不是重复加法,否则会累积舍入误差。
tmpMoney = 0.0
loop := true
count := 0
for loop {
tmpMoney = stepSize * float64(count)
// fmt.Println(tmpMoney)
if tmpMoney + stepSize >= waletMoney {
loop = false
}
count += 1
}
文中关于的知识介绍,希望对你的学习有所帮助!若是受益匪浅,那就动动鼠标收藏这篇《go中的步数计数》文章吧,也可关注编程网公众号了解相关技术文章。