在Golang中,当float64变量首先转换为float32,然后转换为float64时,它的值似乎会发生变化。
a := -8888.95
fmt.Println(a) // -8888.95
fmt.Println(float32(a)) // -8888.95
fmt.Println(float64(float32(a))) // -8888.9501953125我怎样才能让它保持不变?
发布于 2021-04-18 13:40:30
你描述这个问题的方式可能是误导的。
当将float32转换为float64时,精度不会丢失;相反,当从float64转换为float32时,精度会丢失。
那么,在从float64转换到float32时,如何避免丢失精度呢?你不能。这个任务是不可能的,原因很容易理解:
package main
import (
"fmt"
)
func main() {
a := -8888.95
fmt.Printf("%.20f\n", a)
fmt.Printf("%.20f\n", float32(a))
fmt.Printf("%.20f\n", float64(float32(a)))
}调整您的程序以显示每个值的更精确的输出,您将看到精度损失的确切位置:
-8888.95000000000072759576
-8888.95019531250000000000
-8888.95019531250000000000也就是说,在float32转换之后(正如预期的那样)。
同样值得注意的是,无论是float64还是float32都不能准确地表示您的值-8888.95。如果你把这个数字转换成分数,你会得到-177779/20。注意分母20,20的素数分解是2*2* 5。
如果你将这个过程应用于一个数字,并且分母的素因式分解包含任何不是2的因子,那么你可以放心,这个数字绝对不能精确地表示为二进制浮点形式。您可能会发现,任何数字通过此测试的概率都非常低。
https://stackoverflow.com/questions/67145364
复制相似问题