有没有人对这个有什么想法?
当我们运行时:
printf("%.0f", 40.5)
在windows机器上,返回值是"41“,但在我们的生产ubuntu服务器上,我们得到的是"40”。
发布于 2009-12-01 05:58:16
看起来像是一个简单的binary floating point imprecision案例。在一台机器上,你得到40.499999999,四舍五入为40;在另一台机器上,你得到40.500000000001,四舍五入为41。
如果你需要精确的数字,那么你不应该使用二进制浮点数。可以使用定点小数,也可以使用十进制浮点。
编辑:你会说,你正在使用BigDecimal。为什么不先使用#round,然后使用#to_i来避免转换为浮点型呢?(或者#floor或#ceil而不是#round...还不清楚你的目标是什么。)
b = BigDecimal.new("40.5")
print b.round.to_i # => 41发布于 2009-11-30 19:44:13
改用.round怎么样?Rails甚至对其进行了增强,以便您可以指定精度(see API doc)。
发布于 2010-02-14 16:42:42
请改用%.0g
https://stackoverflow.com/questions/1819250
复制相似问题