首页
学习
活动
专区
圈层
工具
发布
社区首页 >问答首页 >使用ruby printf-format-specifier的奇怪舍入问题

使用ruby printf-format-specifier的奇怪舍入问题
EN

Stack Overflow用户
提问于 2009-11-30 19:23:25
回答 4查看 1K关注 0票数 1

有没有人对这个有什么想法?

当我们运行时:

printf("%.0f", 40.5)

在windows机器上,返回值是"41“,但在我们的生产ubuntu服务器上,我们得到的是"40”。

EN

回答 4

Stack Overflow用户

回答已采纳

发布于 2009-12-01 05:58:16

看起来像是一个简单的binary floating point imprecision案例。在一台机器上,你得到40.499999999,四舍五入为40;在另一台机器上,你得到40.500000000001,四舍五入为41。

如果你需要精确的数字,那么你不应该使用二进制浮点数。可以使用定点小数,也可以使用十进制浮点。

编辑:你会说,你正在使用BigDecimal。为什么不先使用#round,然后使用#to_i来避免转换为浮点型呢?(或者#floor#ceil而不是#round...还不清楚你的目标是什么。)

代码语言:javascript
复制
b = BigDecimal.new("40.5")
print b.round.to_i  # => 41
票数 0
EN

Stack Overflow用户

发布于 2009-11-30 19:44:13

改用.round怎么样?Rails甚至对其进行了增强,以便您可以指定精度(see API doc)。

票数 2
EN

Stack Overflow用户

发布于 2010-02-14 16:42:42

请改用%.0g

票数 1
EN
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接:

https://stackoverflow.com/questions/1819250

复制
相关文章

相似问题

领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档