首页
学习
活动
专区
圈层
工具
发布
社区首页 >问答首页 >ruby-1.9.2的附加错误

ruby-1.9.2的附加错误
EN

Stack Overflow用户
提问于 2011-03-24 13:53:37
回答 1查看 857关注 0票数 7

当我添加0.1+0.2时,我得到的是0.30000000000000004,但当我在ruby 1.8.7中添加相同的数字时,我得到的是正确的答案0.3。我通过四舍五入获得0.3,但我只想通过添加0.10.2来获得ruby 1.9.2上的0.3

EN

回答 1

Stack Overflow用户

发布于 2011-03-24 14:02:09

你的老红宝石骗了你:

代码语言:javascript
复制
$ ruby -v
ruby 1.8.7 (2010-06-23 patchlevel 299) [x86_64-linux]
$ irb
irb(main):001:0> printf("%40.40f\n", 0.1 + 0.2)
0.3000000000000000444089209850062616169453
=> nil

Floating point numbers是非常棘手的野兽。

票数 7
EN
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接:

https://stackoverflow.com/questions/5415304

复制
相关文章

相似问题

领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档