首页
学习
活动
专区
圈层
工具
发布
社区首页 >问答首页 >irb浮点实现

irb浮点实现
EN

Stack Overflow用户
提问于 2012-07-03 10:28:50
回答 1查看 250关注 0票数 0

只是好奇的问这个。

我正在使用irb终端,并试图从浮点数中减去浮点数。

我发现

代码语言:javascript
复制
irb(main):003:0> 49.4 - 0.1

给我

代码语言:javascript
复制
=> 49.3

但如果我做了

代码语言:javascript
复制
irb(main):003:0> 49.3 - 0.1

然后我得到

代码语言:javascript
复制
=> 49.199999999999996

如果irb的话,这与实现有关吗?我的意思是,为什么49.3 - 0.1提供这样的代表。(这是49.3 - 0.1的特指,我从来没有收到过这个。)

我使用irb 0.9.6

EN

回答 1

Stack Overflow用户

回答已采纳

发布于 2012-07-03 10:39:47

你应该读关于浮点算法,每个计算机科学家应该知道什么?。这并不是Ruby或IRB特有的。

票数 5
EN
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接:

https://stackoverflow.com/questions/11309003

复制
相关文章

相似问题

领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档