只是好奇的问这个。
我正在使用irb终端,并试图从浮点数中减去浮点数。
我发现
irb(main):003:0> 49.4 - 0.1给我
=> 49.3但如果我做了
irb(main):003:0> 49.3 - 0.1然后我得到
=> 49.199999999999996如果irb的话,这与实现有关吗?我的意思是,为什么49.3 - 0.1提供这样的代表。(这是49.3 - 0.1的特指,我从来没有收到过这个。)
我使用irb 0.9.6
发布于 2012-07-03 10:39:47
你应该读关于浮点算法,每个计算机科学家应该知道什么?。这并不是Ruby或IRB特有的。
https://stackoverflow.com/questions/11309003
复制相似问题