首页
学习
活动
专区
圈层
工具
发布
社区首页 >问答首页 >Rspec eq()舍入数

Rspec eq()舍入数
EN

Stack Overflow用户
提问于 2016-01-13 02:54:17
回答 1查看 206关注 0票数 0

如何阻止Rspec在eq()之类的比较中舍入fixNum?

红宝石:

代码语言:javascript
复制
def power(base, exponent)
  base**exponent
end

Rspec:

代码语言:javascript
复制
Failure/Error: expect(power(5,-5)).to eq(1/3125)

   expected: 0
        got: (1/3125)

但通过了

代码语言:javascript
复制
expect(power(5,-5)).to eq(0.00032)
EN

回答 1

Stack Overflow用户

回答已采纳

发布于 2016-01-13 03:05:49

这不是RSpec的四舍五入,它只是一个简单的Ruby假设,既然您要除以两个Fixnum,那么您需要返回一个Fixnum

如果您正在潜水的任何数字是FloatRational,则您的除法将生成相应的类,并且它将通过您的等式检查。

代码语言:javascript
复制
> power(5, -5) == (1/3125)
=> false
> power(5, -5).class
=> Rational
> (1/3125).class
=> Fixnum
> 0.00032.class
=> Float
> (1/3125)
=> 0
> (1.0/3125)
=> 0.00032
> power(5, -5) == (1.0/3125)
=> true
票数 2
EN
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接:

https://stackoverflow.com/questions/34757626

复制
相关文章

相似问题

领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档