首页
学习
活动
专区
圈层
工具
发布
社区首页 >问答首页 >为Ruby on Rails中的所有大小数设置精度

为Ruby on Rails中的所有大小数设置精度
EN

Stack Overflow用户
提问于 2017-06-08 20:56:22
回答 1查看 1.3K关注 0票数 1

有没有办法在Ruby或Ruby on Rails中定义所有BigDecimal数字的精度?

我使用limit方法设置了精度,但这似乎不起作用:

代码语言:javascript
复制
irb(main):003:0> BigDecimal.limit
=> 25

irb(main):004:0> num = '0.' + 0.to_s * 30 + '1'
=> "0.0000000000000000000000000000001"

irb(main):005:0> decimal = BigDecimal(num)
=> #<BigDecimal:9614780,'0.1E-30',9(45)>

irb(main):006:0> puts decimal.to_s
0.0000000000000000000000000000001
=> nil

irb(main):007:0> BigDecimal.limit
=> 25

我是否误解了limit方法的用法?有没有其他方法可以达到我想要的效果?

该应用程序使用Ruby 2.3.4和Rails 4.2.8

免责声明:我已经知道如何截断以及如何仅设置单个值的精度。我真的需要一种方法来设置这个“全局”(我的意思是,对于我实例化或操作的所有新的Big Decimals )。

EN

回答 1

Stack Overflow用户

发布于 2017-06-08 21:17:08

你可以试试

代码语言:javascript
复制
 2.1.7 :056 > num = '0.' + 0.to_s * 30 + '1'
 => "0.0000000000000000000000000000001" 
2.1.7 :057 > decimal = BigDecimal(num)
 => #<BigDecimal:7be2178,'0.1E-30',9(45)> 
2.1.7 :058 > puts decimal.to_s
0.0000000000000000000000000000001
 => nil 
2.1.7 :059 > '%.2f' % decimal
 => "0.00" 
票数 -1
EN
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接:

https://stackoverflow.com/questions/44436404

复制
相关文章

相似问题

领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档