首页
学习
活动
专区
圈层
工具
发布
社区首页 >问答首页 >BigDecimal计算中的误差

BigDecimal计算中的误差
EN

Stack Overflow用户
提问于 2011-11-23 15:11:55
回答 2查看 296关注 0票数 0

请考虑以下规范:

代码语言:javascript
复制
require 'bigdecimal'

def total_percent(amounts)
  percent_changes = amounts.each_cons(2).map { |a|
    (a[1] - a[0]) / a[0] * BigDecimal.new('100.0')
  }
  (percent_changes.map { |pc| BigDecimal.new('1') + pc / BigDecimal.new('100') }.inject(BigDecimal.new('1'), :*) - BigDecimal.new('1')) * BigDecimal.new('100')
end

describe 'total_percent' do

  specify {
    values = [10000.0, 10100.0, 10200.0, 10000.0].map { |v|
      BigDecimal.new(v.to_s)
    }
    total_percent(values).class.should == BigDecimal
    total_percent(values).should == BigDecimal.new('0.0')
  }

end

方法total_percent以百分比为单位计算值列表的总差值。请忽略算法本身(仅通过查看第一个和最后一个值就可以获得相同的结果)。

由于计算结果不等于0.0,规范失败。问题是它在哪里失去了精确性。

编辑:在OSX10.7.2上使用JRuby 1.6.5。

EN

回答 2

Stack Overflow用户

回答已采纳

发布于 2011-11-23 15:54:02

这并不是因为它失去了精确性,而是因为一些部门无法被一个BigDecimal所代表。

问题是为什么JRuby吞并/定义了当您100.0/10200.0等的时候它应该抛出的异常。JRuby可以定义舍入模式,或者它的运算符可以将自己包装在由相同的计算(没有舍入模式)在Java中生成的捕获中(附在下面)。

尝试设置您自己的舍入模式,或者做一个可接受的-增量比较(我忘记了术语)。

例外

代码语言:javascript
复制
java.lang.ArithmeticException: Non-terminating decimal expansion;
    no exact representable decimal result.
票数 0
EN

Stack Overflow用户

发布于 2011-11-24 03:14:34

这是浮点算法的一个问题。JRuby将Java的BigDecimal类封装到BigDecimal类中。因此,BigDecimal值包含文本表示和实际值之间的小差异。您不应该使用==来比较它们。

请注意,对于MRI,这些规范同样失败。

票数 0
EN
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接:

https://stackoverflow.com/questions/8244481

复制
相关文章

相似问题

领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档