请考虑以下规范:
require 'bigdecimal'
def total_percent(amounts)
percent_changes = amounts.each_cons(2).map { |a|
(a[1] - a[0]) / a[0] * BigDecimal.new('100.0')
}
(percent_changes.map { |pc| BigDecimal.new('1') + pc / BigDecimal.new('100') }.inject(BigDecimal.new('1'), :*) - BigDecimal.new('1')) * BigDecimal.new('100')
end
describe 'total_percent' do
specify {
values = [10000.0, 10100.0, 10200.0, 10000.0].map { |v|
BigDecimal.new(v.to_s)
}
total_percent(values).class.should == BigDecimal
total_percent(values).should == BigDecimal.new('0.0')
}
end方法total_percent以百分比为单位计算值列表的总差值。请忽略算法本身(仅通过查看第一个和最后一个值就可以获得相同的结果)。
由于计算结果不等于0.0,规范失败。问题是它在哪里失去了精确性。
编辑:在OSX10.7.2上使用JRuby 1.6.5。
发布于 2011-11-23 15:54:02
这并不是因为它失去了精确性,而是因为一些部门无法被一个BigDecimal所代表。
问题是为什么JRuby吞并/定义了当您100.0/10200.0等的时候它应该抛出的异常。JRuby可以定义舍入模式,或者它的运算符可以将自己包装在由相同的计算(没有舍入模式)在Java中生成的捕获中(附在下面)。
尝试设置您自己的舍入模式,或者做一个可接受的-增量比较(我忘记了术语)。
例外
java.lang.ArithmeticException: Non-terminating decimal expansion;
no exact representable decimal result.发布于 2011-11-24 03:14:34
这是浮点算法的一个问题。JRuby将Java的BigDecimal类封装到BigDecimal类中。因此,BigDecimal值包含文本表示和实际值之间的小差异。您不应该使用==来比较它们。
请注意,对于MRI,这些规范同样失败。
https://stackoverflow.com/questions/8244481
复制相似问题