首页
学习
活动
专区
圈层
工具
发布
社区首页 >问答首页 >是否存在使用MathContext.DECIMAL32的Bigdecimal不能提供正确结果的情况?

是否存在使用MathContext.DECIMAL32的Bigdecimal不能提供正确结果的情况?
EN

Stack Overflow用户
提问于 2015-05-07 01:14:09
回答 1查看 218关注 0票数 0

System.out.println("Result="+new BigDecimal(((63.19* 15) + (63.37* 5))).divide(new BigDecimal(15 + 5), MathContext.DECIMAL64).doubleValue());

Result=63.23499999999999

但是使用MathContext.DECIMAL32我们得到了正确的结果,如下所示:

System.out.println("Result="+new BigDecimal(((63.19* 15) + (63.37* 5))).divide(new BigDecimal(15 + 5), MathContext.DECIMAL32).doubleValue());

Result=63.235

EN

回答 1

Stack Overflow用户

发布于 2015-05-07 01:27:02

这里的问题不是BigDecimal,而是(63.19* 15) + (63.37* 5)不是1264.7而是1264.6999999999998,因为前者不能表示为double

如果你这样做了

代码语言:javascript
复制
new BigDecimal("1264.7").divide(new BigDecimal("20"), MathContext.DECIMAL64)

相反,您会得到想要的结果。

票数 1
EN
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接:

https://stackoverflow.com/questions/30083383

复制
相关文章

相似问题

领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档