首页
学习
活动
专区
圈层
工具
发布
社区首页 >问答首页 >来自BigDecimal和MathContext的不一致行为

来自BigDecimal和MathContext的不一致行为
EN

Stack Overflow用户
提问于 2014-12-18 23:33:49
回答 1查看 830关注 0票数 3

我从BigDecimal中看到了一些奇怪的行为,当我使用mathContext进行除法时,输出与通过直接提供比例和舍入模式进行除法的输出不同,这是一个我认为应该提供相同输出的例子。

代码语言:javascript
复制
public static void main(String...args){
    MathContext mc = new MathContext(3,RoundingMode.HALF_UP);
    BigDecimal four = new BigDecimal(4);
    BigDecimal three = new BigDecimal(3);
    System.out.println(four.divide(three,3,RoundingMode.HALF_UP));
    System.out.println(four.divide(three,mc));
}

输出:

代码语言:javascript
复制
1.333
1.33

在使用MathContext时,该量表似乎被不同的对待。或者我不知道什么时候该用哪一种。

EN

回答 1

Stack Overflow用户

回答已采纳

发布于 2014-12-18 23:36:35

divide方法的BigDecimal允许您指定结果的比例,这松散地说是小数位数。scale = 3意味着一个数字将用小数点3位表示。负标度表示一个整数末尾的不重要零的数目--例如,如果要舍入到最近的1000,可以指定scale = -3

代码语言:javascript
复制
four.divide(three,3,RoundingMode.HALF_UP);  // scale = 3, so round to 3 decimal places

但是MathContext是不同的。它允许您指定精度-即有效数字的数量。这与规模不同。

代码语言:javascript
复制
MathContext mc = new MathContext(3,RoundingMode.HALF_UP);
four.divide(three, mc); // precision = 3, so round to 3 significant figures
票数 5
EN
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接:

https://stackoverflow.com/questions/27557590

复制
相关文章

相似问题

领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档