首页
学习
活动
专区
圈层
工具
发布
社区首页 >问答首页 >BigDecimal.divide()在使用MathContext调用时会产生额外的精度数字

BigDecimal.divide()在使用MathContext调用时会产生额外的精度数字
EN

Stack Overflow用户
提问于 2014-05-06 21:59:35
回答 1查看 553关注 0票数 4

给出简单的程序

代码语言:javascript
复制
import java.math.*;
import static java.math.BigDecimal.ONE;
import static java.lang.System.out;

public static void main(String[] args) {
    StringBuffer ruler = new StringBuffer("  ");
    for (int i = 0; i < 5; i++) {
         ruler.append("1234567890");
    }

    out.println(ONE.divide(new BigDecimal(47), 50, RoundingMode.HALF_UP));
    out.println(ONE.divide(new BigDecimal(47), new MathContext(50, RoundingMode.HALF_UP)));
    out.println(ruler);
    out.println(ONE.divide(new BigDecimal(6), 5, RoundingMode.HALF_UP));
    out.println(ONE.divide(new BigDecimal(6), new MathContext(5, RoundingMode.HALF_UP)));
}

这是输出:

0.02127659574468085106382978723404255319148936170213 0.021276595744680851063829787234042553191489361702128 12345678901234567890123456789012345678901234567890 0.16667 0.16667

我希望输出的第二行与第一行相同。这是一个错误,还是我误解了BigDecimal文档?

JVM版本:

$ java -version java版本"1.7.0_45“Java(TM) SE运行时环境(build 1.7.0_45-b18) Java HotSpot(TM) 64位服务器VM (build 24.45-b08,混合模式)

EN

回答 1

Stack Overflow用户

回答已采纳

发布于 2014-05-06 22:02:53

您将小数位数(小数位总数)与精度(有效位数)混为一谈。对于-1到1之间的数字,精度不计算小数点与非零小数位之间的任何零,但小数位数却是零。

BigDecimal.divide的第二个参数是标度。所以你的第一个输出得到了50位小数。

MathContext构造函数的参数是精确的。因此,对于第二个输出,您可以得到50个重要的小数点,再加上小数点和小数点之间的一个额外的零。

代码语言:javascript
复制
  First decimal place (start counting scale from here)
  ↓
0.02127659574468085106382978723
   ↑
   First significant digit (start counting precision from here)
票数 5
EN
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接:

https://stackoverflow.com/questions/23505255

复制
相关文章

相似问题

领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档