给出简单的程序
import java.math.*;
import static java.math.BigDecimal.ONE;
import static java.lang.System.out;
public static void main(String[] args) {
StringBuffer ruler = new StringBuffer(" ");
for (int i = 0; i < 5; i++) {
ruler.append("1234567890");
}
out.println(ONE.divide(new BigDecimal(47), 50, RoundingMode.HALF_UP));
out.println(ONE.divide(new BigDecimal(47), new MathContext(50, RoundingMode.HALF_UP)));
out.println(ruler);
out.println(ONE.divide(new BigDecimal(6), 5, RoundingMode.HALF_UP));
out.println(ONE.divide(new BigDecimal(6), new MathContext(5, RoundingMode.HALF_UP)));
}这是输出:
0.02127659574468085106382978723404255319148936170213 0.021276595744680851063829787234042553191489361702128 12345678901234567890123456789012345678901234567890 0.16667 0.16667
我希望输出的第二行与第一行相同。这是一个错误,还是我误解了BigDecimal文档?
JVM版本:
$ java -version java版本"1.7.0_45“Java(TM) SE运行时环境(build 1.7.0_45-b18) Java HotSpot(TM) 64位服务器VM (build 24.45-b08,混合模式)
发布于 2014-05-06 22:02:53
您将小数位数(小数位总数)与精度(有效位数)混为一谈。对于-1到1之间的数字,精度不计算小数点与非零小数位之间的任何零,但小数位数却是零。
BigDecimal.divide的第二个参数是标度。所以你的第一个输出得到了50位小数。
MathContext构造函数的参数是精确的。因此,对于第二个输出,您可以得到50个重要的小数点,再加上小数点和小数点之间的一个额外的零。
First decimal place (start counting scale from here)
↓
0.02127659574468085106382978723
↑
First significant digit (start counting precision from here)https://stackoverflow.com/questions/23505255
复制相似问题