当我将大数除以小数时,除法是正确的,但当我写小数除以大数时,结果是错误的。在我的方案中,小数字总是第一个。下面是我的代码,返回7.4074074074074074074075E-6,但正确的结果是0.0000074074。
double itf = 0.0;
double a = 4.0;
double b = 540000;
itf = a / b;
Log.i(TAG, "savedata: outputvalue=" + itf);发布于 2021-03-12 21:15:37
BigDecimal a = new BigDecimal("4");
BigDecimal b = new BigDecimal("540000");
// 0.0000074074
a.divide(b, MathContext.DECIMAL128);您应该使用decimal类型。double不在支持范围内
https://stackoverflow.com/questions/66600169
复制相似问题