首页
学习
活动
专区
圈层
工具
发布
社区首页 >问答首页 >Android中的除法错误的值

问Android中的除法错误的值
EN

Stack Overflow用户
提问于 2021-03-12 20:44:50
回答 1查看 34关注 0票数 0

当我将大数除以小数时,除法是正确的,但当我写小数除以大数时,结果是错误的。在我的方案中,小数字总是第一个。下面是我的代码,返回7.4074074074074074074075E-6,但正确的结果是0.0000074074。

代码语言:javascript
复制
    double itf = 0.0;
    double a = 4.0;
    double b = 540000;
    itf = a / b;
    Log.i(TAG, "savedata: outputvalue=" + itf);
EN

回答 1

Stack Overflow用户

发布于 2021-03-12 21:15:37

代码语言:javascript
复制
BigDecimal a = new BigDecimal("4");
BigDecimal b = new BigDecimal("540000");

// 0.0000074074
a.divide(b, MathContext.DECIMAL128);

您应该使用decimal类型。double不在支持范围内

票数 2
EN
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接:

https://stackoverflow.com/questions/66600169

复制
相关文章

相似问题

领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档