我正在使用Math.pow()函数,并编写了以下代码:
double monthlyRate = (0.7d / 12);
int loanLength = 3;
double powerTest = Math.pow(1.00583, 36);
double powerResult = Math.pow((1 + monthlyRate),(loanLength * 12));当通过调试器运行此操作时,这些值将变为
powerTest => 1.2327785029794363
powerResult => 7.698552870922063第一个是正确的。我已经单步执行了两个赋值行上的Math.pow函数。对于powerTest,Math.pow的参数为双a => 1.00583双b => 36.0
对于powerResult,它们是双a => 1.0058333333333333双b => 36.0
我知道这是机器执行浮点数学的方式的一个问题,我只是不确定如何纠正它。在计算之前,我尝试执行以下操作,但结果很差:
monthlyRate = Math.round(monthlyRate * 1000) / 1000;发布于 2011-01-26 00:48:54
1 + monthlyRate是1.0583...,不是1.00583。
发布于 2011-01-26 00:50:23
您的表达式0.7d/12 = 0.0583,在powerTest表达式中使用0.00583。
发布于 2011-01-26 00:50:14
我认为问题的一部分是0.7/12 ~ 0.058333和1.0583 > 1.00583。我敢打赌,这是你的差异的真正来源,浮点调整与此关系不大。
https://stackoverflow.com/questions/4796314
复制相似问题