首页
学习
活动
专区
圈层
工具
发布
社区首页 >问答首页 >JavaScript整数除法导致浮点数,可能出现舍入误差吗?

JavaScript整数除法导致浮点数,可能出现舍入误差吗?
EN

Stack Overflow用户
提问于 2015-12-18 00:43:54
回答 2查看 2.5K关注 0票数 2

我知道像1.005*100 / 100这样的例子在JavaScript中会产生稍微不准确的结果(100.49999999999999),这是浮点设计的固有问题。

我的问题是看看我是否可以在不使用字符串操作的情况下生成可靠的十进制四舍五入例程。

x是一个整数时,x / 100 (int/int=float)会产生视觉上的不准确吗?(例如,..000001..99999)一个例子来证明这一点会更好。

如果答案是肯定的,那么在JavaScript中可靠地将小数点向左移动的唯一方法是使用字符串操作(即MDN's Math.round10),并承担相应的性能损失。

EN

回答 2

Stack Overflow用户

发布于 2015-12-18 02:30:58

根据这项测试,整数除以整数没有不准确之处。

代码语言:javascript
复制
var multipliers = [10, 100, 1000, 10000, 100000, 1000000]
for(var i = 0; i < 100000; i++) {
    multipliers.forEach(function (mul) {
        var x = i / mul
        if(x != x.toFixed(6))
            document.write('found one! ' + i + ' / ' + mul + ' = ' + x + '<br/>')
    })
}
document.write('done!')

好的。这意味着可以在没有字符串操作的情况下创建一个健壮的四舍五入到小数的例程。:-)

票数 2
EN

Stack Overflow用户

发布于 2015-12-18 03:32:30

准确地说,小数部分只在无限精度上保持不变,这是JS IEEE-754兼容的浮点算法所不具备的。

在有限精度中,你可能无法用浮点数精确地表示一个整数(例如,许多大于2^53的整数)。在将x除以100时,实际上可能会得到一个在数学上不等于x / 100的数字。

例如,让IEEE754中的x = 1.0e23达到双精度,x舍入为99999999999999991611392,然后舍入为x / 100 = 999999999999999916113.92

但是,由于这个数字不能以双精度表示,因此它舍入为999999999999999868928

票数 1
EN
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接:

https://stackoverflow.com/questions/34339914

复制
相关文章

相似问题

领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档