我知道像1.005*100 / 100这样的例子在JavaScript中会产生稍微不准确的结果(100.49999999999999),这是浮点设计的固有问题。
我的问题是看看我是否可以在不使用字符串操作的情况下生成可靠的十进制四舍五入例程。
当x是一个整数时,x / 100 (int/int=float)会产生视觉上的不准确吗?(例如,..000001或..99999)一个例子来证明这一点会更好。
如果答案是肯定的,那么在JavaScript中可靠地将小数点向左移动的唯一方法是使用字符串操作(即MDN's Math.round10),并承担相应的性能损失。
发布于 2015-12-18 02:30:58
根据这项测试,整数除以整数没有不准确之处。
var multipliers = [10, 100, 1000, 10000, 100000, 1000000]
for(var i = 0; i < 100000; i++) {
multipliers.forEach(function (mul) {
var x = i / mul
if(x != x.toFixed(6))
document.write('found one! ' + i + ' / ' + mul + ' = ' + x + '<br/>')
})
}
document.write('done!')
好的。这意味着可以在没有字符串操作的情况下创建一个健壮的四舍五入到小数的例程。:-)
发布于 2015-12-18 03:32:30
准确地说,小数部分只在无限精度上保持不变,这是JS IEEE-754兼容的浮点算法所不具备的。
在有限精度中,你可能无法用浮点数精确地表示一个整数(例如,许多大于2^53的整数)。在将x除以100时,实际上可能会得到一个在数学上不等于x / 100的数字。
例如,让IEEE754中的x = 1.0e23达到双精度,x舍入为99999999999999991611392,然后舍入为x / 100 = 999999999999999916113.92
但是,由于这个数字不能以双精度表示,因此它舍入为999999999999999868928
https://stackoverflow.com/questions/34339914
复制相似问题