我有一个javascript函数,它将英尺转换为一个可用的对象,该对象将获取总英尺,并将其分解为英尺/英寸/分数。
在下面的示例中,小数部分应该是零,我的英寸应该是4
假设我得到了以下内容。
var inches = 40;现在,当我调用下面的函数时,比如unPackDecimalFeet(40 /12);
unPackDecimalFeet: function (feetInchFraction) {
var inchFraction = (feetInchFraction - ~~feetInchFraction) * 12;
return {
feet: ~~feetInchFraction,
inch: ~~inchFraction,
fraction: inchFraction - ~~inchFraction
};
}我的返回值如下。
feet: 3
fraction: 0.9999999999999964
inch: 3**上述返回值应为。
feet: 3
fraction: 0
inch: 4我需要如何处理脚,才能获得正确的返回值?
发布于 2012-09-07 02:51:10
一开始我会说把它乘以1000,然后进行计算,然后除以1000。IEEE浮点运算是这里的问题所在。如果您需要更多计算,请查看BigInteger库。(有时是BigInt)
发布于 2012-09-07 03:28:56
var inchesIn;
inchesIn = 40;
document.writeln('Feet: ' + Math.floor(inchesIn/12));
document.writeln('Inches: ' + inchesIn%12);发布于 2012-09-07 03:42:59
您正在做很多工作,以避免代码中出现微小的无关紧要的小问题。我认为也许越简单越好:
unPackDecimalFeet : (function (feet) {
var flooredFeet = 0 | feet,
flooredInches = 0 | ((feet - flooredFeet) * 12),
inchFraction = (feet * 12) - (0 | (feet * 12));
return {
feet: flooredFeet,
inch: flooredInches,
fraction: +(inchFraction.toFixed(2)) //Rounded to two decimals
};
})唯一的“棘手之处”是0 |作为Math.floor()的替代品。如果Math.floor()能让你对可维护性感觉更好,那么你可以随意使用它。此外,我将响应的“分数”部分舍入到最接近的100英寸。如果您愿意,您可以更精确地舍入,但鼓励进行一些舍入,以防止由于IEEE-754变得狂野而导致的0.9999999999999994或其他东西。
https://stackoverflow.com/questions/12306513
复制相似问题