首页
学习
活动
专区
圈层
工具
发布
社区首页 >问答首页 >在javascript中使用小数

问在javascript中使用小数
EN

Stack Overflow用户
提问于 2012-09-07 02:48:01
回答 3查看 1.1K关注 0票数 1

我有一个javascript函数,它将英尺转换为一个可用的对象,该对象将获取总英尺,并将其分解为英尺/英寸/分数。

在下面的示例中,小数部分应该是零,我的英寸应该是4

假设我得到了以下内容。

代码语言:javascript
复制
var inches = 40;

现在,当我调用下面的函数时,比如unPackDecimalFeet(40 /12);

代码语言:javascript
复制
  unPackDecimalFeet: function (feetInchFraction) {

        var inchFraction = (feetInchFraction - ~~feetInchFraction) * 12;
        return {
            feet: ~~feetInchFraction,
            inch: ~~inchFraction,
            fraction: inchFraction - ~~inchFraction
        };
    }

我的返回值如下。

代码语言:javascript
复制
feet: 3
fraction: 0.9999999999999964
inch: 3

**上述返回值应为。

代码语言:javascript
复制
feet: 3
fraction: 0
inch: 4

我需要如何处理脚,才能获得正确的返回值?

EN

回答 3

Stack Overflow用户

发布于 2012-09-07 02:51:10

一开始我会说把它乘以1000,然后进行计算,然后除以1000。IEEE浮点运算是这里的问题所在。如果您需要更多计算,请查看BigInteger库。(有时是BigInt)

票数 1
EN

Stack Overflow用户

发布于 2012-09-07 03:28:56

代码语言:javascript
复制
var inchesIn;
inchesIn = 40;
document.writeln('Feet: ' + Math.floor(inchesIn/12));
document.writeln('Inches: ' + inchesIn%12);
票数 0
EN

Stack Overflow用户

发布于 2012-09-07 03:42:59

您正在做很多工作,以避免代码中出现微小的无关紧要的小问题。我认为也许越简单越好:

代码语言:javascript
复制
unPackDecimalFeet : (function (feet) {
    var flooredFeet = 0 | feet,
        flooredInches = 0 | ((feet - flooredFeet) * 12),
        inchFraction = (feet * 12) - (0 | (feet * 12));

    return {
        feet: flooredFeet,
        inch: flooredInches,
        fraction: +(inchFraction.toFixed(2)) //Rounded to two decimals
    };
})

唯一的“棘手之处”是0 |作为Math.floor()的替代品。如果Math.floor()能让你对可维护性感觉更好,那么你可以随意使用它。此外,我将响应的“分数”部分舍入到最接近的100英寸。如果您愿意,您可以更精确地舍入,但鼓励进行一些舍入,以防止由于IEEE-754变得狂野而导致的0.9999999999999994或其他东西。

票数 0
EN
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接:

https://stackoverflow.com/questions/12306513

复制
相关文章

相似问题

领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档