首页
学习
活动
专区
圈层
工具
发布
社区首页 >问答首页 >为什么Google电子表格说Zero不等于Zero?

为什么Google电子表格说Zero不等于Zero?
EN

Web Applications用户
提问于 2015-07-10 23:11:37
回答 1查看 3.9K关注 0票数 11

在花了几个小时试图在我的个人会计电子表格中找出一个错误后,我可以将其确定为一个公式。

而这导致了零

代码语言:javascript
复制
=((0,6-0,3-0,4)+(-0,3+0,8-0,4))

把它和零号做比较,我就错了

代码语言:javascript
复制
=((0,6-0,3-0,4)+(-0,3+0,8-0,4))=0

我到底错过了什么?

EN

回答 1

Web Applications用户

回答已采纳

发布于 2015-07-11 01:01:44

多亏了浮点算法的奇迹,

代码语言:javascript
复制
((0.6-0.3-0.4)+(-0.3+0.8-0.4))

以双精度计算约为-5.55e-17。这在JavaScript和Google电子表格中都是如此。计算是客户端还是服务器端并不重要:重要的是所使用的数字格式。似乎Google Sheets 使用双精度

解决方案是相同的:避免对浮点数进行相等的比较。在你的例子中,通过乘以10来改变单位会避免这个问题。

票数 8
EN
页面原文内容由Web Applications提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接:

https://webapps.stackexchange.com/questions/80125

复制
相关文章

相似问题

领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档