首页
学习
活动
专区
圈层
工具
发布
社区首页 >问答首页 >IEEE 754浮点

IEEE 754浮点
EN

Stack Overflow用户
提问于 2015-12-07 18:37:44
回答 2查看 173关注 0票数 0

谁能给我解释一下为什么在IEEE 754浮点数中它们不相等:

代码语言:javascript
复制
(1 + 1e300) - 1e100 and 1 + (1e300 - 1e100) 

非常感谢!

EN

回答 2

Stack Overflow用户

发布于 2016-10-05 22:33:14

这完全取决于您正在使用哪种IEEE浮点格式,以及您正在使用的舍入模式。

F64

上面说它们相等的注释最有可能以至少双倍(F64二进制)精度进行检查,例如Rne四舍五入。这是在类C语言中使用double时通常会发生的情况。

在这种情况下,您的所有数字都将转换并四舍五入为F64值。其他数字与1e300相距甚远,因此任何加法都将舍入到大约1e300。为了以十进制显示这个数字,它将再次四舍五入,并显示为1e300。

如果你的四舍五入模式不是RNE,你的最终答案可能与1e300略有不同,尽管可能仍然相等。

F32

但是,如果您以单(F32)精度工作-您的大多数数字太大而无法表示,并且可能会被转换为Inf

遵循IEEE745规则:在这两种情况下,您最终都要计算Inf-Inf,这应该会导致NaN。最后,如果您最终将值比较为floats:NaN==NaN,则答案必须为false,这似乎与您所看到的一致。

票数 0
EN

Stack Overflow用户

发布于 2020-10-14 12:52:31

对于Python,

代码语言:javascript
复制
>>> (1 + 1e300) - 1e100 == 1 + (1e300 - 1e100)
True
票数 0
EN
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接:

https://stackoverflow.com/questions/34131543

复制
相关文章

相似问题

领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档