谁能给我解释一下为什么在IEEE 754浮点数中它们不相等:
(1 + 1e300) - 1e100 and 1 + (1e300 - 1e100) 非常感谢!
发布于 2016-10-05 22:33:14
这完全取决于您正在使用哪种IEEE浮点格式,以及您正在使用的舍入模式。
F64
上面说它们相等的注释最有可能以至少双倍(F64二进制)精度进行检查,例如Rne四舍五入。这是在类C语言中使用double时通常会发生的情况。
在这种情况下,您的所有数字都将转换并四舍五入为F64值。其他数字与1e300相距甚远,因此任何加法都将舍入到大约1e300。为了以十进制显示这个数字,它将再次四舍五入,并显示为1e300。
如果你的四舍五入模式不是RNE,你的最终答案可能与1e300略有不同,尽管可能仍然相等。
F32
但是,如果您以单(F32)精度工作-您的大多数数字太大而无法表示,并且可能会被转换为Inf。
遵循IEEE745规则:在这两种情况下,您最终都要计算Inf-Inf,这应该会导致NaN。最后,如果您最终将值比较为floats:NaN==NaN,则答案必须为false,这似乎与您所看到的一致。
发布于 2020-10-14 12:52:31
对于Python,
>>> (1 + 1e300) - 1e100 == 1 + (1e300 - 1e100)
Truehttps://stackoverflow.com/questions/34131543
复制相似问题