Excel机器epsilon比较

Question

因此，我了解到Excel中的机器epsilon是2^(-1022) Get Machine epsilon in Microsoft Excel

假设我在单元格中有A1：=1+2^-1022

=1=A1返回TRUE

我做错什么了？

Answer 1

你应该读一下对那个问题的所有评论。你的答案是：

Microsoft为XL定义了浮点数精度限制。在Microsoft文章ID: 78113中，最小浮点数为2.2250738585072E-308。当我在我的电子表格中输入这个数字时，它实际上存储了一个浮点数0，但是如果我存储2.2250738585073E-308 (我将1加到最不重要的数字)，我可以看到所有的数字。我看到您要求一个机器epsilon，但是由于您使用的是XL，您将真正看到的是C/C++浮点库epsilon。请参阅(表单1)主题。