首页
学习
活动
专区
圈层
工具
发布
社区首页 >问答首页 >awk:为什么awk不能生成完整的连续浮点数列表?

问awk:为什么awk不能生成完整的连续浮点数列表?
EN

Stack Overflow用户
提问于 2015-01-17 01:39:37
回答 1查看 73关注 0票数 1
代码语言:javascript
复制
    kitty@mypad:~$ awk 'BEGIN{for(i=0.01;i<=0.1;i=i+0.01) print i}'
    0.01
    0.02
    0.03
    0.04
    0.05
    0.06
    0.07
    0.08
    0.09
    0.1
    kitty@mypad:~$ awk 'BEGIN{for(i=0.01;i<=0.2;i=i+0.01) print i}'
    0.01
    0.02
    0.03
    0.04
    0.05
    0.06
    0.07
    0.08
    0.09
    0.1
    0.11
    0.12
    0.13
    0.14
    0.15
    0.16
    0.17
    0.18
    0.19

您可以看到,对于i<=k,当k为0.1时,它会按预期生成,但当k为0.2或0.3时,不会生成最后一个数字(0.2或0.3

为什么?

EN

回答 1

Stack Overflow用户

发布于 2015-01-17 01:50:30

浮点不精确。0.1、0.2或0.3都不能用有限的二进制浮点数精确表示--只有分母为2的幂的分数才能(直到一点) --因此awk使用近似值进行计算。有时它们会比您预期的稍大一点,有时会稍微小一点。当它们稍微大一点时,测试i <= 0.2就是false,比其他情况下更早迭代。

解决这个问题的通常方法是使用一个小epsilon来抵消它,即

代码语言:javascript
复制
#                             v-- here
awk 'BEGIN{for(i=0.01;i<=0.2+1e-9;i=i+0.01) print i}'

请注意,应选择epsilon值,使其小到不能篡改结果,但又大到足以抵消浮点舍入误差。在这种情况下,这意味着它应该比0.01小得多,假设ieee-754加倍,而不是比0.2 * 1e-12小。

后者的原因是因为浮点数的尾数是有限的,在某些时候,将一个非常小的epsilon添加到一个数字上并不会改变它的值,即使epsilon不是零。例如,我得到

代码语言:javascript
复制
$ echo | awk '{ print 0.2 + 1e-30 == 0.2 }'
1

一个好的epsilon值的估计不是微不足道的,并且高度依赖于所讨论的计算,因此很难给出后续问题的一般答案。

请记住,必须考虑这样的建议:对于像这样的简单计算结果的简单比较,您将希望至少使用value * 1e-12 (双精度浮点数计算)或value * 1e-5 (单精度浮点数)之类的值。这是因为在ieee-754 (每个人都在使用)中,双精度浮点数的尾数是53位二进制数,大致相当于16个十进制数,而单精度浮点数有24个二进制/7个十进制数。你想安全地远离那个边际两到三个数量级。

对于复杂的计算,我没有一般的建议。有时舍入误差会累积,因此可能需要更大的epsilon来抵消它们。在某些计算中--例如,通过差商进行数值微分--最佳epsilon值取决于您在计算商之前不知道的值,因为您必须考虑在分子中减去两个浮点数时对大割线步长的数学影响时灾难性抵消的影响。在这种情况下,您需要了解浮点和您正在处理的问题。

要理解浮点的工作方式以及对它们的期望,this是一个很好的起点。

票数 7
EN
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接:

https://stackoverflow.com/questions/27989661

复制
相关文章

相似问题

领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档