首页
学习
活动
专区
圈层
工具
发布
社区首页 >问答首页 >数据类型float的精度(IEEE 754单精度)

问数据类型float的精度(IEEE 754单精度)
EN

Stack Overflow用户
提问于 2020-11-06 20:51:26
回答 1查看 177关注 0票数 1

我在IEEE754的维基百科页面上找到了一个图表,它显示了浮点精度和实际浮点值(https://en.wikipedia.org/wiki/IEEE_754#Formats)之间的关系:

​

​

这样解释这个图表是正确的吗?通常来说,较小的值比较大的值“更准确”?

在我的具体案例中,我有一个应用程序对流入浮点累加器/累加器的质量流(范围为0-90克/秒)进行计数。我认为,就精度图而言,我首先提到的是,对累加器本身使用“更大的单位”会更好,这样实际的浮点值总是在较低的范围内:这意味着在我的例子中,累加器单位使用吨而不是克。

这种考虑是正确的,还是使用以克或吨为单位的浮点累加器没有好处?

EN

回答 1

Stack Overflow用户

回答已采纳

发布于 2020-11-06 21:01:27

对该图的正确解释是,精度与大小有关。

假设您的数字约为100 (因为您是以克为单位测量的)。这意味着你的精度大约是1e-5克(大约是一小粒沙子的质量)。

现在假设你用太阳的质量单位来测量。现在你的数字是5e-32个太阳质量。现在的相对精度大约是5e-37个太阳质量。这大约相当于一小粒沙子的质量。

所以不,没有好处。浮点数的要点是让你不必担心大小。

如果您担心对多个数字求和的总体准确性,请使用Kahan summation。

票数 2
EN
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接:

https://stackoverflow.com/questions/64715018

复制
相关文章

相似问题

领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档