首页
学习
活动
专区
圈层
工具
发布
社区首页 >问答首页 >在C++中计算曲面拟合应用的测量极限

问在C++中计算曲面拟合应用的测量极限
EN

Stack Overflow用户
提问于 2017-01-02 02:29:39
回答 1查看 99关注 0票数 0

如何计算物理度量有多小和多大,以便应用程序在将度量表示为双精度时不会导致溢出/下溢?

例如,我测量了几个到平面的距离,我想要将一个平面拟合到数据集。我想弄清楚,在进行这些测量时,我可以离地面有多近和多远,以便应用程序的结果是正确的。

在我的程序中,我将测量值读入双精度类型的3元组,以表示R3中的点。所需精度为2位或3位小数。

不知道从哪里开始。。。

编辑:我不是在尝试捕获溢出;我是在尝试分析应用程序的限制。

EN

回答 1

Stack Overflow用户

发布于 2017-05-10 05:38:29

double precision floating point number大约有15个有效数字,大小可以在1e-308到1e308之间。

假设从测量基面到表面的距离估计约为x长度单位,表面粗糙度、测量误差和任何其他不确定度约为相同长度单位的a。(单位的选择取决于您。)这里很自然地假设x比a大。

至少需要满足以下限制。

数字x的大小小于,a的大小大于1e-308。比1e-15.大,比

  • a/x大

我认为您可以存储有关月球到地球距离(3e8 m)的测量的原始数据,以米为单位以双精度浮点数形式解析一根头发(1e-5 m)。

如果你以一层原子层的分辨率从地球上探测到月球上的平滑表面,可能双精度浮点数的15位有效数字将不足以忠实地表示测量结果。但是,如果您的测量仪器本身具有更多有效数字,则可以将平均(或典型)距离d存储在一个浮点数中,并将测量距离与平均值的差值x-d存储在相应测量的其他浮点数中。

票数 0
EN
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接:

https://stackoverflow.com/questions/41417909

复制
相关文章

相似问题

领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档