如何计算物理度量有多小和多大,以便应用程序在将度量表示为双精度时不会导致溢出/下溢?
例如,我测量了几个到平面的距离,我想要将一个平面拟合到数据集。我想弄清楚,在进行这些测量时,我可以离地面有多近和多远,以便应用程序的结果是正确的。
在我的程序中,我将测量值读入双精度类型的3元组,以表示R3中的点。所需精度为2位或3位小数。
不知道从哪里开始。。。
编辑:我不是在尝试捕获溢出;我是在尝试分析应用程序的限制。
发布于 2017-05-10 05:38:29
double precision floating point number大约有15个有效数字,大小可以在1e-308到1e308之间。
假设从测量基面到表面的距离估计约为x长度单位,表面粗糙度、测量误差和任何其他不确定度约为相同长度单位的a。(单位的选择取决于您。)这里很自然地假设x比a大。
至少需要满足以下限制。
数字x的大小小于,a的大小大于1e-308。比1e-15.大,比
a/x大我认为您可以存储有关月球到地球距离(3e8 m)的测量的原始数据,以米为单位以双精度浮点数形式解析一根头发(1e-5 m)。
如果你以一层原子层的分辨率从地球上探测到月球上的平滑表面,可能双精度浮点数的15位有效数字将不足以忠实地表示测量结果。但是,如果您的测量仪器本身具有更多有效数字,则可以将平均(或典型)距离d存储在一个浮点数中,并将测量距离与平均值的差值x-d存储在相应测量的其他浮点数中。
https://stackoverflow.com/questions/41417909
复制相似问题