我知道存储单值(或双精度值)不能非常精确。因此,例如存储125.12可以得到125.1200074788。现在在delphi中,它们是一些有用的函数,比如samevalue或comparevalue,它们以epsilon为参数,说明125.1200074788或例如125.1200087952是相等的。
但我经常在代码中看到这样的东西:如果aSingleVar =0,那么...事实上,正如我所看到的那样,这总是有效的。为什么?为什么将示例0存储在单个变量中会保持精确值?
发布于 2017-01-21 21:50:28
只有m*2^e形式的值(其中m和e是整数)才能存储在浮点变量中(但不是全部,这取决于精度)。0有这种形式,而125.12没有,因为它等于3128/25,并且1/25不是2的整数幂。
将125.12与单(或双)精度变量进行比较,很可能会始终返回False,因为文字125.12将被视为扩展精度数,任何单(或双)精度数都不会有这样的值。
发布于 2017-01-24 00:40:35
看起来Rudy Velthuis的BigDecimals单元很好用。数以百万计的小数位的准确度和精确度。
https://stackoverflow.com/questions/41779801
复制相似问题