首页
学习
活动
专区
圈层
工具
发布
社区首页 >问答首页 >single、double和precision

single、double和precision
EN

Stack Overflow用户
提问于 2017-01-21 21:13:27
回答 2查看 1.6K关注 0票数 7

我知道存储单值(或双精度值)不能非常精确。因此,例如存储125.12可以得到125.1200074788。现在在delphi中,它们是一些有用的函数,比如samevalue或comparevalue,它们以epsilon为参数,说明125.1200074788或例如125.1200087952是相等的。

但我经常在代码中看到这样的东西:如果aSingleVar =0,那么...事实上,正如我所看到的那样,这总是有效的。为什么?为什么将示例0存储在单个变量中会保持精确值?

EN

回答 2

Stack Overflow用户

回答已采纳

发布于 2017-01-21 21:50:28

只有m*2^e形式的值(其中m和e是整数)才能存储在浮点变量中(但不是全部,这取决于精度)。0有这种形式,而125.12没有,因为它等于3128/25,并且1/25不是2的整数幂。

125.12与单(或双)精度变量进行比较,很可能会始终返回False,因为文字125.12将被视为扩展精度数,任何单(或双)精度数都不会有这样的值。

票数 11
EN

Stack Overflow用户

发布于 2017-01-24 00:40:35

看起来Rudy Velthuis的BigDecimals单元很好用。数以百万计的小数位的准确度和精确度。

票数 0
EN
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接:

https://stackoverflow.com/questions/41779801

复制
相关文章

相似问题

领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档