首页
学习
活动
专区
圈层
工具
发布
社区首页 >问答首页 >浮点在c++中的精确表示

问浮点在c++中的精确表示
EN

Stack Overflow用户
提问于 2010-11-30 01:15:45
回答 9查看 5.1K关注 0票数 5
代码语言:javascript
复制
void main()
{
    float a = 0.7;

    if (a < 0.7)
        printf("c");
    else
        printf("c++");
} 

在上面0.7的问题中,将打印"c“,但对于0.8,将打印"c++”。为什么?

任何浮点数是如何以二进制形式表示的?

在一些地方,提到内部0.7将存储为0.699997,但0.8将存储为0.8000011。为什么会这样呢?

EN

回答 9

Stack Overflow用户

回答已采纳

发布于 2010-11-30 01:55:19

基本上,使用浮点数可以得到32位的编码

代码语言:javascript
复制
VALUE   = SIGN * MANTISSA * 2 ^ (128 - EXPONENT)
32-bits = 1-bit  23-bits               8-bits

并将其存储为

代码语言:javascript
复制
MSB                    LSB
[SIGN][EXPONENT][MANTISSA]

因为你只得到23位,所以这就是你能存储的“精度”。如果您试图表示基数为2的无理(或重复)的分数,则位序列将在第23位“四舍五入”。

0.7基数10是7/ 10,它的二进制形式是0b111 / 0b1010:

代码语言:javascript
复制
0.1011001100110011001100110011001100110011001100110011... etc

由于这是重复的,所以没有办法以固定的精度精确地表示它。0.8也是如此,它的二进制形式是:

代码语言:javascript
复制
0.1100110011001100110011001100110011001100110011001101... etc

要查看这些数字的固定精确值是多少,您必须在位数处将它们“截断”,并进行数学计算。唯一的诀窍是你,前导1是隐含的,而不是存储的,所以从技术上讲,你可以获得额外的精度。由于四舍五入,最后一位将是1或0,这取决于截断位的值。

因此,值0.7实际上是11,744,051 / 2^24 (无舍入效果)= 0.699999988,而值0.8实际上是13,421,773 / 2^24 (向上舍入)= 0.800000012。

这就是全部内容:)

票数 12
EN

Stack Overflow用户

发布于 2010-11-30 01:20:02

What Every Computer Scientist Should Know About Floating-Point Arithmetic是一个很好的参考资料。如果需要,您可以使用更高精度的类型(例如double)或二进制编码的Decimal (BCD)库来实现更好的浮点精度。

票数 10
EN

Stack Overflow用户

发布于 2010-11-30 01:20:45

内部表示是IEE754。

您也可以使用this calculator将十进制转换为浮点数,我希望这有助于理解格式。

票数 4
EN
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接:

https://stackoverflow.com/questions/4306177

复制
相关文章

相似问题

领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档