void main()
{
float a = 0.7;
if (a < 0.7)
printf("c");
else
printf("c++");
} 在上面0.7的问题中,将打印"c“,但对于0.8,将打印"c++”。为什么?
任何浮点数是如何以二进制形式表示的?
在一些地方,提到内部0.7将存储为0.699997,但0.8将存储为0.8000011。为什么会这样呢?
发布于 2010-11-30 01:55:19
基本上,使用浮点数可以得到32位的编码
VALUE = SIGN * MANTISSA * 2 ^ (128 - EXPONENT)
32-bits = 1-bit 23-bits 8-bits并将其存储为
MSB LSB
[SIGN][EXPONENT][MANTISSA]因为你只得到23位,所以这就是你能存储的“精度”。如果您试图表示基数为2的无理(或重复)的分数,则位序列将在第23位“四舍五入”。
0.7基数10是7/ 10,它的二进制形式是0b111 / 0b1010:
0.1011001100110011001100110011001100110011001100110011... etc由于这是重复的,所以没有办法以固定的精度精确地表示它。0.8也是如此,它的二进制形式是:
0.1100110011001100110011001100110011001100110011001101... etc要查看这些数字的固定精确值是多少,您必须在位数处将它们“截断”,并进行数学计算。唯一的诀窍是你,前导1是隐含的,而不是存储的,所以从技术上讲,你可以获得额外的精度。由于四舍五入,最后一位将是1或0,这取决于截断位的值。
因此,值0.7实际上是11,744,051 / 2^24 (无舍入效果)= 0.699999988,而值0.8实际上是13,421,773 / 2^24 (向上舍入)= 0.800000012。
这就是全部内容:)
发布于 2010-11-30 01:20:02
What Every Computer Scientist Should Know About Floating-Point Arithmetic是一个很好的参考资料。如果需要,您可以使用更高精度的类型(例如double)或二进制编码的Decimal (BCD)库来实现更好的浮点精度。
发布于 2010-11-30 01:20:45
内部表示是IEE754。
您也可以使用this calculator将十进制转换为浮点数,我希望这有助于理解格式。
https://stackoverflow.com/questions/4306177
复制相似问题