首页
学习
活动
专区
圈层
工具
发布
社区首页 >问答首页 >Excel中的浮点数

问Excel中的浮点数
EN

Stack Overflow用户
提问于 2015-02-04 22:44:52
回答 2查看 1.4K关注 0票数 2

我对我的excel表格中的双精度值有一点小问题。双精度值是宏计算的结果。它在单元格中显示为1.0554。单元格格式为数字,显示4个小数点。如果我选择更多的小数,它将显示尾随0(例如1.05540000)。

我的问题是我使用jxls (它使用Apache POI)读取这个文件,我得到的值不是1.0554,而是1.0554000000000001 (最后1位是第16位)。

我已经将我的xls转换为xlsx,直接在xlsx (这是一个包含xml文件的压缩文件,所以是ascii文件)中检查,保存的值是1.0554000000000001;但是即使我将我的单元格格式化为32位十进制的数字,excel仍然显示没有任何尾随1的1.0554000...000。

所以我假设在xls中,实数也保存为1.0554000000000001,而不是1.0554。

那么如何在excel中显示真实的原始值呢?或者强制excel节省1.0554而不是1.05540000...01?或者用宏检查显示值是否不是原始值?

EN

回答 2

Stack Overflow用户

发布于 2015-02-04 22:52:43

你已经违背了IEE754的神。双精度值有1个符号位,11位指数和52位尾数(实际表示有点复杂,但您应该从中了解到的是,数字1.0554在52位内无法正确表达,因此您的PC的Double实现会选择最接近的值。

票数 1
EN

Stack Overflow用户

发布于 2015-02-04 23:28:38

当你转换一个不能精确表示的数字时,浮点舍入误差就开始起作用了。随着计算的进行,它往往会增加。

最接近1.0554的代表值是1.0553999999999998937738610038650222122669219970703125.最接近1.0554000000000001的可表示值是1.055400000000000115818465928896330296993255615234375 -这可能是您的宏计算得出的值。坏消息是你没有得到你想要的值。好消息是,这种差异通常太小了,以至于在现实生活中太小,甚至无法衡量。

通常,您不希望打印确切的值。Java中的默认toString行为是生成最短的十进制扩展,该扩展将转换为内部值。这通常也不是您希望最终用户显示的内容。

在大多数情况下,正确的做法就是您在Excel中所做的事情--只显示您认为对您所做的事情有意义的数字。在Java语言中,您可以使用DecimalFormat将double转换为String,并控制显示的数字。

票数 1
EN
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接:

https://stackoverflow.com/questions/28324169

复制
相关文章

相似问题

领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档