问我的科学计算器怎么能如此精确地计算p/q比，而编程语言却不能？它们是如何编程的？
EN

Stack Overflow用户

提问于 2018-02-08 12:07:02

回答 1查看 25关注 0票数 0

我已经看到我的科学计算器在小数后存储99位数字。为什么编程语言不使用这样的精确度？此外，如果我想的话，我如何才能达到这样的精度呢？

发布于 2018-02-08 12:16:56

这是一个很好的问题！

要理解发生了什么，您必须首先熟悉计算机存储浮点数的方式：http://grouper.ieee.org/groups/754/

通常，编程语言提供两种二进制表示形式-一种使用32位，另一种使用64位。

如果您需要更高的精度，则需要更好的表示，并且可以实现division algorithm以获得所需的任意精度的结果。

您可以看看Java的BigDecimal实现

票数 0

页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持

原文链接：

https://stackoverflow.com/questions/48677361

复制

相似问题

问我的科学计算器怎么能如此精确地计算p/q比，而编程语言却不能？它们是如何编程的？EN