首页
学习
活动
专区
圈层
工具
发布
社区首页 >问答首页 >mpmath python中的精度上限

mpmath python中的精度上限
EN

Stack Overflow用户
提问于 2019-12-02 22:25:11
回答 1查看 155关注 0票数 3

pythonmpmath中,一个人的代码以

代码语言:javascript
复制
from mpmath import mp 

mp.dps =200

我的问题是,一个人的硬件上是否存在-depending - mp.dps是否存在上限,以及如何找到这个上限。

EN

回答 1

Stack Overflow用户

发布于 2019-12-03 22:06:40

请注意,实际精度是以二进制位而不是十进制位存储的。mp.dps()自动完成到二进制位的转换。

默认情况下,mpmath使用Python任意精度整数作为其算术运算的基础。除了你系统中的内存或者你的耐心,没有其他的限制。

如果您安装了gmpy2mpmath将基于GMP库自动使用速度更快的整数类型。GMP库在32位系统上的最大精度为2^32 -1位(大约1.29E9十进制数字),在64位系统上的最大精度为2^37 -1位(大约4.14E10十进制数字)。

我不知道还有什么其他的限制。

票数 0
EN
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接:

https://stackoverflow.com/questions/59140924

复制
相关文章

相似问题

领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档