首页
学习
活动
专区
圈层
工具
发布
社区首页 >问答首页 >MPIR的浮点类型不准确吗?

MPIR的浮点类型不准确吗?
EN

Stack Overflow用户
提问于 2016-02-02 02:53:08
回答 1查看 243关注 0票数 1

我刚刚从MPIR开始,我正在执行以下代码:

代码语言:javascript
复制
mpf_t t2;
mpf_init2(t2, 10000);
mpf_set_d(t2, 5.999999999999);
gmp_printf("fixed point mpf %.40Ff", t2);

产出如下:

代码语言:javascript
复制
fixed point mpf 5.9999999999989999110994176589883863925934

虽然我已经将精度设置为10000,但这似乎很难理解。我做错了什么吗?

EN

回答 1

Stack Overflow用户

回答已采纳

发布于 2016-02-02 03:30:37

5.999999999999double。现在,一个double实际上不能保存值5.999999999999,但是它可以保存值5.999999999999110101765898863925934--几乎完全相同--而且您永远不会注意到两者之间的区别,对吗?

使用mpf_set_str代替:

代码语言:javascript
复制
mpf_set_str(t2, "5.999999999999", 10);

(10是基数,在这里是小数点)

票数 4
EN
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接:

https://stackoverflow.com/questions/35144224

复制
相关文章

相似问题

领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档