首页
学习
活动
专区
圈层
工具
发布
社区首页 >问答首页 >使用Math.Net.Numerical将1添加到一个小的双返回1

使用Math.Net.Numerical将1添加到一个小的双返回1
EN

Stack Overflow用户
提问于 2017-01-03 23:56:44
回答 1查看 78关注 0票数 0

当我将一个小的双倍加到1时,结果是1:

代码语言:javascript
复制
tmpResult[q] = 7.8879654121609884E-88  

tmpResult[q] = tmpResult[q] + 1.0;

tmpResultq = 1

我知道双倍只有18精度,但我使用的是Math.Net.Numerical。

而且它只能使用double (int可选)。

有什么问题吗?

EN

回答 1

Stack Overflow用户

回答已采纳

发布于 2017-01-04 00:24:45

没有问题。

IEEE754的1.0的双重精度表示是

0x3F000000000

下一个最大的double

0x3F00000000001

,它的十进制值为

1.0000000000000002220446049250

您要表示的数字是

1.0000000000000000000000000000000000000000000000000000000000‌​00000000000000000000‌​00000000007887965....

与此值最接近的双精度数字是1.0,因此它是从操作中正确返回的值。

票数 2
EN
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接:

https://stackoverflow.com/questions/41454199

复制
相关文章

相似问题

领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档