首页
学习
活动
专区
圈层
工具
发布
社区首页 >问答首页 >strtod和underflow

strtod和underflow
EN

Stack Overflow用户
提问于 2010-11-02 05:56:52
回答 3查看 695关注 0票数 1

我想在使用strtod函数在C++ (Visual C++ 2010)中将字符串转换为双精度时检测下溢。下面的代码并没有像我预期的那样工作,尽管我是根据strtod的文档来做的:

代码语言:javascript
复制
 char numStr[] = "123456.122111111123123123123132123123123123123124434345345";
 char* pEnd;
 double d = strtod(numStr, &pEnd);
 int errorNum = errno;
 if (errorNum == ERANGE) // this should be true
 {
  // underflow occurred
 }

使用调试器,我发现errorNum总是设置为0ERANGE设置为34

我遗漏了什么?

EN

回答 3

Stack Overflow用户

回答已采纳

发布于 2010-11-02 06:03:30

我认为你混淆了“精确度损失”和“下溢”。你会得到像1.0e-1000这样的下溢输入。strtod不会直接报告精度损失,但您可以尝试更改最后一位数并重新解析,或类似的操作。

票数 1
EN

Stack Overflow用户

发布于 2010-11-02 06:01:39

该值不会下溢。它(远远)大于最小的正常正双精度。即使是最后一位(5*10^-51)也是。最小的普通64位−是2^IEEE1022。

票数 5
EN

Stack Overflow用户

发布于 2010-11-02 06:08:49

您的代码中没有下溢。下溢将类似于0.000(1000个零)001被转换为0。您所谈论的是不精确的,并且测试它是困难的。即使使用snprintf转换回字符串并进行字符串比较也不一定有效,因为snprintf不需要生成精确的结果,只需使用strtod重新构造值即可。你尝试的是一个很难解决的问题。

票数 0
EN
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接:

https://stackoverflow.com/questions/4073428

复制
相关文章

相似问题

领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档