首页
学习
活动
专区
圈层
工具
发布
社区首页 >问答首页 >C++:长时间用小数浮动?

问C++:长时间用小数浮动?
EN

Stack Overflow用户
提问于 2013-11-21 09:36:10
回答 2查看 11.2K关注 0票数 0

我有一个以long为参数的函数,我希望它以float的形式返回带有七个小数的数字。

这个long进入函数: 631452947,我希望这个函数转换它并返回这个float:63.1452947

我该怎么做?

我试过这样做:

代码语言:javascript
复制
float makeLatLon (long val) {
    float tzt = (float)val/10000000.0;
    return tzt;
}

但不起作用。

EN

回答 2

Stack Overflow用户

回答已采纳

发布于 2013-11-21 09:50:25

逗号后面的7位表示精度总数的9位,而在平台上的float中,只有7位的精度,而在平台上,这是IEEE 32位FP类型(几乎无处不在)。使用double

代码语言:javascript
复制
long n = 631452947;
float f = n / 10000000.f;
double d = n / 10000000.;

std::cout << std::setprecision(9)
          << f << std::endl
          << d << std::endl;

在我的盒子上,上面有指纹

代码语言:javascript
复制
63.1452942
63.1452947

因此,您可以看到,使用float会导致舍入错误。

票数 5
EN

Stack Overflow用户

发布于 2013-11-21 10:19:38

IEEE-754双规范和变体不能确保任何数字都有7位数字,因为双的密度不连续,所以在这里,double也不是一个好的选择。您可能需要考虑构建您的固定精度数学,只使用整数,并使用如下结构:

代码语言:javascript
复制
typedef struct { int int_part, unsigned long dec_part } myfloat;
票数 1
EN
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接:

https://stackoverflow.com/questions/20117193

复制
相关文章

相似问题

领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档