我有一个以long为参数的函数,我希望它以float的形式返回带有七个小数的数字。
这个long进入函数: 631452947,我希望这个函数转换它并返回这个float:63.1452947
我该怎么做?
我试过这样做:
float makeLatLon (long val) {
float tzt = (float)val/10000000.0;
return tzt;
}但不起作用。
发布于 2013-11-21 09:50:25
逗号后面的7位表示精度总数的9位,而在平台上的float中,只有7位的精度,而在平台上,这是IEEE 32位FP类型(几乎无处不在)。使用double
long n = 631452947;
float f = n / 10000000.f;
double d = n / 10000000.;
std::cout << std::setprecision(9)
<< f << std::endl
<< d << std::endl;在我的盒子上,上面有指纹
63.1452942
63.1452947因此,您可以看到,使用float会导致舍入错误。
发布于 2013-11-21 10:19:38
IEEE-754双规范和变体不能确保任何数字都有7位数字,因为双的密度不连续,所以在这里,double也不是一个好的选择。您可能需要考虑构建您的固定精度数学,只使用整数,并使用如下结构:
typedef struct { int int_part, unsigned long dec_part } myfloat;https://stackoverflow.com/questions/20117193
复制相似问题