我正在开发一个将用于运动控制的代码,并且我对pow函数有一个问题。我正在使用VS2010作为IDE。
我的问题是:我有:
double p = 100.0000;
double d = 1000.0000;
t1 = pow((p/(8.0000*d),1.00/4.000);在计算最后一个函数时,我没有得到更好的近似结果。我得到了一个7小数位正确的数字,随后的数字都是垃圾。我猜想pow函数只将任何输入变量转换为float,并进行计算。
编辑:解决了。
毕竟,我在FPU配置位上遇到了问题,这是由Direct3D造成的,OGR3D框架正在使用它。
如果使用食人魔,在配置图形用户界面上,只需设置“浮点mode=Consistent”。
如果使用原始Direct3D,则在调用CreateDevice时,请确保将"D3DCREATE_FPU_PRESERVE“标志传递给它。
原始员额:
您可能正在使用libray将FPU的默认精度更改为单精度。那么,所有浮点运算,即使是双倍运算,实际上都将作为单精度运算来执行. 作为测试,您可以在执行计算之前尝试调用_controlfp( _CW_DEFAULT,0xfffff );(需要包括),以查看是否得到了正确的结果。这将将浮点控制字重置为默认值。注意,它也会重置其他设置,这可能会导致问题。 改变浮点精度的一个常见库是Direct3D 9(可能还有其他版本):默认情况下,它在创建设备时将FPU更改为单精度。如果使用它,则在创建设备时指定标志D3DCREATE_FPU_PRESERVE,以防止它更改FPU的精度。
发布于 2012-07-17 15:45:13
您可能正在使用libray将FPU的默认精度更改为单精度。那么所有浮点操作,即使是在double上,实际上都将作为单精度操作来执行.
作为测试,您可以在执行计算之前尝试调用_controlfp( _CW_DEFAULT, 0xfffff ); (需要包括<float.h>),以查看是否得到了正确的结果。这将将浮点控制字重置为默认值。注意,它也会重置其他设置,这可能会导致问题。
改变浮点精度的一个常见库是Direct3D 9(可能还有其他版本):默认情况下,它在创建设备时将FPU更改为单精度。如果使用它,则在创建设备时指定标志D3DCREATE_FPU_PRESERVE,以防止它更改FPU的精度。
发布于 2012-07-17 15:31:02
你怎么确定你只有7位数的精确度?是否打印t1并指定正确的输出格式?在我的机器上,使用VS2010,下面的代码如下:
int main()
{
double p = 100.0000;
double d = 1000.0000;
double t1 = pow(p/(8.0000*d),1.00/4.000);
printf("t1=%.15f\n", t1); // C
std::cout << "t1=" << std::setprecision(15) << t1 << '\n'; // C++
}产生这个输出:
t1=0.334370152488211
t1=0.334370152488211https://stackoverflow.com/questions/11524536
复制相似问题