这就是为什么floor(52/log2(10))或15位的double应该是正确的,而floor(63/log2(10))或19位的long double是可信的。
代码:
int main()
{
double d=0.1;
long double ld=0.1;
std::cout.precision(19);
std::cout.setf(std::ios_base::scientific);
std::cout << d << std::endl;
std::cout << ld << std::endl;
return 0;
}给出输出:
1.0000000000000000555e-01
1.0000000000000000555e-01如果我们将cout.precision设置为16,则输出将为:
1.0000000000000001e-01
1.0000000000000001e-01但是为什么它对long double是不正确的呢?有没有办法获得long double变量的所有19个正确的数字?
如果我尝试printf("%.19Le\n",ld);长双精度,我会得到完全相同的结果。
我使用OpenSUSE 12.1和g++ 4.6.2。
发布于 2012-12-02 02:51:40
0.1文字常量不是长双精度型,它可能是双精度型。
您可能希望使用以下命令初始化ld
long double ld = (long double) 1.0 / (long double) 10.0;因此,除法涉及两个长双精度操作数,因此希望在长双精度中完成(我不确定这一点,您必须仔细检查适当的C++标准)。
您可能希望编译时使用支持最新标准的GCC。对于GCC 4.7,我建议使用g++ -Wall -std=c++11编译,但是对于4.6,您可能需要说-std=c++0x
https://stackoverflow.com/questions/13662554
复制相似问题