我试图在我的程序中递归地添加一些CGFloat值。我刚刚意识到在一个特定的场景中,生成的总数是不正确的。为了确保我的程序逻辑中没有错误,我创建了该场景的一个简单示例(见下文),并输出了相同的错误值。
CGFloat arr[3] = {34484000,512085280,143011440};
CGFloat sum = 0.0;
sum = arr[0] + arr[1] + arr[2];
NSLog(@"%f",sum);
int arr1[3] = {34484000,512085280,143011440};
int sum1 = 0.0;
sum1 = arr1[0] + arr1[1] + arr1[2];
NSLog(@"%d",sum1);第一个NSLog打印689580736.000000...while正确的结果689580720。但是,第二个NSLog打印正确的结果。我不确定这是一个bug,还是我做错了什么。
谢谢,穆拉利
发布于 2011-09-05 06:00:52
CGFloat是像iOS这样的32位目标上的单精度浮点数-它只有23位尾数,即大约6-7个有效数字。如果需要更高的精度,请使用双精度类型。
在进一步学习编程之前,您可能应该阅读David Goldberg的What Every Computer Scientist Should Know About Floating-Point Arithmetic。
https://stackoverflow.com/questions/7302384
复制相似问题