首页
学习
活动
专区
圈层
工具
发布
社区首页 >问答首页 >CGFloat bug?

CGFloat bug?
EN

Stack Overflow用户
提问于 2011-09-05 05:57:22
回答 1查看 2K关注 0票数 5

我试图在我的程序中递归地添加一些CGFloat值。我刚刚意识到在一个特定的场景中,生成的总数是不正确的。为了确保我的程序逻辑中没有错误,我创建了该场景的一个简单示例(见下文),并输出了相同的错误值。

代码语言:javascript
复制
CGFloat arr[3] = {34484000,512085280,143011440};
CGFloat sum = 0.0;
sum = arr[0] + arr[1] + arr[2];

NSLog(@"%f",sum);

int arr1[3] = {34484000,512085280,143011440};
int sum1 = 0.0;
sum1 =  arr1[0] + arr1[1] + arr1[2];

NSLog(@"%d",sum1);

第一个NSLog打印689580736.000000...while正确的结果689580720。但是,第二个NSLog打印正确的结果。我不确定这是一个bug,还是我做错了什么。

谢谢,穆拉利

EN

回答 1

Stack Overflow用户

回答已采纳

发布于 2011-09-05 06:00:52

CGFloat是像iOS这样的32位目标上的单精度浮点数-它只有23位尾数,即大约6-7个有效数字。如果需要更高的精度,请使用双精度类型。

在进一步学习编程之前,您可能应该阅读David Goldberg的What Every Computer Scientist Should Know About Floating-Point Arithmetic

票数 12
EN
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接:

https://stackoverflow.com/questions/7302384

复制
相关文章

相似问题

领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档