首页
学习
活动
专区
圈层
工具
发布
社区首页 >问答首页 >Division和NSUInteger

Division和NSUInteger
EN

Stack Overflow用户
提问于 2009-03-14 17:11:14
回答 1查看 1.2K关注 0票数 0

我有一些涉及负值的计算:

代码语言:javascript
复制
row = (stagePosition - col) / PHNumRow;

假设行是-7,stagePosition是1,它们都是NSInteger,包括row。PHNumRow是8。

如果PHNumRow为NSInteger,我将得到预期的结果:-1。但如果PHNumRow为NSUInteger,则结果为垃圾。

除数是无符号的还是有符号的又有什么关系呢?我不会把结果放在一个无符号整型中。

EN

回答 1

Stack Overflow用户

回答已采纳

发布于 2009-03-14 17:42:53

因为整数提升。当计算右侧时,所有参数都将提升为表达式的最高类型的操作数,如果PHNumRow为无符号整数,则该类型的操作数将是无符号整数。编译器执行类似于以下内容的操作:

代码语言:javascript
复制
((NSUInteger)stagePosition - (NSUInteger)col) / PHNumRow;

因为,stagePosition是负的,所以有一个环绕式,你的计算就会爆炸!

票数 4
EN
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接:

https://stackoverflow.com/questions/646276

复制
相关文章

相似问题

领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档