首页
学习
活动
专区
圈层
工具
发布
社区首页 >问答首页 >NSExpression返回不正确的值

NSExpression返回不正确的值
EN

Stack Overflow用户
提问于 2015-01-10 19:09:17
回答 1查看 74关注 0票数 0

我正在使用NSExpression进行一些计算,但是如果输入值很大,例如,它会重新调整不正确的值

例如,

代码语言:javascript
复制
NSString *equation = @"9999999999999 * 9999999999999"
NSExpression *expression = [NSExpression expressionWithFormat:equation]; //
id result = [expression expressionValueWithObject:nil context:nil]; //result is "-2537784290115403775"

如果等式应该是@"9 * 9“,那么它返回18。如果输入更大,为什么它返回不正确的值。

如果我理解错了,请纠正我。

EN

回答 1

Stack Overflow用户

发布于 2015-01-10 19:33:52

我认为这是因为您的计算结果不能存储在

64 bit data type64 bit数据类型signed int数据类型只能存储从-2^632^63-1的数字。表达式的结果明显高于最大限制。

票数 0
EN
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接:

https://stackoverflow.com/questions/27875549

复制
相关文章

相似问题

领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档