首页
学习
活动
专区
圈层
工具
发布
社区首页 >问答首页 >ios执行大数值计算

ios执行大数值计算
EN

Stack Overflow用户
提问于 2012-12-03 17:23:04
回答 1查看 467关注 0票数 0

我只是将ios中的两个非常大的值相乘。

代码语言:javascript
复制
            value 1 999999999999
            value 2 99999

我使用的数据类型为double long,即long long,这只适用于太大的值,但不适用于10*23之类的小值,我得到了不同的答案示例

代码语言:javascript
复制
           10.0*111.5 actual value in calculator is 1115 but i wat i get is 1110

请帮助我,我也想把我的答案四舍五入到像%.3f这样的地方

EN

回答 1

Stack Overflow用户

回答已采纳

发布于 2012-12-03 17:30:11

这可能就是您正在做的事情

代码语言:javascript
复制
long long left = 111.5; //Not good!  Will truncate to 111
long long right = 10.0; //10
long long result = left * right; //111 * 10 = 1110

这就是你应该做的

代码语言:javascript
复制
double left = 111.5;
double right = 10.0;
double result = left * right; //111.5 * 10.0 = 1115.0

如果由于某种原因,double还不够,你可以使用long double

票数 1
EN
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接:

https://stackoverflow.com/questions/13680267

复制
相关文章

相似问题

领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档