首页
学习
活动
专区
圈层
工具
发布
社区首页 >问答首页 >用于获取Modulo的fmodf问题

用于获取Modulo的fmodf问题
EN

Stack Overflow用户
提问于 2013-03-16 16:02:27
回答 1查看 126关注 0票数 0

我需要找到浮点数的模数。

为此,我使用

代码语言:javascript
复制
NSLog(@"value >> %f",fmodf(2.0f, 0.1f));

其输出应为0.0f

但是我得到的输出值是>> 0.1

多么?

EN

回答 1

Stack Overflow用户

发布于 2013-03-16 19:19:01

编译器将源文本0.1f转换为最接近的可表示值。离.1最近的IEEE-754 32位浮点值( iOS使用的)是0.100000001490116119384765625。

使用参数2和0.100000001490116119384765625计算fmodf。从2中减去后一个值的19倍后,余数是0.099999971687793731689453125,这就是返回值。当它四舍五入到几位数用于显示时,结果是“0.1”。

票数 4
EN
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接:

https://stackoverflow.com/questions/15447006

复制
相关文章

相似问题

领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档