我需要找到浮点数的模数。
为此,我使用
NSLog(@"value >> %f",fmodf(2.0f, 0.1f));其输出应为0.0f
但是我得到的输出值是>> 0.1
多么?
发布于 2013-03-16 19:19:01
编译器将源文本0.1f转换为最接近的可表示值。离.1最近的IEEE-754 32位浮点值( iOS使用的)是0.100000001490116119384765625。
使用参数2和0.100000001490116119384765625计算fmodf。从2中减去后一个值的19倍后,余数是0.099999971687793731689453125,这就是返回值。当它四舍五入到几位数用于显示时,结果是“0.1”。
https://stackoverflow.com/questions/15447006
复制相似问题