我有样本代码
double k=3.14, l=0.5, m=1.3333;
System.out.println(k+":"+k%1);
System.out.println(l+":"+l%1);
System.out.println(m+":"+m%1);其结果是产出:
3.14:0.14000000000000012
0.5:0.5
1.3333:0.33329999999999993为什么会这样呢?我期望x%1返回x值的非整数部分?
发布于 2016-11-11 07:08:53
请参阅Is floating point math broken?
二进制浮点数学就是这样。在大多数编程语言中,它是基于IEEE 754标准的。JavaScript使用64位浮点表示,这与Java的double相同.问题的症结在于,数字以这种格式表示为整数乘以2的幂;分母不是2的幂的有理数(如0.1,即1/10)不能精确表示。
https://stackoverflow.com/questions/40542804
复制相似问题