我在Oracle 11g数据库上运行此sql语句
select round(79/3 + 87/3 + 86/6 + 95/6) from dual并返回85
select round(79/3 + 87/3 + 86/6 + 95/6,1) from dual返回85.5
select round(85.5) from dual返回正确的值86
有人知道为什么第一个SQL语句没有返回正确的值86,而是将其向下舍入为85吗?
发布于 2012-07-09 23:37:15
如果您这样做了:
select 79/3 + 87/3 + 86/6 + 95/6 from dual;甲骨文将返回85.49999999999999999999999999999999999999,当四舍五入到小数点后0位时,它实际上是85。它是浮点算术的产物。
发布于 2012-07-10 06:43:21
79/3 + 87/3 + 86/6 + 95/6将返回没有IEEE 754舍入行为的浮点运算。查看Number和Float here之间的区别
要获得正确的结果,您需要运行以下语句:
select round(to_number(79/3 + 87/3 + 86/6 + 95/6)) from dual;发布于 2012-07-09 23:40:56
这看起来是一种奇怪的精确度损失。
SELECT 79/3 + 87/3 + 86/6 + 95/6 FROM DUAL85.49999999999999999999999999999999999999
很明显,85.4会四舍五入到85。至于为什么Oracle在这种情况下失去了精度,我不确定。
https://stackoverflow.com/questions/11398260
复制相似问题