首页
学习
活动
专区
圈层
工具
发布
社区首页 >问答首页 >Oracle ROUND函数返回错误的值

Oracle ROUND函数返回错误的值
EN

Stack Overflow用户
提问于 2012-07-09 23:29:36
回答 3查看 6K关注 0票数 2

我在Oracle 11g数据库上运行此sql语句

代码语言:javascript
复制
select round(79/3 + 87/3 + 86/6 + 95/6) from dual

并返回85

代码语言:javascript
复制
select round(79/3 + 87/3 + 86/6 + 95/6,1) from dual

返回85.5

代码语言:javascript
复制
select round(85.5) from dual

返回正确的值86

有人知道为什么第一个SQL语句没有返回正确的值86,而是将其向下舍入为85吗?

EN

回答 3

Stack Overflow用户

回答已采纳

发布于 2012-07-09 23:37:15

如果您这样做了:

代码语言:javascript
复制
select 79/3 + 87/3 + 86/6 + 95/6 from dual;

甲骨文将返回85.49999999999999999999999999999999999999,当四舍五入到小数点后0位时,它实际上是85。它是浮点算术的产物。

票数 10
EN

Stack Overflow用户

发布于 2012-07-10 06:43:21

79/3 + 87/3 + 86/6 + 95/6将返回没有IEEE 754舍入行为的浮点运算。查看Number和Float here之间的区别

要获得正确的结果,您需要运行以下语句:

代码语言:javascript
复制
select round(to_number(79/3 + 87/3 + 86/6 + 95/6)) from dual;
票数 1
EN

Stack Overflow用户

发布于 2012-07-09 23:40:56

这看起来是一种奇怪的精确度损失。

代码语言:javascript
复制
SELECT 79/3 + 87/3 + 86/6 + 95/6 FROM DUAL

85.49999999999999999999999999999999999999

很明显,85.4会四舍五入到85。至于为什么Oracle在这种情况下失去了精度,我不确定。

票数 -1
EN
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接:

https://stackoverflow.com/questions/11398260

复制
相关文章

相似问题

领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档