Dashdb轮问题

Question

我们正在执行下面的查询来获取一些聚合数据，问题是对于一些行，舍入是很好的，但对于某些行，舍入不起作用，并且在小数后显示10位数字。所选列的数据类型为integer，并且数据正确，请帮助我们解决问题。

Select
round( 
 DOUBLE(sum(IDEAL_CYCLE_TIME)) * DOUBLE(sum(PARTS_PRODUCED_COUNT)) 
 / DOUBLE(sum(RUNNING_TIME_COUNT))*100,
 2)  as value  
From PERFORMANCE_AGGR_MONTH_FACT 
Where ORG_DIM='O1' AND MONTH_NUMBER BETWEEN 1 AND 10 

Answer 1

我相信这种行为是因为您选择将数字转换为数据类型DOUBLE，这是实数的近似值。因此，内置的ROUND函数可能会返回一个“意想不到”的结果，就像您观察到的那样。例如

SELECT ROUND((DOUBLE(1) * DOUBLE(1)) / DOUBLE(1)*100, 2) FROM SYSIBM.SYSDUMMY1 

在我的环境100.00000000000001中返回。

您可以使用数据类型DECIMAL来代替吗？