我试图用以下简单的查询将800万浮点(REAL)值相加:
SELECT SUM(metric) FROM metrics;然而,它返回非常不准确的结果。它应该返回137,586.77,但它返回137,303 (283.77差)
有没有办法迫使查询更加精确?
发布于 2013-03-27 10:13:14
根据实际数据类型http://www.postgresql.org/docs/9.2/static/datatype-numeric.html#DATATYPE-FLOAT的文档,它的精度为6小数位。这就是你所看到的。如果您需要更高的精度,您需要使用双或一个固定精度的数字。
也许把结果加到更精确的东西上,然后把结果加起来,你就能得到你所需要的。
SELECT SUM(metric::double) FROM metrics;发布于 2015-07-15 05:35:43
根据postgresql文档,
如果需要精确的存储和计算(例如货币金额),则使用数字类型。
由于使用了真正的数据类型,所以可以将实际值转换为数字。然后你就能得到你所期望的结果。
SELECT SUM(metric::NUMERIC) FROM metrics;发布于 2017-10-25 04:31:03
从度量中选择SUM(度量::浮点数);
https://dba.stackexchange.com/questions/37658
复制相似问题