首页
学习
活动
专区
圈层
工具
发布
社区首页 >问答首页 >如何使postgresql和更准确地处理大量浮点数据?

问如何使postgresql和更准确地处理大量浮点数据?
EN

Database Administration用户
提问于 2013-03-27 09:34:33
回答 3查看 19.3K关注 0票数 7

我试图用以下简单的查询将800万浮点(REAL)值相加:

代码语言:javascript
复制
SELECT SUM(metric) FROM metrics;

然而,它返回非常不准确的结果。它应该返回137,586.77,但它返回137,303 (283.77差)

有没有办法迫使查询更加精确?

EN

回答 3

Database Administration用户

回答已采纳

发布于 2013-03-27 10:13:14

根据实际数据类型http://www.postgresql.org/docs/9.2/static/datatype-numeric.html#DATATYPE-FLOAT的文档,它的精度为6小数位。这就是你所看到的。如果您需要更高的精度,您需要使用双或一个固定精度的数字。

也许把结果加到更精确的东西上,然后把结果加起来,你就能得到你所需要的。

代码语言:javascript
复制
SELECT SUM(metric::double) FROM metrics;
票数 8
EN

Database Administration用户

发布于 2015-07-15 05:35:43

根据postgresql文档,

如果需要精确的存储和计算(例如货币金额),则使用数字类型。

由于使用了真正的数据类型,所以可以将实际值转换为数字。然后你就能得到你所期望的结果。

代码语言:javascript
复制
SELECT SUM(metric::NUMERIC) FROM metrics;
票数 9
EN

Database Administration用户

发布于 2017-10-25 04:31:03

从度量中选择SUM(度量::浮点数);

票数 -6
EN
页面原文内容由Database Administration提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接:

https://dba.stackexchange.com/questions/37658

复制
相关文章

相似问题

领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档