首页
学习
活动
专区
圈层
工具
发布
社区首页 >问答首页 >使用PrestoSQL的32位或64位浮点除法

问使用PrestoSQL的32位或64位浮点除法
EN

Stack Overflow用户
提问于 2019-11-13 18:58:14
回答 2查看 695关注 0票数 2

在Presto SQL中,SELECT 1 / 3返回0,因为/执行整数除法。

但是SELECT 1.0 / 3返回0.3..。如何获取0.3333333333?(更具体地说,32位或64位精度,而不是第一个小数截断?)

EN

回答 2

Stack Overflow用户

回答已采纳

发布于 2019-11-13 19:00:07

你可以在除法前使用cast()。

要获得64位精度,请执行以下操作:

代码语言:javascript
复制
select cast(1 as double) / 3

要获得32位精度,请执行以下操作:

代码语言:javascript
复制
select cast(1 as real) / 3
票数 1
EN

Stack Overflow用户

发布于 2019-11-13 19:00:40

我认为字面上的1.0被视为DECIMAL(2, 1)。您可以改用浮点字面量:

代码语言:javascript
复制
SELECT REAL '1'   / 3 -- '1' is a 32-bit float
SELECT DOUBLE '1' / 3 -- '1' is a 64-bit float
SELECT 1e0        / 3 -- scientific notation implies 64-bit float
票数 2
EN
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接:

https://stackoverflow.com/questions/58835604

复制
相关文章

相似问题

领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档