首页
学习
活动
专区
圈层
工具
发布
社区首页 >问答首页 >火花十进制精度和刻度在铸造时似乎是错误的

火花十进制精度和刻度在铸造时似乎是错误的
EN

Stack Overflow用户
提问于 2019-09-27 23:31:29
回答 1查看 8.9K关注 0票数 5

阅读文档,星火DataType BigDecimal(精度,比例尺)意味着

  • Precision是数字的总数,
  • Scale是小数点之后的数字数。

所以当我将一个值转换为十进制时

代码语言:javascript
复制
scala> val sss = """select cast(1.7142857343 as decimal(9,8))"""
scala> spark.sql(sss).show
+----------------------------------+
|CAST(1.7142857343 AS DECIMAL(9,8))|
+----------------------------------+
|                        1.71428573|  // It has 8 decimal digits
+----------------------------------+

但是,当我将值转换到10.0以上时,就会得到NULL

代码语言:javascript
复制
scala> val sss = """select cast(12.345678901 as decimal(9,8))"""
scala> spark.sql(sss).show
+----------------------------+
|CAST(11.714 AS DECIMAL(9,8))|
+----------------------------+
|                        null|
+----------------------------+

我预计结果将是12.3456789

为什么它是空的?为什么精度不是implemented??

EN

回答 1

Stack Overflow用户

回答已采纳

发布于 2019-09-28 03:43:54

为了在内部转换十进制火花,提供的模式小数点(9,8)大于12.345678901实际模式小数(11,9)。如果是,这意味着数字可以安全地转换到提供的模式中,而不会丢失任何精度或范围。看看org.apache.spark.sql.types.DecimalType.isWiderThan()

但是,在上述情况下,不能将十进制(11,9)转换为十进制(9,8),因此它将返回null。

代码语言:javascript
复制
//MAX_PRECISION = 38
val sss = """select cast(12.345678901 as decimal(38,7))"""
spark.sql(sss1).show(10)
+-----------------------------------+
|CAST(12.345678901 AS DECIMAL(38,8))|
+-----------------------------------+
|                         12.3456789|
+-----------------------------------+
票数 5
EN
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接:

https://stackoverflow.com/questions/58142233

复制
相关文章

相似问题

领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档