圆函数与算术溢出

Question

在MS SQL Server中，如果我

SELECT ROUND(9.4, 0), ROUND(8.6, 0), ROUND(10.6, 0)

我毫不奇怪地得到：

9.0 9.0 11.0

但如果我做了

SELECT ROUND(9.6, 0)

我得到：

Msg 8115，级别16，状态2，第1行算术溢出错误，将表达式转换为数据类型数值。

我知道我可以CAST(9.6 as DECIMAL(10,0))，但这是怎么回事？

提亚

Answer 1

SQL接受第一个参数作为数据类型，在本例中是DECIMAL(2,1)。预期的结果，即10.0，应该是DECIMAL(3,1)类型的，这就是您获得错误的原因。

尝试：

SELECT ROUND(cast(9.6 as decimal(2,1)), 0)

然后试着：

SELECT ROUND(cast(9.6 as decimal(3,1)), 0)

Answer 2

当你从9.6，它需要一个额外的数字存储数字。对于文字十进制值，在执行循环操作之前，必须将其转换为更宽的值。您可能期望此值被视为浮点值。如果您尝试round(9.6e, 0)，您将看到一个不同的行为。

与sql_variant_property一起玩以了解更多细节。显然，ceiling()和floor()没有同样的问题(可能是因为它们只输出整数和零尺度小数？)。这两个函数似乎保持了相同的精度，但将标度降到了零，这就为潜在的新地方留下了足够的空间。