在Progress 4GL中，有没有一种方法可以将字符串转换为小数而不损失任何精度？

Question

假设我需要将字符变量"0.0000000001“转换为小数。但如果我写出以下逻辑：

define variable tinyChar as character initial "0.0000000001" no-undo.
define variable tinyNum as decimal no-undo.

assign tinyNum = decimal(tinyChar).

display tinyNum.

它产生这样的结果：

0.00

因此，这肯定不是解决方案，截断也只会删除我试图保留的数据。有人知道如何保持小数的精确度吗？它不一定要在这里到第一百亿位是如此疯狂的情况，但至少有7或8个数字的精度将有助于我的问题。

Answer 1

变量( DEFINE VARIABLE语句)缺省为最多10位小数，因此您不需要实际声明精度。

您的问题实际上是显示格式与内部数据表示和精度解耦(对于许多其他字段和可变属性，如字符串宽度，也是如此)。

这是一个特性。但对于刚接触OpenEdge的人来说，这是一个经常被绊倒的问题。通常认为显示格式限制了字段或变量的存储。事实并非如此。(对于任何使用SQL访问数据的人来说，这非常令人恼火。)

您可以像Mike指出的那样，通过更改定义变量来更改变量的默认格式，也可以在任何单独的显示中覆盖该格式。

因此，对代码所需的最小更改是：

define variable tinyChar as character initial "0.0000000001" no-undo.
define variable tinyNum as decimal no-undo.

assign tinyNum = decimal(tinyChar).

display tinyNum format "9.9999999999".

无论显示格式如何，您可能对该变量进行的任何计算都将使用全部10位小数。

在数据库模式(而不是变量)中定义的小数字段默认为2位小数。您可以在创建它们时进行更改。

分配给小数字段或变量的计算值将四舍五入为定义的精度。

Answer 2

根据doc1，DECIMAL类型最多存储10位小数。如果你有更多的值，我想它会截断这个值。

1

Answer 3

定义DECIMAL变量时，请尝试使用DECIMALS和FORMAT选项：

define variable tinyChar as character initial "0.0000000001" no-undo.
define variable tinyNum  as decimal                          no-undo
            DECIMALS 10 FORMAT "9.9999999999".

assign tinyNum = decimal(tinyChar).

display tinyNum.