首页
学习
活动
专区
圈层
工具
发布
社区首页 >问答首页 >对于64位整数值来说,幂(2,39)附近的数字怎么会太大呢?

对于64位整数值来说,幂(2,39)附近的数字怎么会太大呢?
EN

Stack Overflow用户
提问于 2021-03-01 21:22:58
回答 1查看 54关注 0票数 0

我正在使用Progress-4GL,release 11.6,appBuilder和procedure editor。

我有一个值为"1000000000000“的字符串,我希望将其转换为整数。

首先,我尝试使用一个简单的转换来完成此操作,但这不起作用:

代码语言:javascript
复制
Result = INT(value). => runtime error 15747.

因为前面提到的值大约是

似乎用于32位值,这似乎是正确的。

因此,我决定使用更大的数据类型,

,但这似乎给出了相同的错误消息:

代码语言:javascript
复制
Result = INT64(value). => again runtime 15747.

这怎么可能呢?64位整数怎么可能不能保持值

哦,如果你想知道我是在创建32位应用程序还是64位应用程序,我不知道,我怎么能从procedure editor/appBuilder中知道呢?

提前感谢

EN

回答 1

Stack Overflow用户

回答已采纳

发布于 2021-03-01 21:41:51

ABL并不依赖于INT64运行时(32或64位)的进程架构。AVM会隐藏这些细节。ABL INT64可以保持在-9223372036854775808到9223372036854775807之间

这在这里运行得很好。我甚至加了几个零。

代码语言:javascript
复制
DEFINE VARIABLE i AS INT64 NO-UNDO.

ETIME (YES)   .

i = INT64 ("1000000000000") .

MESSAGE "time" ETIME SKIP 
        "i" i 
    VIEW-AS ALERT-BOX INFORMATION BUTTONS OK.
    
    
ETIME (YES)   .

i = INT64 ("100000000000000000") .

MESSAGE "time" ETIME SKIP 
        "i" i 
    VIEW-AS ALERT-BOX INFORMATION BUTTONS OK.

你的变量结果是定义为INTEGER还是INT64?

票数 1
EN
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接:

https://stackoverflow.com/questions/66422930

复制
相关文章

相似问题

领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档