首页
学习
活动
专区
圈层
工具
发布
社区首页 >问答首页 >如何使用vbscript处理大数

如何使用vbscript处理大数
EN

Stack Overflow用户
提问于 2010-06-17 21:54:10
回答 4查看 4.6K关注 0票数 0

我正在为金融应用程序的自动化测试创建脚本。

使用VbScript作为语言。

需要处理大的浮点数(超过100亿)-进行加法、乘法等操作。但是vbscript没有用于大数的数据类型。

对于这个问题,请给我任何解决方案或解决办法。

也许以前有人遇到过这个问题?

谢谢!

EN

回答 4

Stack Overflow用户

回答已采纳

发布于 2010-06-17 21:58:51

VBScript有一些适用于大数的数据类型。在您的示例中,您可能希望使用Double。这是一个概述:http://www.csidata.com/custserv/onlinehelp/vbsdocs/vbs0.htm

票数 0
EN

Stack Overflow用户

发布于 2010-12-17 00:49:47

使用这一点:

代码语言:javascript
复制
function mmod(a,moduloValue)
  dim k,t
  k=CDbl(a)
  t=Fix(k/moduloValue)
  mmod = k-(t*moduloValue)
end function

msgbox mmod(4010051786300000078934,1024)

输出: 86

代码语言:javascript
复制
msgbox mmod(4010051786300000078934,2)

输出:0

票数 1
EN

Stack Overflow用户

发布于 2014-11-28 00:41:45

@Rob的链接很好,但他对数据类型的选择是危险的。使用货币类型,因为它在内部由固定点数字表示。

如果您需要超过4个小数点,则您将面临以下两种情况之一:

  • 需要更改语言(Java、C#和其他语言支持像BigDecimal这样的名称的数据类型,这些数据类型适合并且可能具有更高的精度)
  • 需要编写一个我强烈反对的定制库(它必须是无懈可击的,否则您仍然在破坏您的数据)。

二进制浮点数不能准确地表示十进制数,最终可能会出现舍入错误,从而使数据无效。如果您想了解详细信息,请参阅Why not use Double or Float to represent currency?

票数 1
EN
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接:

https://stackoverflow.com/questions/3062212

复制
相关文章

相似问题

领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档