我正在为金融应用程序的自动化测试创建脚本。
使用VbScript作为语言。
需要处理大的浮点数(超过100亿)-进行加法、乘法等操作。但是vbscript没有用于大数的数据类型。
对于这个问题,请给我任何解决方案或解决办法。
也许以前有人遇到过这个问题?
谢谢!
发布于 2010-06-17 21:58:51
VBScript有一些适用于大数的数据类型。在您的示例中,您可能希望使用Double。这是一个概述:http://www.csidata.com/custserv/onlinehelp/vbsdocs/vbs0.htm
发布于 2010-12-17 00:49:47
使用这一点:
function mmod(a,moduloValue)
dim k,t
k=CDbl(a)
t=Fix(k/moduloValue)
mmod = k-(t*moduloValue)
end function
msgbox mmod(4010051786300000078934,1024)输出: 86
msgbox mmod(4010051786300000078934,2)输出:0
发布于 2014-11-28 00:41:45
@Rob的链接很好,但他对数据类型的选择是危险的。使用货币类型,因为它在内部由固定点数字表示。
如果您需要超过4个小数点,则您将面临以下两种情况之一:
二进制浮点数不能准确地表示十进制数,最终可能会出现舍入错误,从而使数据无效。如果您想了解详细信息,请参阅Why not use Double or Float to represent currency?。
https://stackoverflow.com/questions/3062212
复制相似问题