对于相同的代码,我在VB 6和VB.NET中得到了两个不同的结果,它处理除法操作。
ABC = 9.999728
result = IIf(ABC <> 0, 1 / ABC, 10 ^ 10)在VB6中,我得到了结果= 0.1000027
在VB.NET中,结果是0.100002721
然而,当我在CSng(Val(CStr(result)))中使用VB.NET时,我得到了0.1000027。
1)为什么VB.NET产生的精度与VB6不同?
2)为什么CSng(Val(CStr(result)))产生与VB6相同的精度?
3)这看起来既简单又琐碎,但这个问题是重复的,并传播到我的最终结果,这与VB6中的等价结果不同。我是否可以安全地假设VB.NET结果比VB6更精确,并完全丢弃VB6结果?
发布于 2015-06-08 20:59:09
在VB6中:
Dim ABC, result
ABC = 9.999728
result = IIf(ABC <> 0, 1 / ABC, 10 ^ 10)
MsgBox result显示:
0.100002720073986随机使用CSng()当然会截断精度,应该像瘟疫一样避免过时的Val()函数。如果您想要一个双人,那么使用CDbl()代替。
https://stackoverflow.com/questions/30670540
复制相似问题