首页
学习
活动
专区
圈层
工具
发布
社区首页 >问答首页 >vb6中双重计算的不正确值

问vb6中双重计算的不正确值
EN

Stack Overflow用户
提问于 2022-01-07 06:52:04
回答 1查看 183关注 0票数 2

当在vb6中添加2个值时,我会得到一些奇怪的行为。

在“立即”窗口中为不同情况打印变量和(类型为double)时,如下所示。

我得到的结果是:

代码语言:javascript
复制
sum =0                      sum =0                      sum =0 
sum =74.46+0.41             sum = 74.87                 sum=97.8+0.41
?sum                        ?sum =74.87                 ?sum
74.87                       TRUE                        98.21
?sum =74.87                                             sum=98.21
FALSE                                                   TRUE

在vb.net中检查相同的结果时,结果如下所示:

代码语言:javascript
复制
sum =0                      sum =0                      sum =0  
?sum                        sum = 74.87                 sum=97.8+0.41   
0                           ?sum =74.87                 ?sum    
sum =74.46+0.41             TRUE                        98.21   
?sum                                                    ?sum=98.21  
74.8699999999999                                        TRUE

根据以上结果,我们可以说结果"False“,因为在vb6中,值等于74.8699999999999。

  1. 为什么在vb6结果中显示为74.87?
  2. ,在vb.net情况下期望值=74.87,但实际值=74.8699999999999 为什么错误只发生在某些值上?
  3. ,这种行为发生在哪个值?

G 213

EN

回答 1

Stack Overflow用户

发布于 2022-01-11 19:23:42

VB6中的货币类型允许四位小数位数,比.net的小数位数好两位,但不像.net小数位数那么多,而且比浮点的numbers.At最小值要慢得多:四位数字有时不足以存储与货币相关的值,我不得不用欧元分值美分处理的一些单价需要更多的数字。

和=0@

和=74.46@+0.41@

?和

74.87

?sum =74.87@

真的

票数 1
EN
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接:

https://stackoverflow.com/questions/70617554

复制
相关文章

相似问题

领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档