首页
学习
活动
专区
圈层
工具
发布
社区首页 >问答首页 >在C#中使用浮点数计算财务价值的问题

问在C#中使用浮点数计算财务价值的问题
EN

Stack Overflow用户
提问于 2015-06-05 13:54:55
回答 3查看 894关注 0票数 0

我正在读一篇关于浮点数和双精度数之间区别的文章。他们给出了一个例子如下:

假设你有一件100美元的商品,你给了10%的折扣。您的价格都是以美元表示的,所以您使用int变量来存储价格。下面是你得到的结果:

代码语言:javascript
复制
int fullPrice = 100;
float discount = 0.1F;
Int32 finalPrice = (int)(fullPrice * (1-discount));
Console.WriteLine("The discounted price is ${0}.", finalPrice);

猜猜看:最终价格是89美元,而不是预期的90美元。你的客户会很高兴,但你不会。你已经给了他们额外的1%的折扣。

在上面的例子中,为了计算最终价格,他们使用了fullPrice * (1-discount)。他们为什么使用(1-disocunt)?应该是fullPrice * discount。

所以我的困惑是关于计算最终价格的逻辑。为什么他们使用(1-discount)而不是discount?

EN

回答 3

Stack Overflow用户

发布于 2015-06-05 14:03:08

最终价格是89美元,而不是预期的90美元

这是因为当0.1为float时,它并不完全是0.1,而是更多一点。当你从1中减去它来做数学运算时,你得到了$89.9999998509884。转换为int会将结果截断为89 (demo)。

您可以通过对您的折扣使用decimal数据类型来实现此功能。此类型可以表示0.1而不会造成精度损失(demo)。

他们使用(1-disocunt)的原因

1代表100%。打折后价格为(100%-10%)=90%

票数 1
EN

Stack Overflow用户

发布于 2015-06-05 13:59:18

这个问题实际上是关于数学的。

让我们建议你有一件100美元的商品。

卖家给你打九折。

现在你需要计算一件商品的最终价格。也就是说,你应该给多少钱才能得到它?

答案是:你需要支付商品的全价减去折扣价格。

100%成本- 10%折扣= 90%最终价格

这就是为什么它是fullPrice * (1 - discount)。

如果您使用公式fullPrice * discount计算它,那么这将意味着100美元的商品将由于10%的折扣而以10美元的价格出售-这是不正确的。实际上,这个公式fullPrice * discount可以用来计算贴现金额。

票数 0
EN

Stack Overflow用户

发布于 2015-06-05 15:43:55

上述示例的总体逻辑没有任何问题,但它确实有非常不幸的数据类型选择。这导致这些值被隐式转换为双精度,从而在过程中引入了轻微的舍入误差。通过转换回int,结果被截断。这极大地放大了舍入误差。

这是一个很好的例子,说明了在编程中处理财务价值时经常出现的问题:

浮点值不能很好地转换为小数。

大多数新开发人员倾向于将浮点值视为小数,因为在将浮点值转换为字符串时,它们大多由小数表示,反之亦然。事实并非如此。浮点值的小数部分存储为二进制小数,描述为here。

这使得浮点值(和它们的计算)与它们的小数表示略有偏差。这就是为什么下面的结果是$89,9999998509884:

代码语言:javascript
复制
double fullPrice = 100;
double discount = 0.1F;
double finalPrice = (fullPrice * (1 - discount));
Console.WriteLine("The discounted price is ${0}.", finalPrice);

有趣的事实:当使用float作为数据类型时,上述方法可以很好地工作,因为前面提到的错误低于本例中的单精度值的分辨率,并且汇编代码在幕后使用了双精度。当结果转换为单精度时,错误将丢失。

解决这个问题的一种方法是使用数据类型decimal,它被构造为执行必须直接转换为小数的计算(就像财务计算一样):

代码语言:javascript
复制
decimal fullPrice = 100;
decimal discount = 0.1m;
decimal finalPrice = (fullPrice * (1 - discount));
Console.WriteLine("The discounted price is ${0}.", finalPrice);

另一种方法是在显示或存储浮点计算结果之前对它们进行四舍五入。对于财务计算,应该使用:

代码语言:javascript
复制
Math.Round([your value here], 2, MidpointRounding.AwayFromZero);
票数 0
EN
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接:

https://stackoverflow.com/questions/30659263

复制
相关文章

相似问题

领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档