我正在读一篇关于浮点数和双精度数之间区别的文章。他们给出了一个例子如下:
假设你有一件100美元的商品,你给了10%的折扣。您的价格都是以美元表示的,所以您使用int变量来存储价格。下面是你得到的结果:
int fullPrice = 100;
float discount = 0.1F;
Int32 finalPrice = (int)(fullPrice * (1-discount));
Console.WriteLine("The discounted price is ${0}.", finalPrice);猜猜看:最终价格是89美元,而不是预期的90美元。你的客户会很高兴,但你不会。你已经给了他们额外的1%的折扣。
在上面的例子中,为了计算最终价格,他们使用了fullPrice * (1-discount)。他们为什么使用(1-disocunt)?应该是fullPrice * discount。
所以我的困惑是关于计算最终价格的逻辑。为什么他们使用(1-discount)而不是discount?
发布于 2015-06-05 14:03:08
发布于 2015-06-05 13:59:18
这个问题实际上是关于数学的。
让我们建议你有一件100美元的商品。
卖家给你打九折。
现在你需要计算一件商品的最终价格。也就是说,你应该给多少钱才能得到它?
答案是:你需要支付商品的全价减去折扣价格。
100%成本- 10%折扣= 90%最终价格
这就是为什么它是fullPrice * (1 - discount)。
如果您使用公式fullPrice * discount计算它,那么这将意味着100美元的商品将由于10%的折扣而以10美元的价格出售-这是不正确的。实际上,这个公式fullPrice * discount可以用来计算贴现金额。
发布于 2015-06-05 15:43:55
上述示例的总体逻辑没有任何问题,但它确实有非常不幸的数据类型选择。这导致这些值被隐式转换为双精度,从而在过程中引入了轻微的舍入误差。通过转换回int,结果被截断。这极大地放大了舍入误差。
这是一个很好的例子,说明了在编程中处理财务价值时经常出现的问题:
浮点值不能很好地转换为小数。
大多数新开发人员倾向于将浮点值视为小数,因为在将浮点值转换为字符串时,它们大多由小数表示,反之亦然。事实并非如此。浮点值的小数部分存储为二进制小数,描述为here。
这使得浮点值(和它们的计算)与它们的小数表示略有偏差。这就是为什么下面的结果是$89,9999998509884:
double fullPrice = 100;
double discount = 0.1F;
double finalPrice = (fullPrice * (1 - discount));
Console.WriteLine("The discounted price is ${0}.", finalPrice);有趣的事实:当使用float作为数据类型时,上述方法可以很好地工作,因为前面提到的错误低于本例中的单精度值的分辨率,并且汇编代码在幕后使用了双精度。当结果转换为单精度时,错误将丢失。
解决这个问题的一种方法是使用数据类型decimal,它被构造为执行必须直接转换为小数的计算(就像财务计算一样):
decimal fullPrice = 100;
decimal discount = 0.1m;
decimal finalPrice = (fullPrice * (1 - discount));
Console.WriteLine("The discounted price is ${0}.", finalPrice);另一种方法是在显示或存储浮点计算结果之前对它们进行四舍五入。对于财务计算,应该使用:
Math.Round([your value here], 2, MidpointRounding.AwayFromZero);https://stackoverflow.com/questions/30659263
复制相似问题