我需要对看起来像104.950178的数字执行很多数学运算--比如有多个小数位。它的范围从4位小数到8位小数,偶尔会有10位小数。
读了很多关于Stack Overflow的文章后,我知道我不应该使用float,而应该使用Decimal,因为float是基数2,Decimal是基数10。由于有很多数学运算,float会给出一个出错的结果,这不是我想要的,所以我选择了Decimal。
在我遇到以下情况之前,一切都很正常:
from decimal import *
Decimal(0.1601).quantize(Decimal('.0001'), rounding=ROUND_FLOOR) #returned Decimal('0.1600')我需要这些数字如实反映出来。你能告诉我在Python3中是否有另一个数字系统可以使用,或者是否有一种方法可以让Decimal接受给定的数字而不改变它的值?
注意:我添加了“量化...”由于Mark的注释而导致的代码部分,使其成为MVCE。我认为输出是理所当然的,并且忘记了这部分代码中的每个Decimal都被处理为在4个小数点处截断。
尽管如此,@jonrsharpe确实很敏锐。他看到了我的问题,马上就知道了(在“量化...”之前编辑)问题所在。谢谢!
发布于 2018-07-23 00:58:43
而不是:
a = 0.1601
Decimal(a)我使用:
a = '0.1601'
Decimal(a)而是将其定义为string,并且Decimal准确地反映了该值。我希望这对某些人有帮助。
https://stackoverflow.com/questions/51467263
复制相似问题