首页
学习
活动
专区
圈层
工具
发布
社区首页 >问答首页 >如何让Decimal正确反映值?

问如何让Decimal正确反映值?
EN

Stack Overflow用户
提问于 2018-07-23 00:47:48
回答 1查看 57关注 0票数 0

我需要对看起来像104.950178的数字执行很多数学运算--比如有多个小数位。它的范围从4位小数到8位小数,偶尔会有10位小数。

读了很多关于Stack Overflow的文章后,我知道我不应该使用float,而应该使用Decimal,因为float是基数2,Decimal是基数10。由于有很多数学运算,float会给出一个出错的结果,这不是我想要的,所以我选择了Decimal。

在我遇到以下情况之前,一切都很正常:

代码语言:javascript
复制
from decimal import *
Decimal(0.1601).quantize(Decimal('.0001'), rounding=ROUND_FLOOR) #returned Decimal('0.1600')

我需要这些数字如实反映出来。你能告诉我在Python3中是否有另一个数字系统可以使用,或者是否有一种方法可以让Decimal接受给定的数字而不改变它的值?

注意:我添加了“量化...”由于Mark的注释而导致的代码部分,使其成为MVCE。我认为输出是理所当然的,并且忘记了这部分代码中的每个Decimal都被处理为在4个小数点处截断。

尽管如此,@jonrsharpe确实很敏锐。他看到了我的问题,马上就知道了(在“量化...”之前编辑)问题所在。谢谢!

EN

回答 1

Stack Overflow用户

回答已采纳

发布于 2018-07-23 00:58:43

而不是:

代码语言:javascript
复制
a = 0.1601
Decimal(a)

我使用:

代码语言:javascript
复制
a = '0.1601'
Decimal(a)

而是将其定义为string,并且Decimal准确地反映了该值。我希望这对某些人有帮助。

票数 1
EN
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接:

https://stackoverflow.com/questions/51467263

复制
相关文章

相似问题

领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档