首页
学习
活动
专区
圈层
工具
发布
社区首页 >问答首页 >python错误中的Decimal对象

问python错误中的Decimal对象
EN

Stack Overflow用户
提问于 2018-01-27 02:46:48
回答 1查看 162关注 0票数 2
代码语言:javascript
复制
>>> from decimal import *
>>> amount = Decimal(0.00114206599999999995793953377898333201301284134387969970703125)
>>> sZ = Decimal(0.0001)
>>> amount.quantize(sZ, rounding=ROUND_DOWN)
Traceback (most recent call last):
  File "<console>", line 1, in <module>
decimal.InvalidOperation: [<class 'decimal.InvalidOperation'>]
>>> 
>>> amount = amount - (amount % sZ)
>>> amount
Decimal('0.001100000000000000052713909626')
>>> amount.quantize(sZ, rounding=ROUND_DOWN)
Traceback (most recent call last):
  File "<console>", line 1, in <module>
decimal.InvalidOperation: [<class 'decimal.InvalidOperation'>]
>>> 

我预计会得到0.011美元

谁能给我解释一下我的例子中的python Decimal出了什么问题?

基本上,我只想得到一个数字,它是大量的块大小( sZ ),并从‘sZ’向下舍入(可能永远不会更多)。

EN

回答 1

Stack Overflow用户

发布于 2018-01-27 02:53:50

如果您确实关心精度,则需要执行以下操作:

代码语言:javascript
复制
>>> from decimal import *
>>> amount = Decimal('0.00114206599999999995793953377898333201301284134387969970703125')
>>> sZ = Decimal('0.0001')
>>> amount.quantize(sZ, rounding=ROUND_DOWN)

问题是float有精度问题,并且将float作为参数传递给Decimal已经失去了精度。

票数 3
EN
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接:

https://stackoverflow.com/questions/48467677

复制
相关文章

相似问题

领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档