首页
学习
活动
专区
圈层
工具
发布
社区首页 >问答首页 >为什么decimal.getcontext().prec=3不适用于decimal.Decimal(1.234)

为什么decimal.getcontext().prec=3不适用于decimal.Decimal(1.234)
EN

Stack Overflow用户
提问于 2019-11-10 00:54:50
回答 1查看 48关注 0票数 0

为什么decimal.getcontext()不能为decimal.Decimal(x)使用.prec?它给出了一个很长的十进制值:

代码语言:javascript
复制
>>>decimal.getcontext().prec = 3

>>>decimal.Decimal(2.345)
Decimal('2.345000000000000195399252334027551114559173583984375')
EN

回答 1

Stack Overflow用户

发布于 2019-11-10 01:14:37

tutorial中所述,

新小数的重要性完全由输入的位数决定。上下文精度和仅四舍五入在算术运算期间起作用。

代码语言:javascript
复制
>>> decimal.getcontext().prec = 3
>>> decimal.Decimal(2.345)
Decimal('2.345000000000000195399252334027551114559173583984375')
>>> decimal.Decimal(2.345) + decimal.Decimal(4)
Decimal('6.35')
票数 1
EN
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接:

https://stackoverflow.com/questions/58781495

复制
相关文章

相似问题

领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档