首页
学习
活动
专区
圈层
工具
发布
社区首页 >问答首页 >Python降低零的精度

Python降低零的精度
EN

Stack Overflow用户
提问于 2012-11-29 19:44:08
回答 1查看 341关注 0票数 1

我有一段代码,它正在查看来自一些计算的数字,并且非常精确,该代码试图根据原始数字(在计算之前)找出正确的精度。然后,它使用以下内容应用舍入:

代码语言:javascript
复制
with localcontext() as ctx:
    ctx.prec = 5 # simplification for the sake of this example
    my_figure = +my_figure

只要my_figure不等于零,一切都是好的。这根本不会影响零,所以它的精度与以前相同(本例中不是5)。

代码语言:javascript
复制
my_figure = Decimal('0.0000...') # 0E-30, it comes from some calculations, not assigned like that
with localcontext() as ctx:
    ctx.prec = 5 # simplification for the sake of this example
    my_figure = +my_figure
    print my_figure # I get 0E-30, no rounding applied, I was expecting 0.0000

有没有合适的方法来做这件事,也会影响到零?

EN

回答 1

Stack Overflow用户

发布于 2013-11-27 21:48:40

Decimal.normalize做你想做的事了吗?它不会将精度保持为5dp,但至少它会将0E-30压缩为合理的精度。

票数 0
EN
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接:

https://stackoverflow.com/questions/13625061

复制
相关文章

相似问题

领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档