首页
学习
活动
专区
圈层
工具
发布
社区首页 >问答首页 >IEEE754浮点最常用的舍入算法

IEEE754浮点最常用的舍入算法
EN

Stack Overflow用户
提问于 2016-05-18 06:58:15
回答 1查看 293关注 0票数 2

IEEE754标准定义了五个舍入规则。前两轮到最近的值(与偶数的关系,与零的关系);其他的称为定向圆:向零,向正无穷,向负无穷。其中哪一个是最常用的,为什么?

EN

回答 1

Stack Overflow用户

回答已采纳

发布于 2016-05-18 07:14:29

最常用的模式是默认模式:圆到最近,绑定到偶数。

为什么?这只是猜测,但是:

  • 最小化错误:有向四舍五入可以有最多1 ulp舍入误差,而1/2 ulp的圆周到最近
  • 避免舍入偏差:当数以千计的四舍五入被链锁时,与零相接可能会产生偏差。
票数 2
EN
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接:

https://stackoverflow.com/questions/37292324

复制
相关文章

相似问题

领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档