首页
学习
活动
专区
圈层
工具
发布
社区首页 >问答首页 >浮式表示法精度极限阶数的计算

浮式表示法精度极限阶数的计算
EN

Stack Overflow用户
提问于 2021-12-10 13:39:06
回答 1查看 58关注 0票数 0

假设我的机器中有一个单精度浮点格式变量,我想在它上指定给定操作的结果。来自维基百科

IEEE754标准将binary32指定为:

  • 符号位:1位
  • 指数宽度:8位
  • 符号和精度: 24位(23位显式存储) 这提供了6到9个重要的十进制数字的精度。

我不清楚最后一项声明(e-6的精确性)是如何推导出来的。通常,假设数据类型为上面的float32float64,如何才能在基数10中找到精度限制?

EN

回答 1

Stack Overflow用户

发布于 2021-12-10 14:07:03

基本的数学方法是:搜索n,这样

代码语言:javascript
复制
2^24 = 10^n

你可以通过取对数来解决这个问题:

代码语言:javascript
复制
24*log(2)=n*log(10)

以10为基数,这大约是

代码语言:javascript
复制
7.22... = n

大约7位(十进制)的精度。

请注意,数字在拉丁文中的意思是指指,所以数字应该自然是十进制。

票数 1
EN
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接:

https://stackoverflow.com/questions/70305391

复制
相关文章

相似问题

领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档