假设我的机器中有一个单精度浮点格式变量,我想在它上指定给定操作的结果。来自维基百科
IEEE754标准将binary32指定为:
我不清楚最后一项声明(e-6的精确性)是如何推导出来的。通常,假设数据类型为上面的float32或float64,如何才能在基数10中找到精度限制?
发布于 2021-12-10 14:07:03
基本的数学方法是:搜索n,这样
2^24 = 10^n你可以通过取对数来解决这个问题:
24*log(2)=n*log(10)以10为基数,这大约是
7.22... = n大约7位(十进制)的精度。
请注意,数字在拉丁文中的意思是指指,所以数字应该自然是十进制。
https://stackoverflow.com/questions/70305391
复制相似问题