问R- Precision中的平等？
EN

Stack Overflow用户

提问于 2019-08-13 22:58:15

回答 1查看 78关注 0票数 0

我确信我遗漏了一些明显的东西，但是

sqrt(144) == 12^2

错误

> sqrt(144)
[1] 12
> 12^2
[1] 144

我的直觉是，它与精确度有关，但我好奇地想知道为什么会这样。

回答 1

Stack Overflow用户

发布于 2019-08-13 23:02:44

是的，这是精确度...

options("scipen"=100, "digits"=22)
sqrt(144) * 10000000000000
[1] 1199999999999999899362824

> 12 * 100000000000000000000000
[1] 1199999999999999899362824

关于Windows 10上的R 3.5.2

票数 1

页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持

原文链接：

https://stackoverflow.com/questions/57480454

复制

相似问题

问R- Precision中的平等？
EN

回答 1

Stack Overflow用户

社区

活动

圈层

关于

腾讯云开发者

热门产品

热门推荐

更多推荐

问R- Precision中的平等？EN

回答 1

Stack Overflow用户

社区

活动

圈层

关于

腾讯云开发者

热门产品

热门推荐

更多推荐

问R- Precision中的平等？
EN