首页
学习
活动
专区
圈层
工具
发布
社区首页 >问答首页 >Atan2精度问题

Atan2精度问题
EN

Stack Overflow用户
提问于 2022-01-22 13:56:02
回答 1查看 181关注 0票数 -1

当我试图用两种不同的方法计算齐次矩阵时,有一个非常小的矩阵。

差异,0和0.0000000000000061229677524420688位于这两种物质的同一位置。

数字0.00000000000061229677524420688非常接近0,所以我把它们当作

同样的号码。我认为如果插入Atan2(,),答案应该是相同的。

但出乎意料的是,答案完全不同。以下是代码段:

代码语言:javascript
复制
         Dim b = Atan2(0.000000000000000061229677524420688, 0)
         Dim c = Atan2(0, 0)

在编译器中运行代码后,b为1.57096,c为0。

EN

回答 1

Stack Overflow用户

发布于 2022-01-22 15:15:43

您的atan2参数在数学意义上是无效的,对于这两个零都是未定义函数。

请注意,第一个参数应该是r*sin(fi),第二个参数r*cos(fi)表示某些角fir>0

在dotnet 规则是中--注意,在第4种情况下,它们分配了0,而人们可能会期望NaN或某些错误:

代码语言:javascript
复制
For points on the boundaries of the quadrants, the return value is the following:

If y is 0 and x is not negative, θ = 0.
If y is 0 and x is negative, θ = π.
If y is positive and x is 0, θ = π/2.
If y is negative and x is 0, θ = -π/2.
If y is 0 and x is 0, θ = 0.

你的价值符合第五箱和第三箱

票数 1
EN
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接:

https://stackoverflow.com/questions/70813496

复制
相关文章

相似问题

领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档