问ArcGIS - FME坐标舍入差
EN

Stack Overflow用户

提问于 2015-06-16 14:03:04

回答 1查看 152关注 0票数 0

两个点之间的x-y坐标有一个奇怪的差别，这引起了一些问题。使用包含点的功能类FGDB作为基本地图，我使用esri快照函数绘制一个多边形。这个多边形的角被剪裁到点，并保存在一个.shp形状文件中。在ArcMap中，角点的x坐标与它们下面的点完全相同。

现在，当使用FME和FME dataviewer时，这些点的x-y坐标略有不同，仅在小数点9点上有所不同。这意味着点不落在多边形内，造成困难。

为了保持简单，点的x坐标是: 67479.59299999848，多边形角点的x坐标是: 67479.593000002205。

现在我的问题是:是什么造成了差异，因为差异不仅仅是简单而简单的四舍五入。与四舍五入，我会期待一个.593000000000，而不是2205在结尾。

我有截图，但我不能贴照片的声誉<10 .

希望有人能回答这是怎么回事！

干杯,

回答已采纳

发布于 2015-06-16 14:29:15

好的，让我回答我自己的问题(这也是我在FME论坛上提出的)。这个答案的所有功劳都要归功于FME社区知识中心的大卫·R。

大卫·R·嗨这里还有其他几个线程涉及到同样的问题，但简单的回答是，这是由于内部舍入“错误”时，转换分数之间的基数10 (你和我)和基数2(计算机)。对于大多数应用程序来说，这不应该有任何区别。您可以在这里找到更详细的答案：http://floating-point-gui.de/basic/ 大卫

票数 1

页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持

原文链接：

https://stackoverflow.com/questions/30869939

复制

相似问题

问ArcGIS - FME坐标舍入差EN