首页
学习
活动
专区
圈层
工具
发布
社区首页 >问答首页 >数据采集系统

数据采集系统
EN

Stack Overflow用户
提问于 2010-01-08 22:42:56
回答 1查看 135关注 0票数 0

什么是仪器分辨率和精度以及它们的计算方法

EN

回答 1

Stack Overflow用户

发布于 2010-01-08 22:49:41

分辨率决定了您的仪器是否可以测量19.3 1mm长度和19.4 1mm长度之间的差异(本例需要至少1 1mm的分辨率)。

精度确定仪器提供的值与实际值的距离,例如19.1 of到19.5 of之间观察到的19.3 of长度(本例中的精度为0.2 of)。

当然,最好是阅读您的仪器(或您的程序要求)的文档,以确定它们用于表示和计算分辨率和精度的约定。

票数 2
EN
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接:

https://stackoverflow.com/questions/2028261

复制
相关文章

相似问题

领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档