首页
学习
活动
专区
圈层
工具
发布
社区首页 >问答首页 >从系统数组到无限数组的隐式转换不会保持双重精度

问从系统数组到无限数组的隐式转换不会保持双重精度
EN

Stack Overflow用户
提问于 2014-09-17 10:21:45
回答 1查看 91关注 0票数 1

当我将一个双倍的系统数组分配给一个无数的双数组时,这些值被舍入到最近的整数。这种情况只发生在大型数组中。

在ILnumerics中是否有任何方法来指定舍入应该发生多少小数?

下面的屏幕截图显示了这个问题。Sample_pulsedata是长度为1860的双数组,我将其分配给sample_ydata。

​

​

EN

回答 1

Stack Overflow用户

回答已采纳

发布于 2014-09-18 21:05:19

元素并不是真正的四舍五入。其效果更多地来自于可视化工作室数据提示中元素的显示方式。ILNumerics试图找到一个公共缩放因子,它允许显示数组中对齐的所有元素。

在您的示例中--想必--在较高的索引处存在较大的值,目前没有显示这些值(向下滚动以找到它们)。这些元素导致缩放因子为1/10^4。这在第一行index:'(:;:) 1e+004‘中表示。因此,32.57必须四舍五入到33,以适应小数点之后的4位数字。'4‘是ILNumerics中的一个固定值,不易更改。

当然,数组元素的实际值不受影响。您可以使用“监视”窗口只显示数组中有趣的部分,而不产生舍入效果:

代码语言:javascript
复制
sample_ydata["0:13"]

或者,更好的是,使用ILNumerics阵列可视化器来可视化您的数据。这不仅给出了整个数组的一个很好的概述,而且也防止了像您所遇到的这样的人工制品。

票数 1
EN
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接:

https://stackoverflow.com/questions/25888040

复制
相关文章

相似问题

领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档