问指定分数时的Matlab精度
EN

Stack Overflow用户

提问于 2012-11-11 01:07:09

回答 1查看 336关注 0票数 1

我想创建一个具有三个值1/6，2/3和1/6的向量。显然，我的Matlab必须将这些有理数转换成实数，但我希望它能最大限度地提高可用的精度。

它将值存储为双精度，但它将它们存储为-

b =

    0.1667    0.6667    0.1667

这是一个巨大的精度损失。双精度不应该意味着数字小数部分的52位精度，为什么数字被截断得如此严重？

发布于 2012-11-11 01:13:26

您不能将值作为1/2、1/4或1/6存储到双精度变量中...这些值在系统后面存储为小数；如果您想存储这些值，请尝试将其存储为字符串；

每当你想要使用这些字符串进行数学计算，然后将值转换为数字并继续...

票数 0

页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持

原文链接：

https://stackoverflow.com/questions/13324111

复制

相似问题

问指定分数时的Matlab精度EN